Потерята, командвана от майор Тефиков, който е съвипускник на Гоце Делчев, още през нощта на 3 срещу 4 май блокира село Баница. Вместо да изчака нощта, Делчев решава да изведе четниците от селото, за да спаси мирното население от турските репресии. За жалост опитът му пропада. Битката завършва със смъртта на Гоце Делчев и Димитър Гущанов, докато другите успяват да избягат.
Гибелта на македонския войвода се възприема от съвременниците и от историците като една от най-тежките загуби за ВМОРО.
Ето какво е написал в памет на Гоце Делчев големият Пейо Яворов:
Мъртвият Гоце
На 20 април Гоце разказваше на другарите си по-раншни свои сънища, които съвпадаха с избиването на близки нему хора, и думаше:
– С нашия живот, какъвто е, станах вече и фаталист. Нощеска сънувах, че турци ме удариха в сърцето. Щипската чета е разбита в Карбинци. Милан, брат ми, е в тази чета и сигурно е убит.
Гоце не беше сънувал смъртта на втория свой по-малък брат: Милан падна много по-късно, летос, в Неманци, Кукушко.
Гоце забравяше своите неотдавнашни предчувствия. Сънят пророчествуваше неговия гроб.
Почти едновременно с Гоце биват убити още шестима, в това число и Гущанов. Останалите живи влазят в една плевня, отдето след цял ден сражение се измъкват незабелязано между пламъците на Баница, цяла изгорена.
– Петнадесет часа – спомня си г. Хаджидимов – турците не посмяха от куршумите ни да приближат нашите убити. Петнадесет часа ний гледахме мъртвия Гоце, приведен сякаш върху гробът на Македония. И петнадесет часа ни се късаха сърцата...
Защото осиротяваше цял народ.