Професионалната кариера на Хербст, който е от еврейски произход, започва от редакцията на „Военни известия”. Сътрудничи в български и чужди вестници, а през 1908 година работи и в „Български търговски вестник“.
По време на управлението на Демократическата партия е директор на печата (1908-1911). Заедно с Александър Балабанов и Александър Гиргинов редактира стартиралия неофициален правителствен орган вестник „Време“ (1908).
Участва в Балканската и Междусъюзническата война, където е ранен. Носител е на ордена „За храброст“.
След Септемврийското въстание разобличава репресиите на режима на Цанков в публикациите си. При убийството на комуниста Вълчо Иванов през нощта на 12 срещу 13 февруари 1925 г. става свидетел на изхвърлянето на трупа му от извършителите — група офицери, начело с капитан Кочо Стоянов. На следващия ден описва видяното във вестниците си. С това окончателно си спечелва омразата на първото правителство на Демократическия сговор. По време на априлските събития от 1925 година Йосиф Хербст „безследно изчезва“.
В продължение на 45 години комунистическият режим в България тенденциозно използваше името на Йосиф Хербст за пропаганда на тоталитарната си идеология, представяйки го за жертва на фашизма. Хербст обаче, който е женен за дъщерята на Петко Каравелов, винаги е бил заклет демократ и родолюбец, а журналистическата му почтеност в никакъв случай не може да бъде смесвана с идеологията на комунизма.