Когда началась война, Якову было 15 лет и он, ученик училища, начал работать на ЛВРЗ, изготавливать мины и снаряды для фронта.

В 1944 году, когда исполнилось 18 лет, он решил, во что бы ни стало попасть на фронт. У него была железнодорожная бронь и на фронт его не брали, и он 18-летний мальчишка, просто не пошел на работу – его осудили за невыход на работу и отправили на фронт, в составе штрафного батальона.

После небольшой подготовки, его отправили в Восточную Пруссию, в район городов Инстенбурга и Кёнигсберга, где он воевал в составе 3-го Белорусского фронта в 93-ей сибирской гвардейской дивизии. Бои в Восточной Пруссии и штурм Кенигсберга признаны одними из самых ожесточенных и кровопролитных в истории Великой Отечественной войны. 

Яков Митрофанович неохотно рассказывает о войне, говорит было много трудностей, тяжелее всего было смотреть, как гибли сослуживцы. Одним из самых кровавых был первый бой под Инстербургом, в бой пошло четыреста человек, к концу атаки в живых осталось двадцать. Затем было взятие дачи Паулюса, разведка боем под Кенингсбергом.

В одном из боев в апреле 1945 года был тяжело ранен в спину, осколками пробило легкое. Ему сделали операцию, но один осколок так и не смогли вынуть, он с ним живет и сейчас.

Победу он встретил в госпитале в Туле. После госпиталя по распоряжению командования он еще три года служил в особом ботальоне в Москве, охранял немецких военнопленных, а затем строил военный аэропорт в Рязани и вернулся в Улан-Удэ только в 1950 году.

Награжден Орденом Отечественной Войны II степени, медалью «За отвагу» и почетными медалями и грамотами СССР и РФ. Его имя занесено в книгу Памяти Республики Бурятия.