Коллекция музея боевой славы стала формироваться ещё в годы Великой Отечественной войны. Но официально музей был основан только в 1981 году, к 40-летнему юбилею одной из ярославских дивизий, принимавших участие в Великой Отечественной войне. В послевоенное время уже собранная коллекция пополнилась находками из экспедиций, проходивших по местам боёв, в которых участвовали ярославские воины.
Самая большая экспозиция музе боевой славы – «Победители!». Она посвящена ярославцам – фронтовикам: представлены их личные вещи. Среди прославленных имён – маршал Федор Толбухин – здесь можно видеть его китель и фуражку, генерал Павел Батов, дважды Герой Советского Союза, отдавший армии 70 лет жизни, актриса Ярославского драмтеатра Софья Аверичева, обладательница 18 боевых наград. Имена знаменитых воинов разных эпох, чья жизнь была связана с Ярославской землей, увековечены на Аллее полководцев, например, князь Александр Невский, адмирал Федор Ушаков. В музее также хранится техника, прошедшая боевое крещение в советский период. Это зенитное орудие с бронекатера, который был изготовлен на местной верфи, пистолет-пулемет системы Шпагина, бронетранспортер, танк Т-54, беспилотный самолёт.