Сад на участке, пожалованном императором Петром Первым князю Юсупову, появился здесь даже раньше одного из юсуповских дворцов. Это был скромный парк с двумя аллеями, прудами и цветником. В конце XVIII века. когда уже был построен и даже перестроен юсуповский дворец на Садовой, парк был расширен. В нём устроили огромный пруд, в котором жили рыбы с золотыми колечками на плавниках, насыпные холмы, грот, мраморные скульптуры, беседки. Оранжерея при саде давала урожаи арбузов, ананасов, различных ягод, да такие большие, что объявления об оптовой продаже этих лакомств публиковались в газетах. В определенные дни в саду разрешалось бывать обычной публике.
В 1810 году Юсуповы продали имение в казну, сад перешёл во владение Института корпуса инженеров путей сообщения. Александр II спустя полвека велел открыть часть сада для публики, а перед этим провести масштабную реконструкцию. Пруды с островами в южной части парка соединили мостиками, построили лодочную станцию и установили фонтаны. Позже здесь появился тир и другие аттракционы. В 1865 году сад стал брать в аренду яхт-клуб, зимой в саду можно было кататься с горок и на коньках, строить снежные городки. Через 20 лет Юсуповский сад полностью стал принадлежать Обществу любителей бега на коньках, и здесь открылась школа фигурного катания. Этот вид спорта развивался здесь так успешно, что с конца XIX века в Юсуповском саду стали проводить чемпионаты страны по фигурному катанию, а в 1924-м здесь состоялся первый советский чемпионат в этом виде. В этой школе учился первый олимпийский чемпион из России – Николай Панин-Коломенкин. В советскую эпоху Юсуповский сад назывался «Детским парком», в нём был установлен памятник Ленину. В 1989-м саду вернули прежнее название, а памятник убрали. Как и 200 лет назад, сейчас Юсуповский сад принадлежит учебному заведению – Университету путей сообщения.