Бабий Яр это глубокий овраг в северной части Киева, спускающийся с нагорной местности Сырец к низинной Куреневке. Таких яров в рельефе города немало. Солдаты из близлежащих лагерей иногда проводили в яру военные учения. В 1940 году было принято решение устроить здесь лыжную базу и трамплин. 

Фашисты вошли в Киев 19 сентября 1941 года. А 27 сентября на стенах домов появилось объявление на русском, украинском и немецком языках: »Все жиды города Киева и его окрестностей должны явиться в понедельник 29 сентяоря 1941 года к 8 часам утра на угол Мельниковой и Доктеривской улиц (возле кладбищ). Взять с собой документы, деньги и ценные вещи, а также теплую одежду, белье и пр. Кто из жидов не выполнит этого распоряжения и будет найден в другом месте, будет расстрелян. Кто из граждан проникнет в оставленные жидами квартиры и присвоит себе вещи, будет расстрелян». 

Несмотря на то, что многие жители Киева эвакуировались или сражались на фронте, здесь еще остались десятки тысяч евреев (главным образом старики, женщины, инвалиды, дети). Почти все они рано утром 29 сентября двинулись к названному в объявлении месту. Улицы Мельникова и Дегтяревская (таковы их точные названия) существуют в Киеве и сегодня. Поблизости находилась товарная железнодорожная станция. Евреи верили, что их всего лишь вывозят.

Памятник открыт 2 июля 1976 года и представляет собой многофигурную композицию из бронзы.