7 жовтня 1941 р. з Кіровограда до Умані прибув 304-ий резервний поліцейський батальйон під командуванням майора Карла Декерта. Зранку наступного дня німецькі та місцеві поліцейські почали прочісувати будинки на території гетто та зганяти всіх виявлених євреїв на площу Старого базару, а звідти – до в’язниці, де їх змушували зняти верхній одяг, здати документи, гроші та інші цінності. Після цього малолітніх дітей, старих та людей з інвалідністю на вантажівках, а решту пішки колонами по 500-600 осіб конвоювали до урочища «Сухий Яр» за 2 км на північний захід від Умані. По дорозі було розстріляно чимало з тих, хто намагався здійснити втечу чи був занадто знесилений, аби йти далі.
В «Сухому Яру» вже були підготовлені три ями, до яких групами по 5 осіб підводили євреїв і вбивали пострілами в голову, змушуючи перед цим лягати на тіла тих, хто був розстріляний перед ними. «Євреїв ставало все менше, вони по п’ять підходили і їх стріляли, але кожен із цього натовпу намагався стати останнім, аби прожити ще кілька хвилин, інші не могли пережити цього всього і бігли [до ям] до того як підходила їхня черга. Тут же стояли німці, сміючись, фотографували цю картину» – описувала те, що відбувалося в «Сухому Яру» Маня Файнгольд.
Безпосередньо здійснювали розстріл німецькі поліцейські спершу з 2-ої роти 304-го батальйону, а потім і з інших рот, які до цього були задіяні в прочісуванні будинків на території гетто та конвоюванні євреїв до місця масового вбивства. До цього залучались лише ті, хто зголошувався добровільно. До того ж їм видали по пляшці шнапсу і стріляли вони вже в стані алкогольного сп’яніння. Під час післявоєнного судового розслідування німецькі поліцейські зізнавались, що кожен із них власноруч вбив від 30 до 400 осіб. Зокрема один із них Вальтер Гофман свідчив: «Я був в ямі загалом 40 хвилин. Після того як спорожнив обидва своїх магазини я зміг піти. Оскільки спершу я стріляв двічі короткими чергами я застрелив біля 36 чи 37 людей за цей час… Серед цих 36 чи 37 людей, яких я застрелив під час цієї операції по вбивству, були чоловіки, жінки і діти різного віку. Наймолодшій дитині (хлопцю) було приблизно 14 чи 15 років. Я також пам’ятаю, що двом жінкам було біля 18 і 20 років, в той час як інші жінки були старші».
Масове вбивство закінчилось близької 17-ої вечора. Сучасні дослідники, як-от Олександр Круглов, озвучують цифру у 6 000 жертв, з яких 600 євреїв з числа радянських військовополонених.
З середини листопада 1943 р. до січня 1944 р. в рамках реалізації Зондеракції 1005 по приховуванню слідів нацистських злочинів масові поховання в «Сухому Яру» були розкопані, а близько 5 000 тіл спалені. В’язні, яких змушували виконувати ці роботи, були розстріляні після їх закінчення.
У 1945 р. на місці масового вбивства в урочищі «Сухий Яр» з ініціативи Уманської юдейської релігійної общини було встановлено обеліск із сірого каменю. Табличка на ньому означувала вбитих тут як «радянських мирних громадян», що було цілком в дусі тогочасного замовчування Голокосту в публічному просторі. Місцева влада ці заходи ігнорувала. Лише після розпаду Радянського Союзу у 1991 р. на обеліску представниками єврейської общини було встановлено нові таблички івритом та російською мовою, на яких вже вказувалось про єврейське походження вбитих тут людей. Проте на обеліску зазначено, що тут було вбито 25 000 осіб. Очевидно, що така цифра є значно перебільшеною з огляду як на тогочасну чисельність єврейського населення Умані (біля 9 000 осіб), так і на наведені вище цифри, і не могла перевищувати 5000-6000 осіб.