А дело было так. 6 июля около трех часов дня Блюмкин и его сообщник Андреев, тоже сотрудник ЧК, подъехали к германскому посольству в Денежном переулке, показали охране пропуск, подписанный Дзержинским, и попросились на прием к послу якобы по срочному делу. Посол вышел к ним, но, к своему удивлению, обнаружил, что повод для посещения его был не столь значителен; он касался некоего графа Роберта Мирбаха, попавшего в плен к русским и удерживаемого в ЧК. Граф Роберт Мирбах принадлежал к австро-венгерской ветви рода Мирбахов и являлся очень дальним родственником послу, если вообще между ними существовала родственная связь. Разговор продолжался минут десять, и вдруг Блюмкин сунул руку В портфель, вытащил пистолет и несколько раз в упор выстрелил в посла и в двух его помощников, сидевших рядом с ним напротив Блюмкина за круглым столом. Ни один из выстрелов не достиг цели. Помощники посла рухнули на пол, а Мирбах попытался скрыться в соседней комнате. Блюмкин погнался за ним, стреляя на ходу. Одна из пуль попала Мирбаху в затылок, он упал. Смерть была мгновенной. Блюмкин метнул в распростертое тело посла бомбу. Раздался страшный взрыв, от которого вылетели стекла и с потолка упала люстра, разбившись на мелкие осколки. Воспользовавшись общим переполохом, Блюмкин с Андреевым бежали, выпрыгнув из окна в сад, а там перемахнули через высокую чугунную ограду. Их ожидал автомобиль с заведенным мотором, в течение многих месяцев о них не было ни слуху ни духу.
Это было на редкость странное убийство, совершенное, казалось бы, при отсутствии какого бы то ни было мотива преступления. Посол всаживал миллионы золотых рублей в большевистскую казну, только чтобы большевики вышли из войны, а всего за месяц до своей смерти написал Диего Бергену, прося его регулярно высылать минимум три миллиона рублей в месяц для поддержания «приличных» отношений с большевиками. Он не слишком доверял большевикам, считая их хамами и разбойниками, которым удается держаться у власти лишь с помощью террора. «Людей потихоньку убивают сотнями, — писал Мирбах. — Все это не так уж плохо, но нет сомнений в том, что физические меры, помогающие большевикам удерживать власть, не могут служить постоянной опорой их правления». На тот момент немцы были готовы помогать большевикам по мере всех своих возможностей — им нужен был мир на восточном фронте.
Большевики выдвинули версию, что убийство германского посла было плодом тщательно спланированного заговора левых эсеров, имевшего целью развязать войну с Германией. Распространялись всякие небылицы, будто бы левые эсеры попытались даже арестовать Дзержинского и Лациса, затеявших расследование убийства Мирбаха, но тем каким-то чудом удалось спастись. Однако доподлинно известен следующий факт: в те минуты, когда совершалось убийство, Мария Спиридонова и многие другие левые эсеры находились в Большом театре, где проходил 5-й Всероссийский съезд Советов. Вдруг, по заранее условленному сигналу, большевики тихо покинули Большой театр, здание было окружено военными, а члены фракции левых эсеров были арестованы. На следующее утро казармы, в которых были расквартированы гвардейцы, состоявшие в партии эсеров, были подвергнуты артиллерийскому обстрелу, но большинство из них спаслось, отступив к Курскому вокзалу.
Несмотря на признания левых эсеров в причастности к убийству (наверняка, пытками вырванные у них), слишком многое говорит за то, что Мирбах был убит по приказу Ленина.