Во время своего пребывания в Первой Конной армии, Бабель вел дневник, который послужил основой для цикла рассказов о Конармии в 1923–1926 годах. Его произведения отличались от официальной легенды о буденновцах, показывая не только их мужество, но и жестокость и животные инстинкты. "Конармия" стала литературным шедевром, за создание которого писатель многим пожертвовал. Книга вызвала скандал и ненависть со стороны руководства армии и официальных историков, но несмотря на это, она осталась шедевром, пережившим критику и похвалу.
**Переход через Збруч и первые столкновения**
Дивизия переправляется через Збруч ночью. Рассказчик находит в Новоград-Волынске разгромленную квартиру с беременной еврейкой и двумя рыжими евреями. Он просит убрать мусор, ложится рядом с третьим, укрытым с головой. Ночью женщина будит его, снимает одеяло с заснувшего - это мертвый старик с вырванным горлом и разрубленным лицом. Поляки зарезали его на глазах у дочери.
В пути рассказчик встречает начдива шесть Савицкого, который забирает его в штаб, несмотря на презрение казаков к «очкастым». В поисках ночлега квартирьер советует испортить самую чистую даму, чтобы бойцы проявили ласку. Казаки выкидывают вещи рассказчика, смеются над ним. Тогда он силой заставляет хозяйку зажарить гуся, убив его сапогом. После этого казаки принимают его в круг, дают ложку, слушают ленинскую речь.
Курдюков диктует письмо матери, сообщает, что жив, просит прислать кабанчика, описывает, как отец-деникинец зарезал брата Федю, а другой брат Семен Тимофеич позже поймал отца, выкрасил ему бороду, судил и казнил. Рассказчик просит показать фотографию - на ней отец-стражник, мать и два брата.
**Пан Аполек, Гедали и рабби**
В Новограде рассказчик знакомится с паном Аполеком, художником, который пишет святых с местных жителей. Тот утверждает, что Иисус был женат на Деборе, и та родила первенца, которого скрыли попы. Аполек предлагает написать портрет рассказчика в образе блаженного Франциска.
В Житомире рассказчик встречает старого Гедали, владельца лавки древностей. Гедали говорит, что революция хороша, но она прячется и высылает стрельбу. Он хочет Интернационала добрых людей, чтобы каждую душу взяли на учет и дали паек. Рассказчик отвечает, что Интернационал кушают с порохом.
Гедали ведет рассказчика к рабби Моталэ. Там среди бесноватых и лжецов рассказчик видит юношу с лицом Спинозы - сына рабби Илью. Старый шут Мордхэ вырывает у него папиросу, плюет в лицо. Позже, во время отступления, рассказчик встретит умирающего Илью в поезде - тот вступил в партию, принял сводный полк, но погибает от тифа. Рассказчик хоронит его на забытой станции.
**Смерть Долгушова, Афонька Бида и эскадронный Трунов**
Под Бродами рассказчик встречает телефониста Долгушова с вырванным животом. Тот просит добить, чтобы поляки не надругались. Рассказчик не может, уезжает. Афонька Бида забирает документы и стреляет Долгушову в рот, после чего бледнеет и говорит, «Жалеете вы, очкастые, нашего брата, как кошка мышку». Рассказчик теряет Афоньку как друга.
Позже у Афоньки убивают коня. Он горюет, потом исчезает на неделю, добывая нового коня грабежами и поджогами. Возвращается на рослом жеребце, с вытекшим глазом и в куртке из голубого ковра.
Эскадронный Трунов расстреливает пленного поляка, несмотря на протесты рассказчика. Затем в бою с четырьмя бомбовозами майора Фаунт-Ле-Ро Трунов и казак Андрюшка Восьмилетов остаются у пулемета, сбивают один аэроплан? (в тексте не сказано, что сбили - только что расстреляли из пулеметов, не причинив вреда). Оба гибнут. Трунова хоронят в общественном саду Сокаля.
**История одной лошади, соль и дьякон Аггеев**
Начдив Савицкий отбирает у Хлебникова белого жеребца. Хлебников мстит, пишет заявление о выходе из партии, уходит из армии. Позже он пишет Савицкому письмо с примирительным пролетарским кличем. Савицкий отвечает, что жеребца больше нет - убит, а сам начдив, вероятно, скоро погибнет.
В вагон к бойцам просится женщина с «грудным дитем». Балмашев убеждает казаков пустить ее ради материнства. Ночью он обнаруживает, что в пеленках спрятан пуд соли. Женщина заявляет, «Вы за Расею не думаете, вы жидов Ленина и Троцкого спасаете». Балмашев выбрасывает ее на ходу, но она остается невредима. Тогда он убивает ее из винтовки.
Дьякон Аггеев симулирует глухоту, чтобы не воевать. Его везут в тыл на телеге. Акинфиев по дороге стреляет над его ухом, проверяя, действительно ли он глух. Дьякон не реагирует. Акинфиев говорит, что «правду из него удит». В конце концов дьякон просит, «убей меня, Иван», но Акинфиев лишь обещает надругаться. Дьякон целует руку рассказчику, просит написать жене.
**Дневник 1920 года, погромы, бои и разложение**
В Житомире рассказчик видит следы погрома, учиненного поляками, собранных на рынке евреев уводили на скотобойню, резали языки. В Ровно он знакомится с семьей Хастов, где все дрожат от страха перед грабежами.
В боях под Бродами и Львовом дивизия несет огромные потери. Убиты Дундич, Шадилов, множество командиров. После атаки под Замостьем армия начинает отступать. Шеко, начальник штаба, плачет после контузии. Апанасенко, новый начдив, пишет атаманские письма на Дон. Войска устали, лошади падают, бойцы апатичны.
Рассказчик видит, как на его глазах убивают пленного польского офицера. Он с ужасом замечает, что сам не умеет убивать. В конце дневника - тяжелый переход под дождем, бегство из Ковеля, голод и чесотка. Рассказчик думает о доме и о том, что армия разлагается.