В 1926 году впервые был издан сборник рассказов Исаака Бабеля «Конармия». Книга состоит из 38 коротких рассказов, основанных дневниковых записях автора, которыеон вёл на службе в 1-й Конной армии под командованием Семёна Будённого во время Советско-польской войны 1920 года. Книга встретила жёсткую критику со стороны советского руководства, так как Первая Конная, показанная Бабелем, отличалась от красивой легенды, которую сочинила о буденновцах официальная пропаганда. Особенно ругал книгу сам Будённый. Единственным, кто вступился за Бабеля, был М. Горький. В 2013 году «Конармия» была включена в список «100 книг», рекомендованный школьникам Министерством образования и науки РФ для самостоятельного чтения.

Через 5 лет после публикации «Конармии» в 1931 году вышел сборник «Одесские рассказы» о банде налётчиков, живших в еврейском районе Молдаванка города Одесса. Прототипом главаря банды стал Мишка Япончик, «гроза» Одессы, грабивший «только буржуазию и офицеров», так называемый одесский Робин Гуд. Стилистика рассказов отличается лаконичностью, сжатостью языка и в то же время яркой образностью. Требовательность Бабеля к себе была необычайна. Один только рассказ «Любка Казак» имел около тридцати серьезнейших редактур, над каждой из которых писатель работал несколько месяцев.