Исаак Бабель родился в Одессе в семье торговца-еврея. Жил на Молдаванке, районе, известном своими налетчиками. Начало ХХ века было временем общественных беспорядков и массового исхода евреев из Российской империи. Сам Бабель выжил во время погрома 1905 года (его спрятала христианская семья), а его дед Шойл был одним из 300 убитых евреев.
Чтобы поступить в подготовительный класс одесского коммерческого училища Николая I, Бабель должен был превысить квоту на студентов-евреев, но несмотря на положительные отметки, дававшие право на обучение, место было отдано другому юноше.
За год образования на дому Бабель прошел программу двух классов. Помимо традиционных дисциплин, он изучал Талмуд и занимался музыкой. После ещё одной неудачной попытки поступить в одесский университет (вновь из-за квот) он оказался в киевском институте финансов и предпринимательства. Там он встретил свою будущую жену Евгению Гронфейн.
Свободно владея идишем, русским и французским языками, Бабель первые свои произведения писал на французском языке, но они до нас не дошли. Первые рассказы на русском Бабель опубликовал в журнале "Летопись". Затем, по совету М. Горького, "ушёл в люди" и переменил несколько профессий.
В декабре 1917 года пошел работать в ЧК - факт, которому долго удивлялись его знакомые. В 1920 был бойцом и политработником Конной армии. В 1924 в журналах "Леф" и "Красная новь" опубликовал ряд рассказов, позднее составивших циклы "Конармия" и "Одесские рассказы". Бабель сумел мастерски передать на русском языке стилистику литературы, созданной на идиш (особенно это заметно в "Одесских рассказах", где местами прямая речь его героев является подстрочным переводом с идиша).
Русскую классическую литературу Бабель считал слишком серьезной. Моделируя литературу будущего, он полагал, что ей необходим "наш национальный Мопассан". В стремлении к натурализму Бабель превзошел Мопассана, многие цитаты из его рассказов способны шокировать даже современного читателя: "Пот, розовый, как кровь, розовый, как пена бешеной собаки,обтекал эти груды разросшегося, сладко воняющего человеческого мяса." (рассказ "Король"). Другие места в его произведения пугают вычурностью и странностью: "Ночь подложила под голодную мою юность бутылку муската 83 года и двадцать девять книг, двадцать девять петард, начиненных жалостью, гением, страстью ... " ("Гюи де Мопассан".
Интерес Бабеля к культуре Франции, неоднократные поездки в Париж давали повод для сплетен в московских литературных кругах. Подозрительное отношение к Бабелю особенно усилилось, когда в июне 1935 Бабель отправился в Париж для участия в Международном конгрессе писателей в защиту культуры и, пренебрегая осторожностью, общался с представителями русской эмиграции.
Его арестовали по обвинению в принадлежности к троцкистской террористической организации и в шпионаже в пользу французской и австрийской разведок. Под пытками Бабель дал ложные показания, но на последнем судебном заседании отказался от них. 27 января 1940 Бабель был расстрелян, тело его было сожжено в крематории Донского монастыря.
В 1954 году Бабель посмертно реабилитирован.
В 2010 году в Одессе собираются поставить памятник Исааку Бабелю. Монумент будет стоять на пересечении улиц Жуковского и Ришельевской, напротив дома, где он когда-то жил.