Летом 1946 года маршал Жуков неожиданно сослан Сталиным в Одессу - он назначен командующим военным округом.  Город только начинает восстанавливаться после долгой войны, кое-где еще орудуют многочисленные банды недобитков.  В ночь перед приездом маршала работникам уголовного розыска удается обезвредить банду Сеньки Шалого. Руководит операцией Давид Гоцман – начальник отдела уголовного розыска по борьбе с бандитизмом. Все родные и близкие офицера погибли во время войны. Остались только два друга детства – летчик Марк, контуженный на фронте, и Фима Петров, бывший вор-карманник, ставший добровольным помощником Давида.  Опальный Жуков въезжает в город, и руководство Одессы сразу ощущает на себе тяжелую руку маршала Победы.  Гоцман берется за расследование дела об ограблении инкассаторов на Арбузной улице.  В это время Фима проводит допрос Шалого. Петров раскалывает Сеньку, и тот указывает место, где его банда прятала награбленное.

Вечером у схрона с украденным обмундированием расстреляна охрана. Мишка-Карась - беспризорник, ставший свидетелем нападения на охрану - сообщает об этом в милицию. По горячим следам Гоцманом и его командой организована погоня за неизвестным грузовиком и капитаном, но безрезультатно. Бандиты поджигают обмундирование и сбрасывают грузовик с обрыва. Один из них, Эва Радзакис, убит, остальные скрываются в катакомбах.  Преступники прячутся на побережье у контрабандиста Седого Грека. Там Чекан неожиданно встречает наводчицу Иду, свою бывшую возлюбленную, с которой его разлучила война.  По наводке Фимы Гоцман встречается с музыкантом Рудиком Корузо. Петров организовывает день рождения начальника угрозыска у него во дворе и собирает всех друзей Давида за одним столом.

Давиду сообщают о смерти Фимы. Зацепок у следствия нет почти никаких. Гоцман направляется на сходку авторитетов воровской Одессы. Он требует, чтобы жулики нашли человека в форме капитана и со шрамом на виске, который несколько раз мелькал в деле об украденном обмундировании. Авторитеты проводят свое расследование и выясняют, что таинственного капитана зовут Чекан и что работает он на какого-то Академика. Помощник военного прокурора Кречетов знакомится с певицей из филармонии Тоней Царько. Он посещает ее концерты, ухаживает за женщиной. После похорон Фимы Гоцман приходит к Норе. Они вспоминают о покойном, о довоенной жизни. Во время очередного собрания в УГРО Гоцман получает задание: весь отдел должен принять участие в охране маршала Жукова, пока тот прогуливается по городу. Давид снова встречает Мишку Карася.

Уголовное дело об украденном военном обмундировании растет как снежный ком. Все возникающие зацепки будто специально обрываются невидимой рукой. Арестовывают посредника бандитов Седого Грека, но по дороге в УГРО его убивают. Удается лишь выяснить, что операцию проводит бандит со стажем Чекан, а за ним стоит таинственный Академик. Жуков собирает у себя представителей власти Одессы. Принимается решение о вводе паролей на всех военных складах. Ночью банда Чекана пытается вывезти с военного склада оружие и попадается на проверке паролей, введенных военным интендантом города Воробьевым. Бандиты с боем вырываются из окружения. Еще через два часа интенданта Воробьева находят дома убитым. Ввиду сложности дела группа Гоцмана усилена помощником военного прокурора Виталием Кречетовым.

Чекан со своей любовницей Идой Кашетинской делает попытку бежать за границу с контрабандистами. Но помощник преступника Толя Живчик вовремя сообщает об этом Штехелю. В результате Иду берут в заложницы, а Чекану дают новое задание – отправить в одесские банды большую партию пистолетов ТТ. В результате этой операции Одессу захлестнул новый вал убийств и грабежей.  Через несколько дней Давиду Гоцману удается выяснить, что оружие идет через Чекана, посредником которого является картежный шулер Саня-Сам-Не-Знаю. Под нажимом Гоцмана игрок выдает место и время передачи следующей партии оружия. Сыщики устраивают засаду.

Маршал Жуков не забыл строптивого начальника отдела УГРО по борьбе с бандитизмом. Дело об антисоветском заговоре закрыто, и Гоцман выходит на свободу. Давид усыновляет Мишку Карася, бывшего беспризорника и вора-карманника, а теперь курсанта Дипломатического интерната для одаренных детей. Освобождают из-под стражи фальшивомонетчика Родю, во дворе которого нашли тело Фимы. По воровскому закону человек, подделывающий документы и деньги, не мог решиться на убийство. И Гоцман это знает. В город приезжает любимый всей Одессой Леонид Утесов и вечером дает единственный концерт! На него собирается весь цвет приморского города. Из уважения к кумиру воры постановляют в этот день не воровать и держат свое слово. Гоцман даже не догадывается, что неожиданный приезд Утесова - всего лишь часть плана маршала Жукова.

Грубая ошибка Жукова незамедлительно дает самый кровавый результат. Арест авторитетных воров приводит к бунту. Оружейные склады разграблены, Одессу сотрясают бандитские мятежи.  Милиция, контрразведка и МГБ с огромным трудом сохраняют порядок в городе. Через перевербованного бандита Сеньку Шалого удается выяснить, где скрывается Чекан. Опергруппа выезжает на место. Аресту мешает неожиданно появившийся фальшивомонетчик Родя.  Матерый бандит Чекан снова уходит от преследования, убив одного из сотрудников УГРО.  Гоцман встречает Нору и пытается назначить ей свидание. Женщина отказывается. 

После нескольких тревожных дней в Одессе Жукову становится очевидно, что пора принимать срочные меры.  Гоцман настаивает на немедленном освобождении одесских авторитетных воров. Его поддерживает начальник контрразведки Чусов. Правда, в личном разговоре с Жуковым Чусов признается, что намерен расправиться с преступностью в Одессе своими методами.  Авторитетов выпускают на свободу. Гоцман ставит им жесткие условия - прекратить беспредел и вернуть награбленное оружие. Под дулом пулемета воры соглашаются.  В Одессе наступает временное затишье.

По приказу маршала Жукова и с подачи начальника контрразведки Чусова в Одессе начинается операция "Маскарад". Фронтовых разведчиков переодевают в дорогие гражданские костюмы, выдают им деньги и оружие. Начинается отстрел бандитов.  За день до операции на Гоцмана совершают покушение, но вместо начальника отдела по борьбе с бандитизмом погибает его дальний родственник.  Слух о смерти Давида мгновенно облетает Одессу. Воры вздыхают с облегчением и начинают грабить мирное население с новой силой.  В Одессу приезжает Виктор Платов. До войны он был связан с преступным миром, шулерствовал. На фронте командовал взводом, подчинялся Гоцману. Первым делом Платов идет к хозяину картежного притона Прамеку.  Из Москвы приезжает Марк. Ему сделали операцию. Он спрашивает о Фиме. Гоцману кажется, что Марк что-то знает про убийство друга.  В это же время выясняется, что Тоня Царько в положении.

Очень быстро Гоцману становится ясно, что операция "Маскарад", связанная с ночным отстрелом бандитов, была спланирована контрразведкой.  Фронтовые разведчики стреляют без промаха. На допросах молчат. В начале операции им показали фотографии особо опасных преступников. Капитан Русначенко опознает на улице Чекана. Завязывается перестрелка. В результате Русначенко арестовывают. Бандит Рыбоглазый убит.  Расследуя убийство Рыбоглазого, майор Довжик выходит на квартиру, где жила Ида. Женщину задерживает УГРО. На допросе она отказывается выдать своего любовника Чекана, но соглашается показать, где бандиты прячут оружие.  За день до этого Довжик приводит Давида Гоцмана к странному старику-психиатру. Слепой старик занимается эзотерикой и психоанализом. Во время оккупации он сотрудничал с немцами и тестировал курсантов разведшколы.

Майор Кречетов не был следователем на Втором Белорусском фронте. Это сначала обнаруживает военврач Арсенин, а потом косвенно подтверждает новый водитель Гоцмана. Давид получает ордер на арест майора. Но выводы оказываются поспешными…  Арестованная наводчица Ида отказывается указать Гоцману место, где скрывается ее подельник Чекан. Но она готова привести сыщиков к схрону с оружием бандитов. Именно в этом месте Чекан устраивает засаду на Гоцмана и с боем отбивает свою любовницу.

Леня Тишак упорно разыскивает пропавшего военврача Арсенина. Но все усилия тщетны.  Академик тщательно "подчищает хвосты". Все, кто хоть как-то приближается к нему, подлежит немедленному уничтожению.  Давид Гоцман предлагает свой план действий начальнику контрразведки Чусову. Первым делом необходимо прекратить незаконный ночной отстрел… Чусов внимательно выслушивает Гоцмана. А ночью докладывает свои соображения маршалу Жукову.  Академик сообщает Штехелю о том, что УГРО подозревает его, банде необходимо срочно "ложиться на дно" и ждать дальнейших указаний. Но первым делом Штехель должен избавиться от своего племянника.

Кречетов рассказывает все Норе, её арестовывают, а после Мишке. Тот его ударяет со словами: "Ну и сука ты, майор!". Академик велит Штехелю дать задание Платову, с целью проверки последнего, похитить сына Гоцмана. Чекан и Толя Живчик прибывают на место, и наблюдают за действиями Платова. Отстреливаясь от милиционеров, Платов увозит Мишку на машине. Маршал Жуков объявляет о начале военных учений в Молдавии. Для Академика это шанс захватить Одессу. "Академик" говорит "Чекану": "Если захватим Одессу у "маршала победы" даже на один день, за это Сталин расстреляет Жукова. А это уже результат! Все узнают, что мы (бандеровцы) существуем, что мы реальная сила! Может вслед за нами полыхнёт по всей Украине" Тоня Царько из ревности наблюдает за Кречетовым, особенно когда тот встречается с бандитами и Платовым, который принимает предложение главаря банды захватить Одессу.

Кречетов (Академик) убивает Тоню, когда та рассказывает ему, что следила за ним. Захват Одессы идет полным ходом, и Платов принимает в нём активное участие. На самом деле Платов являлся участником операции «накрытия», аресты Гоцмана и Норы были инсценированы. Бандитов встречает замаскировавшаяся контрразведка, которая полностью ликвидировала их, конечно не без помощи капитана Якименко, взявшего целый рейд. Чекану удаётся бежать от военных. Раненый, он пытается вместе с людьми Академика, Идой и Штехелем сбежать из Одессы, но бандиты убивают его и двух последних, так как не желают находиться в подчинении бывших немецких диверсантов. А между Академиком и людьми Гоцмана происходит перестрелка, в ходе которой майор Кречетов признается взятому им в заложники Гоцману в том, что именно он убил Фиму, Арсенина, именно он стоял за убийством Роди, а также в том, что он всегда ненавидел Советскую власть, что она всем жизнь испортила. «Вы все время воюете, а когда не воюете, друг друга убиваете, чужое делите». На какое-то мгновение Кречетов останавливает перестрелку и выходит с Гоцманом. Освободившийся Давид сбрасывается вместе с Академиком с большой высоты и выживает, приговаривая: «Извиняйте, если шо не так». Кречетов смертельно ранен, его уносят сотрудники милиции. Финал фильма: Гоцман приезжает в интернат к Мишке, из машины выходят Нора и его друзья-сослуживцы и бегут к ним.