Во конце тридцатых годов появилось Особое Техническое Бюро (ОТБ), где были сосредоточены все арестованные авиаинженеры. Среди них находились замечательные конструкторы: Туполев, Петляков, Мясищев, Томашевич, которые возглавили четыре спецтехотдела (СТО). Первым был образован СТО Петлякова, который получил цифровое обозначение "100". Группа Мясищева получила индекс "102", туполевцам присвоили номер "103", а отдел Томашевича проходил под обозначением "110". По сути, каждый СТО был самостоятельным конструкторским бюро, разрабатывавшим свой проект.

В начале 1940 года в КБ Туполева началась разработка фронтового пикирующего бомбардировщика (ФБ). Самолету дали официальный шифр "103" по номеру СТО и обозначение АНТ-58 по нумерации КБ. Была определена схема самолета: цельнометаллический свободнонесущий моноплан с высокорасположенным крылом и разнесенным вертикальным оперением. Предварительно проект прорабатывался в двух вариантах: двухмоторном и четырехмоторном, но окончательно остановились на двухмоторном бомбардировщике.

В проекте имелись две новинки, ранее в отечественном самолетостроении не встречавшиеся. Первая касалась конструкции бомбоотсека. Его форма, рассчитанная арестантом членом-корреспондентом АН СССР А.И.Некрасовым, обеспечивала свободный выход бомб любого калибра при глубоком пикировании. До этого считалось, что для бомбометания с пикирования бомбы нужно было подвешивать либо снаружи самолета, либо делать систему принудительного вывода бомб из отсека. Второе новшество относилось к оборудованию. В стране не было прицелов, позволяющих вести точное бомбометание с пикирования. В ОТБ такой прицел был создан арестантом Г.С.Френкелем, штурманом и математиком. Он получил шифр ПФБ-100 (прицел самолета ФБ, спроектированный в СТО).

Фюзеляж самолета делился на три части. В носовой части расположена кабина летчика оборудованная сдвижным фонарем и бронированным сиденьем. Средняя часть выполнена заодно целое с центропланом крыла. Тут размещался бомбоотсек, в котором могли помещаться бомбы калибром до тонны. В хвостовой части размещалась кабины штурмана и стрелка-радиста. Крыло оснащено посадочными щитками и тормозными решетками. Шасси обычной схемы с хвостовым колесом. Основные стойки колес с помощью гидравлики убирались назад по полету в хвостовые части мотогондол двигателей. Фюзеляж выполнен по типу "монокок", с переменной толщиной обшивки и местными усилениями конструкции. Это позволило отказаться от стрингеров и уменьшить количество клепаных соединений.

В качестве силовой установки планировался 18-цилиндровый Y-образный двигатель жидкостного охлаждения М-120 мощностью 1450л.с. с турбокомпрессором. Радиаторы двигателей разместили в центроплане между гондолами двигателей и фюзеляжем. На самолете устанавливалось четыре пулемета ШКАС. Два неподвижных передних могли изменять угол наклона на 2° вниз для стрельбы по наземным целям. Один оборонительный пулемет стоял в турельной установке у штурмана, а нижним люковым пулеметом управлял стрелок. Две пушки ШВАК установлены в корне крыла.

К моменту постройки прототипа двигатели М-120 еще не были готовы и на самолет установили 12-цилиндровые V-образные моторы АМ-37 мощностью 1400л.с. В январе 1941 года был выполнен первый полет. Завершить государственные испытания помешала война.

Еще в мае 1940 года к фронтовому бомбардировщику были выдвинуты дополнительные требования. Штурмана решили разместить в одной кабине с пилотом для лучшего взаимодействия, а в освободившейся кабине разместили второго стрелка. Обычно штурман размещался в носовой застекленной части фюзеляжа, но в пикирующем бомбардировщике пилоту нужен обзор вперед-вниз. Поэтому штурмана посадили сзади справа от летчика и вооружили его пулеметом для защиты задней полусферы. Переднюю часть фюзеляжа пришлось удлинить и расширить.

В мае 1941 года прототип "103У" выполнил первый полет. В ходе испытаний увеличили площадь хвостового оперения, выполнили ряд других доработок. Но в июле, когда значительная часть полетов по программе была проведена, самолет "103У" потерпел катастрофу. Испытания показали, что данные доработанной машины остались практически без изменений, хотя несколько снизилась скорость полета. Было принято решение запустить самолет в серию.

Моторы М-120 все еще не были готовы и на третий прототип "103В" решили установить радиальные моторы М-82 мощностью 1700л.с. Но началась война и КБ эвакуировали в Омск. Испытания самолета "103В" удалось начать только в декабре 1941 года. Машина отличалась от "103У" силовой установкой. На месте радиаторов в центроплане разместили дополнительные топливные баки, ввели бронирование всех членов экипажа. Испытания, из-за неудовлетворительной работы двигателей М-82А, затянулись до конца августа 1942 года. В ходе испытаний самолет "103В" был доработан по составу оборудования и вооружению. Нижняя люковая установка была переведена на крупнокалиберный пулемет БС. Под крылом можно было разместить десять реактивных снарядов.

В марте 1942 года самолету было присвоено обозначение Ту-2. Серийное производство самолета разворачивалось одновременно с доводкой прототипа. Первая серия из пяти самолетов была закончена в апреле 1942 года.