Для переучивания летного состава на новый перехватчик Ту-128 командование авиации ПВО предложило ОКБ-156 разработать его учебно-тренировочный вариант. Необходимость в таком самолете определялась рядом причин. Летчики пересаживались на Ту-128 со значительно более легких истребителей типа МиГ-17, МиГ-19 и не имели навыка управления тяжелой машиной. К тому же, надо было осваивать новый комплекс оборудования, а штурману-оператору - еще и дополнительные функции. Для этой цели в частях использовались специализированные самолеты обучения штурманов бомбардировочной авиации Ту-124Ш.

Основное отличие учебных Ту-128УТ от Ту-128 заключалось в наличии кабины инструктора на месте РЛС, имевшей верхнее наклонное остекление. Место штурмана-оператора сохранялось, но часть оборудования сняли. В связи с отсутствием РЛС функции обучаемого штурмана ограничились. В остальном Ту-128УТ соответствовал базовому варианту. Под крылом можно было подвешивать весовые макеты или учебные варианты ракет Р-4. За свой необычный вид самолет в частях был прозван "пеликаном".