С момента создания перехватчика Як-25 прошло совсем немного времени, а военным уже требовались более современные сверхзвуковые машины. Начиная с 1954 года, ОКБ Яковлева в инициативном порядке приступило к проектированию сверхзвуковых двухместных двухдвигательных самолетов по трем направлениям: фронтовой бомбардировщик ("123", Як-26), перехватчик ("121", Як-27) и фронтовой разведчик ("122", Як-27Р).

Новый бомбардировщик получил рабочее обозначение Як-123 и создавался на базе опытного Як-125Б. Машина в первую очередь предназначалась для доставки к цели атомной бомбы "Татьяна" (массой 1200кг и мощностью 30 килотонн). Для достижения высокой скорости, кроме увеличения тяги двигателей, требовалось уменьшить аэродинамическое сопротивление самолета, прежде всего его крыла и оперения. Это можно было сделать двумя путями: либо увеличить их стреловидность, либо уменьшить толщину профиля. Первый путь означал резкое ухудшение взлетно-посадочных характеристик. Поэтому было решено уменьшить относительную толщину профиля крыла вдвое, что привело к снижению жесткости крыла. Носовая часть по образцу Як-125Б не соответствовала сверхзвуковой скорости, поэтому была разработана новая носовая часть для Як-123, которя представляла собой металлический оживальный конус с восемью боковыми и плоским эллиптическим окном снизу. Несколько изменились и обводы фонаря кабины пилота.

Самолет предполагалось оснастить кормовой дистанционно управляемой установкой с 23-мм пушкой АМ-23. При этом для стрельбы из пушки не предусматривался ни радиолокационный, ни оптический прицел. Единственным средством наблюдения за задней полусферой был перископ у летчика, поэтому на прицельную стрельбу надеяться не приходилось.

После непродолжительных заводских испытаний, самолет был передан на совместные государственные испытания. Уже первые полеты Як-123-1 с двигателями РД-9АК показали его преимущество по скорости и потолку перед Ил-28. На испытаниях была достигнута скорость 1230км/ч на высоте 10600м - Як-123 стал первым в СССР сверхзвуковым фронтовым бомбардировщиком.

Испытания выявили и целый ряд серьезных недостатков: неустойчивость на больших углах атаки, недостаточная поперечная управляемость, недостаточный обзор из кабины штурмана. Однако главной неприятной неожиданностью стал реверс элеронов, причиной которого стала недостаточная жесткость крыла на скручивание. По этой причине Як-123 мог лететь на сверхзвуке только на высотах не ниже 8000-12000м. В итоге опытный бомбардировщик не смог получить положительной оценки, но еще до начала испытаний было принято решение о выпуске опытной партии из 10 машин Як-26.

Устранить обнаруженные при испытаниях недостатки конструкторы пытались путем доработки крыла, оперения и носовой части фюзеляжа. Принятые меры улучшили летные качества самолета, однако полностью от недостатков избавиться не удалось. Самолет так и не был запущен в серийное производство, хотя к середине 1957 года на вооружении советских ВВС еще не было сверхзвукового бомбардировщика.