До начала тридцатых годов подразделения ближней воздушной разведки во всем мире комплектовались в основном устаревшими самолетами. Однако возрастающая ценность тактической разведки заставила начать работы над специализированными "армейскими" самолетами. Предполагалось, что такой самолет будет редко вторгаться далеко за линию фронта без истребительного прикрытия, но сможет свободно действовать над своей полосой обороны. Для такого самолета требовались хороший обзор во все стороны, способность работать с небольших временных аэродромов и легкость управления. Исходя из этих принципов был создан самолет Heinkel He.46, но весной 1933 года, когда этот биплан только начал поступать на вооружение, Технический департамент начал готовить ему замену. Новый разведчик должен был иметь более перспективную аэродинамику, хорошие взлетно-посадочные характеристики и современное оборудование.

В соответствии с новым заданием был построен самолет Henschel Hs.122. Это был подкосный высокоплан с цельнометаллическим фюзеляжем. Центроплан крепился над фюзеляжем на коротких стойках. Полуэллиптическое крыло имело заметную стреловидность. Закрылки занимали всю заднюю кромку крыла от элеронов до выреза над кабиной. Крыло имело обшивку носков и верхней поверхности из легкого сплава, а нижней - тканевую, как и на рулевых поверхностях. Экипаж состоял из двух человек. Самолет был вооружен одним синхронным пулеметом МG-17 на правой части фюзеляжа, в распоряжении наблюдателя был один пулемет МG-15 на кольцевой турели. За наблюдателем был бомбоотсек, в котором размещались два контейнера по пять 10кг бомб или фотокамера. Шасси - неубирающееся.

Разведчик Hs.122 был спроектирован под девятицилиндровый двигатель воздушного охлаждения Siemens Sh-22B мощностью 660л.с., но первый опытный Hs.122a взлетел с 12-цилиндровым двигателем жидкостного охлаждения Rolls-Royce Kestrel XI взлетной мощностью 622л.с. Второй и третий прототипы были уже оснащены штатным двигателем.

Официальные испытания проводились летом и осенью 1935 года. Управляемость самолета была отличной, взлетно-посадочные характеристики - в пределах задания. Однако максимальная и крейсерская скорости были лишь немногим лучше, чем у He.46c. Хотя высокой скорости для армейского разведчика не требовалось, но и менять He.46c необходимости не было.

Технический департамент РЛМ предложил установить на самолет более мощный двигатель Bramo Fafnir и построить семь предсерийных Hs.122b. Эти машины были построены к лету 1936 года и использовались для различных исследовательских целей. Четвертый опытный самолет получил новый двигатель и стал прототипом Hs.126.