В 1933 году Люфтваффе разработало требования к одноместному истребителю, выполненному по монопланной схеме, с V-образным 12-цилиндровым двигателем перевернутой схемы Junkers Jumo 210. Машина должна была иметь отличную маневренность, максимальную скорость свыше 400км/ч, потолок до 10000м и продолжительность полета 1,5 часа. Вооружение должно было включать два крупнокалиберных пулемета или одну пушку калибром 20мм.

На конкурс были представлены варианты нового истребителя четырех ведущих авиационных фирм Германии: Arado Ar.80, Focke-Wulf Fw.159, Messerschmitt Bf.109 и Heinkel He.112. Самолеты He.112 и Bf.109 были цельнометаллическими самолетами, но различались размерами и конструкцией. Если He.112 имел полуэллиптическое крыло довольно большого размаха (12,6м) и площади, то более легкий Bf.109 имел размах всего 10м и лучшую механизацию крыла с автоматическими предкрылками и щелевыми закрылками. В отличие от Bf.109, на He.112 кабина была открытая. Единственным преимуществом самолета Хейнкеля были крепкие и широко расставленные стойки шасси, позволяющие совершать посадки на любом грунте.

Первый экземпляр Не.112V1 приступил к полетам в сентябре 1935 года, на 3,5 месяца позже своего конкурента Bf.109V1. Двигатель Jumo 210 еще не был готов, и на самолеты установили английский Rolls-Royce Kestrel, сделанный по аналогичной схеме. Второй прототип с двигателем Jumo 210 появился в ноябре 1935 года. По результатам испытаний первой машины в конструкцию He.112V2 внесли ряд изменений: уменьшили размах крыла до 11,5м и изменили его профиль.

В конце февраля 1936 года были проведены сравнительные испытания He.112 и Bf.109. Хотя истребитель Хейнкеля лучше выглядел на взлете и посадке, Bf.109 был немного быстрее и не уступал своему конкуренту в управлении. Летчик-испытатель Герман Вурстер показал на Bf.109 эффектную программу фигур высшего пилотажа, а попытавшийся ее повторить на He.112 Герхард Ничке сорвался в плоский штопор и был вынужден покинуть опытную машину. Эта авария окончательно склонила чашу весов в пользу Bf.109.

Несмотря на поражение в конкурсе, Хейнкель продолжил работы над истребителем. На He.112V3 установили вооружение (два 7,9мм пулемета MG.17 по бокам фюзеляжа), новый воздухозаборник радиатора, общий выхлопной коллектор на каждые шесть цилиндров и киль чуть большей площади. Позже на самолет установили новое крыло, а кабину закрыли сдвижным фонарем. Затем последовал еще ряд опытных самолетов серии "A", на которых отрабатывались элементы конструкции и вооружения истребителя. He.112V5, вооруженный двумя 20мм пушками, побывал в Испании.

Летом 1937 года были готовы первые машины серии "B". Хотя обозначение He.112 сохранилось, это был принципиально новый самолет. Конструкцию цельнометаллического самолета значительно облегчили, значительно улучшили аэродинамику. Истребитель отличался чистотой форм и отделки, а также имел полуубираемый в полете радиатор. Поменялась форма и размеры крыла, теперь оно было полностью эллиптической формы размахом всего 9,10м. Новый полностью застекленный фонарь каплевидной формы обеспечивал отличный обзор и имел сдвижную центральную часть. На самолет установили двигатель Jumo 210E мощностью 680л.с. с двухлопастным винтом с изменяемым шагом. Благодаря этим доработкам скорость истребителя возрасла до 500км/ч. При этом вооружение было значительно усилено: кроме двух пулеметов MG.17 в крыле установили две 20мм пушки MG.FF.

Первые полеты показали, что истребитель может на равных соперничать с Bf.109B, но Messerschmitt уже выпускался серийно и еще один самолет с аналогичными характеристиками был лишним. Поэтому Хейнкелю пришлось искать заказчиков за рубежом и первой в новом самолете заинтересовалась Япония. Первая партия из 12 самолетов отправилась туда весной 1938 года, но от дальнейших поставок Япония отказалась, так как новый японский истребитель Mitsubishi A5M оказался лучше по всем основным параметрам.

Небольшие партии He.112 были поставлены в Испанию и Румынию. Венгрия собиралась строить самолеты по лицензии, но с началом Второй мировой войны все лицензионные и экспортные программы Германии были остановлены. Конструкторы венгерской фирмы Weiss Manfred попытались создать на базе He.112 собственный самолет WM-23, но дело ограничилось единственным опытным экземпляром.

Тридцать румынских He.112 успели повоевать на Восточном фронте. Советские И-16 имели чуть меньшую скорость, но не уступали в вооружении и обладали лучшей маневренностью. Еще заметнее оказались недостатки Не.112 при встречах с МиГ-3, особенно на больших высотах. До осени 1942 года истребители He.112 базировались под Одессой, откуда выполняли разведывательные полеты над Черным морем и защищали побережье. Затем уцелевшие самолеты вернулись в Румынию, где некоторое время использовались в качестве учебных.

Несколько опытных самолетов He.112 принимали участие в экспериментах с ракетными двигателями. В конце апреля 1937 года состоялся первый успешный полет с включением ЖРД, а вскоре He.112V7 совершил взлет и посадку только на работающем ЖРД, с выключенным поршневым мотором, став первым самолетом Хейнкеля, взлетевшем на реактивной тяге.