В 1934 году компания Nakajima построила расчалочный моноплан Ki-11 для замены стоящего на вооружении истребителя KDA-5. Но к переходу на монопланы армия оказалась еще не готова и в серию был запущен более маневренный биплан Kawasaki Ki-10.

Несмотря на неудачу с Ki-11, компания в 1936 году вывела на испытания истребитель-моноплан Ki-12 с двигателем жидкостного охлаждения Hispano-Suiza 12Xcrs мощностью 610л.с. и пушкой в развале цилиндров. Самолет был спроектирован с помощью инженеров французской фирмы Dewoitine на основе истребителя D.500. Самолет Ki-12 был оснащен убираемым гидравлически шасси и щелевыми закрылками. Армия посчитала такой самолет слишком сложным для принятия на вооружение и компания начала работу над упрощенным вариантом "тип P.E" с неубираемым шасси и двигателем воздушного охлаждения, который был облетан в июле 1936 года.

К этому времени воздушный штаб выдал заказ на постройку прототипов истребителей-монопланов компаниям Nakajima (Ki-27), Kawasaki (Ki-28) и Mitsubishi (Ki-33). Истребитель Ki-27 стал развитием проекта P.E и отличался от него только в деталях. Самолет представлял собой свободнонесущий моноплан с двигателем Nakajima Ha-1 мощностью 650л.с. и закрытой кабиной. Максимально облегченная конструкция и новый профиль крыла обеспечили самолету отличную маневренность.

Первый опытный Ki-27 поднялся в небо 15 октября 1936 года. Хотя на сравнительных испытаниях Ki-27 несколько уступал по скорости своим конкурентам, зато значительно превосходил их по маневренности. В результате был получен заказ на 10 предсерийных машин, которые были собраны к концу 1937 года. На предсерийных самолетах была несколько увеличена площадь крыла, а металлический гаргрот за кабиной был заменен на остекленную, неподвижную секцию фонаря. Армейские испытания прошли успешно и самолет был принят на вооружние под обозначением "тип 97".

На серийных машинах Ki-27a установили более мощный двигатель Nakajima Ha-1b, изменили форму козырька кабины, а гаргрот снова сделали металлическим. Самолет был вооружен двумя синхронными 7,7-мм пулеметами "тип 89". Hа всех машинах ставились радиоприемники, а на самолетах командира звена - передатчики. В марте 1938 года самолет появился в небе Китая, что позволило армейской авиации наконец добиться безусловного превосходства над китайскими ВВС.

Вариант Ki-27b отличался новым фонарем с круговым обзором и переделанным маслорадиатором. Под центропланом теперь можно было подвесить четыре 25-кг авиабомбы или два дополнительных топливных бака. Всего было выпущено почти 3400 самолетов Ki-27.

В ходе боев на Халхин-Голе оказалось, что Ki-27 успешно противостоял советскому истребителю И-16 с двигателем М-25, легко справлялся с И-15, но проигрывал И-153. Исследования трофейного самолета в НИИ ВВС показали, что самолет Ki-27 устойчив и легко управляется. Он обладает обладал хорошей маневренностью в горизонтальной плоскости, устойчив на пикировании, не имеет тенденции к сваливанию на крыло. Взлет и посадка простые. К недостаткам самолета можно отнести недостаточную прочность конструкции и, как следствие, вибрация на скорости и при пикировании, а также отсутствие бронирования кабины и слабое вооружение.

Несмотря на быстрое старение самолета, он довольно успешно использовался в условиях массового превосходства японской авиации. По мере появления новых типов истребителей Ki-27 больше использовался для повышенной подготовки пилотов-истребителей. В составе ПВО Японии Ki-27 оставались до 1943 года. Hа территории Маньчжурии самолет эксплуатировался до конца войны. В конце войны некоторые такие машины использовались пилотами-камикадзе, неся до 500кг бомбовой нагрузки.