В декабре 1937 года воздушный штаб армии подготовил спецификации на штурмовик для замены легкого бомбардировщика Ki-30. Главный упор был сделан на маневренность, живучесть и возможность применения с передовых фронтовых аэродромов.

Новый штурмовик Ki-51 был похож на предшественника, только была несколько сокращена по длине кабина, что обеспечило более тесное взаимодействие членов экипажа. В кабине было установлено двойное управление, а небольшая бомбовая нагрузка позволила отказаться от бомбоотсека. В результате самолет получил конфигурацию низкоплана, а стойки шасси стали короче. Два пулемета калибра 7,7-мм были установлены в крыльях, а подвижный третий обеспечивал защиту хвоста. Силовая установка состояла из двигателя воздушного охлаждения Mitsubishi Ha-26-II мощностью 940л.с. и трехлопастного винта.

Первый опытный самолет был готов в июне 1939 года. Затем была построена установочная партия из 11 машин. В процессе эксплуатации машины получили несколько доработок: откидной фонарь был заменен на сдвижной, на крыле появился фиксированный предкрылок, улучшивший управляемость на малых скоростях, а под кабиной были установлены бронеплиты. Позже 7,7-мм подвижный пулемет был заменен на спарку 12,7-мм пулеметов. Всего до 1944 года было выпущено 2385 самолетов Ki-51, которые использовались в качестве штурмовиков и фоторазведчиков.

Hесмотря на небольшую скорость, не позволявшую уйти от истребителя, самолет отличался живучестью, маневренностью, легкостью в управлении и обслуживании. В последние месяцы войны Ki-51 использовались как самолеты для камикадзе с одной 250-кг бомбой под фюзеляжем. В Китае несколько трофейных Ki-51 использовались до 1953 года.

В 1942 году инженерами компании Manshu на базе Ki-51 был разработан тактический разведчик и штурмовик Ki-71. Самолет был оснащен двигателем Mitsubishi Ha-112-11 мощностью 1500л.с., в крыле установили две 20-мм пушки, шасси стало убираемым. Серийно не выпускался.