В 1935 году компания Tachicawa попыталась создать учебные самолеты для начальной и основной подготовки летчиков на базе одного планера, установив на него двигатели различной мощности. Но центровка самолета Ki-9 с легким мотором Nakajima NZ мощностью 150л.с. оказалась слишком задней, что привело к проблемам с управляемостью.

Поэтому для начальной подготовки пилотов решили построить отдельный самолет. В результате появился очень легкий биплан Ki-17 со взлетным весом только 900кг, внешне сильно напоминающий своего предшественника Ki-9 и отличающися крыльями одинакового размаха. Первый опытный Ki-17 с двигателем Hitachi Ha-12 мощностью 150л.с. взлетел в июле 1935 года. Первоначально самолет имел элероны на верхнем и нижнем крыле, но испытания показали излишнюю чувствительность бокового управления, и с верхнего крыла элероны были сняты.

Самолет был принят на вооружение армейской авиации и запущен в серию. Всего до 1944 года было построено 560 самолетов Ki-17.