В середине тридцатых годов в военно-воздушные силы различных стран мира начали поступать скоростные истребители-монопланы. Однако в палубной авиации все еще преобладали бипланы. Это объяснялось жестким ограничением посадочной скорости, обусловленным малыми габаритами полетной палубы. Лишь в 1935 году появился первый палубный истребитель, имевший схему свободнонесущего моноплана. И создали эту машину японские авиаконструкторы.

Палубный истребитель Ka-14 был спроектирован на основе технического задания, выданного штабом японской морской авиации в феврале 1934 года. Заданием определялись лишь основные данные самолета, не ограничивая исполнителей в выборе компоновки машины. Это и дало возможность конструктору Дзиро Хорикоси, руководившему бригадой проектировщиков компании Mitsubishi, принять поистине новаторское решение. Самолет Ka-14 был выполнен по схеме свободнонесущего моноплана с довольно высокой нагрузкой на крыло из-за ограничений на размах крыла палубного самолета. Контроль за весом был столь строг, что построенный истребитель оказался даже легче, чем рассчитывали.

На самолете стоял самый легкий из подходивших по мощности звездообразный мотор Nakajima Kotobuki (развивавший до 600л.с.) с двухлопастным винтом. Шасси сделали неубирающимся - колеса просто прикрыли каплевидными обтекателями. Рациональная цельнометаллическая конструкция, позволившая соединить высокую прочность с легкостью, в сочетании с хорошей аэродинамикой обещали большой рывок в летных данных.

В феврале 1935 года испытатель Кадзима совершил на Ка-14 первый полет. На заводских испытаниях опытная машина показала скорость 444км/ч на высоте 3200м, хотя по заданию требовалось всего лишь 350км/ч. Другие требования также оказались превышенными. Представители флота фирме не поверили и потребовали контрольных испытаний морскими летчиками. Но флотский испытатель сумел развить на самолете еще большую скорость 449км/ч.

На втором опытном самолете конструкторы ввели щитки, улучшившие посадочные качества истребителя, что очень важно для палубной машины, удлинили гаргрот, поставили безредукторный мотор Kotobuki-3 мощностью 715л.с., а также первоначально выбранное крыло типа "обратная чайка" на прямое. В итоге улучшились управляемость и устойчивость без ущерба для летных данных. Хотя Ка-14 обладал хорошей маневренностью, летчики, проводившие на нем учебные воздушные бои, в своем заключении отдали предпочтение проверенному серийному биплану Nakajima A4N1. Лишь переход на бой на вертикалях позволил выявить истинную цену нового истребителя.

Осенью 1936 года истребитель Ka-14 приняли на вооружение под обозначением A5M1. Серийные самолеты отличались от второго опытного экземпляра увеличенным запасом горючего, несколько переделанным капотом мотора, изменились также очертания гаргрота и вертикального оперения. Вооружение состояло из двух 7,7-мм пулеметов типа 89 располагавшихся вверху в носовой части. На машине предусмотрели подвеску дополнительного бензобака под фюзеляжем. Его большая капля наполовину утапливалась в фюзеляж.

За A5M1 в серийном производстве последовали A5M2 с новым двигателем в удлиненном капоте, с трехлопастным винтом и более развитым гаргротом. Был построен ряд вариантов, не пошедших в серию. В их числе самолет с закрытой кабиной, вариант с вооружением из пары 20-мм пушек и модификация с французским рядным двигателем Hispano-Suiza 12Xcrs и 20-мм пушкой, стрелявшей через полый вал винта. Две опытные модификации, получившие названия Ki-18 и Ki-33 изготовили для ВВС армии, но они не выдержали конкуренции с самолетами других фирм.

В июле 1937 года Япония вступила в войну с Китаем. В операциях под Шанхаем основную роль играла морская авиация, при этом основными палубными истребителями оставались A2N1 и A4N1. Первые же боевые вылеты показали, что старые истребители не могут удовлетворительно справиться с поставленными перед ними задачами. Несмотря на более высокий уровень подготовки японских пилотов, палубная авиация несла значительные потери. У наиболее распространенного типа машин, A4N1, скорость не превышала 350км/ч, в то время как у основного истребителя китайских ВВС Hawk III (экспортный вариант американского биплана BF2C-1) скорость доходила до 385км/ч. Это давало китайцам определенные преимущества как в действиях против истребителей, так и в атаках на группы бомбардировщиков.

В связи с этим было принято решение срочно бросить в бой новые монопланы, хотя еще не имелось никакого опыта палубной эксплуатации нового истребителя. В августе 1937 года два A5M1 совершили первый боевой вылет, а 4 сентября впервые столкнулись с китайскими истребителями и сбили три из них. Применение А5М в боях в Китае стремительно расширялось. Моноплан быстро доказал свое превосходство над китайскими самолетами. Практически не уступая американскому биплану в маневренности, А5М перегонял его на 50км/ч. В сочетании с более высокой выучкой японских летчиков это приводило к большим потерям китайцев в воздухе.

Ситуация несколько изменилась, когда в рядах авиации Чан Кай-ши появились советские авиачасти. Для И-15 японский самолет оказался довольно серьезным противником. A5M обладали определенным преимуществом в горизонтальной плоскости, зато И-15 обладал лучшим вооружением и живучестью из-за бронезащиты пилота. В ближнем маневренном бою A5M был опасен и для И-16. Доставлял самолет немало беспокойства и бомбардировщикам СБ, которые не могли уйти на скорости от преследовавших его A5M.

С 1938 года в производство была запущена модификация A5M4. Она отличалась новым капотом и наличием радиостанции. На ней стоял мотор Kotobuki-41 максимальной мощностью 785л.с. За счет введения новых подкрыльных подвесных баков дальность полета возросла до 648км. Одновременно выпускался и учебный двухместный вариант A5M4-K.

Всего до 1941 года было выпущено около тысячи истребителей этого типа и сотня учебных самолетов. С появлением на вооружении истребителей A6M, старые A5M постепенно начали передавать в подразделения ПВО береговых баз и учебные части. К началу боевых действий на Тихом океане в декабре 1941 года в боевых частях их практически не осталось, но отдельные машины сохранялись в ПBO до 1943 года. В начале 1945 года некоторые самолеты были использованы в качестве бомбардировщиков для "камикадзе".