К-4 должен был строиться как модификация санитарного самолета К-3, но результатом работ явилась фактически новая машина. Ее схема повторяла предыдущие самолеты Калинина, а размеры почти соответствовали К-3. В конструкции широко использовались детали, узлы и даже целые агрегаты ранних самолетов КБ. Вместе с тем имелся ряд новых решений: стабилизатор с изменяемым в полете углом установки, что дало возможность эксплуатировать самолет с большим диапазоном центровок; универсальная моторама, позволявшая без особых переделок устанавливать моторы близкой мощности разных типов. Главное же отличие заключалось в том, что у К-4 могла быть как металлическая, так и смешанная конструкция. При этом на одном и том же самолете допускалась полная взаимозаменяемость металлических и деревянных частей. Еще одной особенностью новой машины являлось то, что изначально предполагалось создание не только санитарного варианта, но еще двух: аэрофотосьемочного и пассажирского.

В апреле 1928 года российское общество "Добролет" заказало изготовление двух аэропланов для фотосьемок. Уже в июне шеф-пилот Снегирев приступил к заводским испытаниям. Полеты проходили в целом успешно, а проведенные испытания подтвердили пригодность К-4 для аэрофотосьемки. Отсутствие вибрации в кабине давало возможность получать четкие и рельефные снимки. Условия работы экипажа оказались весьма комфортными, а семичасовый запас горючего позволял значительное время находиться над объектом.

Серийные К-4, сведенные в аэрофотосъемочные отряды, с успехом использовались при картографировании.

В апреле 1928 года Харьковскому заводу поручили подготовить санитарный самолет для демонстраций на III Международной авиационной выставке в Берлине. Машина должна была быть изготовлена исключительно из отечественных материалов и комплектующих изделий. Поэтому вместо немецкого двигателя BMW-IV установили новый советский мотор М-6. Калинин получил персональное приглашение от устроителей выставки, что говорило о признании его работ на международном уровне. Авторитетное жюри выставки удостоило К-4 золотой медали.

В течение последующих лет санитарные К-4 широко использовались для оказания медицинской помощи в различных районах СССР. Нашли они и боевое применение. Во время советско-финской войны эти самолеты участвовали в эвакуации раненых с Карельского перешейка в Ленинград. Полеты осуществлялись в условиях суровой зимы, при минимальной видимости и сильных морозах, однако К-4 работали надежно.

Пассажирские К-4 предназначались для перевозки платной нагрузки в 410кг (четыре пассажира, багаж и почта). Большинство из них оснащались моторами Junkers L-5. Значительный запас топлива позволял применять машины на линиях, проходивших через малонаселенные районы страны. Для расширения возможностей самолета предусматривалась возможность его эксплуатации на специально разработанных поплавках.

Первый год эксплуатации К-4 в Средней Азии показал, что для климатических условий этих мест самолет смешанной конструкции мало подходит. Сделанные из дерева, обтянутые перкалью крылья от жары деформировались, покрытие лопалось - применение дешевых материалов при постройке вылилось в большие затраты при частых ремонтах и необходимость строительства дорогостоящих ангаров, без которых нормальное использование машин оказалось невозможным. Хотя Калинин предусматривал установку на К-4 цельнометаллического крыла, однако внедрить эту разработку удалось только на следующей машине К-5.

К-4 продолжал выпускаться в высоком темпе. Потребность в самолете такого класса в СССР оставалась большой, а средств на закупку импортной техники не было. По новейшим архивным данным, всего этих машин построили 39 экземпляров всех модификаций. По довоенным меркам для гражданского самолета это очень большая серия, ведь, например, знаменитых АНТ-9 построили всего около 70 экземпляров.