Первые эксперименты по усилению вооружения Ми-4 проводились, причем с положительной оценкой, в 1960 г. На машине монтировались две поперечные балки, на каждую из которых крепилось по три держателя для блоков НУРС либо авиабомб, а в подфюзеляжной кабине устанавливался коллиматорный прицел. В 1961 г. вертолет показали группе генералов стран Варшавского договора, В мае 1965 г. два вооруженных Ми-4 и четыре Ми-1 вновь демонстрировались руководству дружественных армий. «Четверки», оснащенные уже восемью блоками НУРС УБ-16 и ПТУРСами «Фаланга», сумели поразить все цели.

Когда началось создание транспортно-боевого вертолета Ми-24, для ускорения работ комплекс вооружения К-4В решили опробовать на Ми-4А. В 1966 г. этот комплекс установили на вертолет, получивший обозначение Ми-4АВ. «Четверка» превратилась в достаточно грозную боевую машину. Ее вооружение состояло из четырех ПТУРС 9М17М «Фаланга», шести блоков УБ-16–57УМВ с шестнадцатью НУРС С-5 в каждом или шести 100-кг бомб. Вместо последних могли подвешиваться четыре 250-кг бомбы или два зажигательных бака ЗБ-500. В подфюзеляжной гондоле был установлен комплекс вооружения К-48 с пулеметом А-12.7 калибром 12.7мм с боезапасом 200 патронов.

Все вооружение, кроме пулемета, располагалось на фермах по бортам фюзеляжа. На каждой устанавливалось по три балочных держателя БДЗ-57КРВ с блоками НУРС или бомбами. Сверху монтировалось по две направляющие 2П32/К-4В для ПТУРСов. В критической ситуации фермы можно было сбросить, для чего верхние крепления подкосов снабдили взрывными болтами. Однако в частях эти болты часто заменяли на обычные, и фермы не сбрасывались.

Обязанности экипажа по управлению вооружением, согласно руководящим документам, распределялись так: пуск и наведение ПТУРС производил летчик-штурман с помощью оптического визира 9Ш121; командир вел стрельбу ракетами С-5, используя съемный прицел ПКВ; борттехник вел огонь из пулемета и сбрасывал бомбы, пользуясь прицелом ОБП-1Р в полу гондолы. Но на практике бомбометание чаще всего вел летчик-штурман, прицеливаясь на глаз.

В СССР в вариант Ми-4АВ было переоборудовано около 200 вертолетов, начавших поступать в ВВС с 1968 г. Однако он имел существенные недостатки (малую энерговооруженность, отсутствие защиты экипажа и жизненно важных систем), поскольку создавался на базе транспортного вертолета. Прорабатывались иные варианты вооружения вертолета: две дополнительные шкворневые пулеметные установки либо неподвижные пушечные контейнеры на балочных держателях. В конце 60-х гг. в Чехословакии была разработана собственная вооруженная модификация -Ми-4В, отличавшаяся от Ми-4АВ отсутствием ПТУРСов и расположением четырех блоков НУРС один над другим на фермах по бортам фюзеляжа.