76,2-мм дивизионная пушка ЗИС-3 разрабатывалась конструктором В.Г.Грабиным в инициативном порядке. Зная отрицательное мнение ГАУ относительно дальнейшего совершенствования 76-мм орудий, конструктор, не информируя ни само ГАУ, ни Наркомат вооружения о своей работе, не только спроектировал новое орудие, но и начал его секретный выпуск.

Накопив достаточно серийных образцов и проведя испытания, Грабин предложил пушку специалистам военной приемки, но те без разрешения ГАУ отказались это делать. Тогда Грабин обратился к новому начальнику ГАУ Н.Д. Яковлеву. Пушка была принята на вооружение, хотя официально это было зарегистрировано лишь после показа орудия Сталину. По его приказу были проведены испытания, хотя к тому времени в войсках уже насчитывалось почти 1000 пушек ЗИС-3.Отличие конструкции этого орудия от предыдущей модели — Ф-22 — заключалось в крайней простоте и технологичности. Пушка была создана путем наложения ствола модернизированной Ф-22 на лафет 57-мм противотанковой пушки ЗИС-2 с установкой дульного тормоза для уменьшения нагрузки.