Стремление повысить огневую мощь и особенно бронезащиту основных бронеавтомобилей Красной Армии сдерживалось в 1930-е годы ограниченной грузоподъемностью и недостаточной надежностью применявшегося трехосного шасси ГАЗ-ААА. Оно и так было перегружено, а его маломощный двигатель практически не поддавался форсированию. С увеличением же толщины брони неизбежно возрастала и масса бронемашины. Поэтому освоение на ЗИСе в 1934 году более прочного и выносливого трехосного неполноприводного (6×4) грузовика ЗИС-6 с червячными задними мостами, разработанного конструкторами Е. И. Важинским, А. С. Айзенбергом, А. И. Скерджиевым, Кьян Ке Мином и другими, позволило приступить к разработке на его базе тяжелого пушечного бронеавтомобиля с боевой массой свыше 6 тонн.

Бронеавтомобиль такого класса получивший обозначение БА-5 был создан осенью 1935 года и построен по традиционной компоновочной схеме с передним расположением двигателя, двумя задними ведущими осями и задним постом управления. Его полностью закрытый бронекорпус был выполнен из листов катаной стали толщиной 8 мм, которые устанавливались преимущественно вертикально. С рациональными углами наклона монтировались лобовые и кормовые листы, толщина которых составляла 9 мм. Крыша корпуса имела толщину 6 мм, днище — 4 мм. Таким образом БА-5 получил более надежную бронировку, чем состоявший тогда на вооружении средний бронеавтомобиль БА-3.

В просторном корпусе нового броневика свободно размещались 5-6 человек экипажа. Для посадки в машину и выхода из нее в бортах корпуса имелись небольшие открывавшиеся вперед прямоугольные двери на внешних петлях. В отделении управления слева располагался водитель, справа — командир машины. Перед ним в наклонном лобовом листе корпуса был смонтирован 7,62-мм пулемет ДТ в шаровой установке. Обзор водителю обеспечивало лобовое окно, оборудованное бронекрышкой со смотровой щелью и небольшие окна с бронекрышками в боковых дверях.

В кормовой части корпуса, имевшей более сложную конфигурацию за счет размещения там заднего поста управления и кормового пулемета, слева сидел водитель заднего руля, в распоряжении которого имелся полный комплект всех органов управления бронемашиной. Наблюдать за дорогой он мог через такое же окно, как и спереди, кроме того, для дополнительного обзора слева в борту корпуса имелось маленькое квадратное окно, оборудованное бронекрышкой со смотровой щелью. Все смотровые щели были оборудованы пулестойкими приборами наблюдения ПТ-К. Справа от водителя в выступающей прямоугольной рубке находился боевой пост кормового стрелка, который обслуживал 7,62-мм пулемет ДТ, смонтированный в шаровой установке в задней стенке этой рубки.

В средней части машины со смещением к корме на крыше боевого отделения была установлена цилиндрическая башня кругового вращения от легкого танка Т-26, вооруженная 45-мм пушкой 20К образца 1932 года и спаренным с ней 7,62-мм пулеметом ДТ. Возимый боекомплект к пушке и трем пулеметам состоял из 114 выстрелов и 3000 патронов. Для ведения прицельной стрельбы в распоряжении наводчика имелся телескопический прицел ТОП образца 1930 года.

В моторном отсеке, расположенном в передней части корпуса, располагался шестицилиндровый карбюраторный рядный двигатель жидкостного охлаждения ЗИС-6, который развивал мощность 53,7 кВт (73 л. с.) и взаимодействовал с трансмиссией, состоявшей из двухдискового сцепления сухого трения, четырехскоростной коробки передач с демультипликатором, карданных передач и дифференциалов. Такая силовая установка позволяла 8-тонной бронемашине развивать на дорогах с твердым покрытием максимальную скорость 50 км/ч. С полными топливными баками, вмещавшими 120 литров бензина, машина могла пройти 260 км.

В неполноприводной (6×4) ходовой части с подвеской на полуэллиптических рессорах использовались колеса с пулестойкими шинами типа ГК. Колеса ведущих задних осей были двухскатными и располагались в нишах кормовой части корпуса. На бортах нижней части корпуса перед отделением управления крепились запасные колеса, которые свободно вращались на своих осях и при движении по пересеченной местности способствовали преодолению рвов, канав и насыпей, не позволяя бронемашине сесть на днище. Все это позволяло БА-5 преодолевать подъемы крутизной 20°, рвы шириной 0,5 м и броды глубиной 0,65 м.

Для езды в темное время суток бронеавтомобиль был оборудован фарами, которые попарно устанавливались на небольших кронштейнах на передних и на задних крыльях. Средствами связи БА-5 не оснащался.

В целом, подвижность бронемашины, имевшей довольно большие габаритные размеры, ограничивалась недостаточной мощностью двигателя, и выигрыш в боевых свойствах по сравнению с имевшимися бронемашинами был невелик. Однако шасси и двигатель ЗИС-6 обладали потенциалом для дальнейшей модернизации, а размеры машины могли быть заметно уменьшены при усилении ее бронезащиты за счет усовершенствования формы корпуса.