Родился 26 июля 1922 года в деревне Иштереково Дебесского района Удмуртии, в семье крестьянина-бедняка. В 1939 году с отличием окончил среднюю школу. Учился в Ленинградском военно-инженерном училище и Военной академии имени М. В. Фрунзе был сталинским стипендиатом, где получил дипломы с отличием.
1 июня 1941 года лейтенант Гущин назначен командиром взвода курсантов Ленинградского военно-инженерного училища. В этой должности участвовал в строительстве оборонительной полосы Ленинграда в Карелии и в эвакуации ценностей из Эрмитажа.
В сентябре того же года в составе училища, которое передислоцировали в Кострому, готовил кадры для фронта. Затем принимал участие в морском десанте на Малую Землю под Новороссийском в должности командира саперной роты, в группе советских войск в Иране, батальоне минеров Закавказского и Первого Прибалтийского фронтов.
С апреля 1944 года Аркадий Гущин в составе Второго Белорусского фронта, в 1-й гвардейской штурмовой инженерно-саперной бригады (1-й ГШИСБ) участвовал в форсировании Днепра, Березины, Немана, Одера. Освобождал Минск, Гродно, Польшу. Войну завершил под Кенигсбергом в звании капитана.
При освобождении Могилева Гущин провел ряд труднейших операций, после чего ему присвоили звание почетного гражданина г. Могилева.
После войны Аркадий Васильевич обезвреживал неразорвавшиеся снаряды и бомбы на территории Западной Украины. Служил в Прибалтике. В 1948 году Гущина назначили командиром инженерно-танкового батальона. Окончив Военную академию служил в Прикарпатском военном округе в должностях от дивизионного инженера до начальника штаба инженерных войск танковой армии.
В 1960 году Аркадий Васильевич получил назначение в Тюмень, где с 1966 года работал начальником ТВИУ, затем и ТВВИКУ, начальником Тюменского гарнизона. Под его руководством училище получило статус высшего учебного заведения.
Находясь в Тюмени, Гущин неоднократно избирался депутатом горсовета, членом Тюменского обкома КПСС. Тесно сотрудничал с Главтюменнефтегазом.
В июле 1974 года А.В. Гущин назначен начальником фортификационно-строительного факультета Военно-инженерной академии имени В. В. Куйбышева в Москве. Через год – начальником управления вооружения и снабжения инженерных войск Министерства обороны СССР.
Гущин вел большую общественную работу. Избирался председателем московской секции советского комитета ветеранов войны, председателем московского совета ветеранов войны, председателем объединенного совета ветеранов инженерных войск, председателем оргкомитета по созданию памятника защитникам Москвы – одиннадцати саперам Панфиловской дивизии – на 114-м километре Волоколамского шоссе и установлению обелиска на месте формирования 1-й гвардейской штурмовой инженерно-саперной бригады и т.д.
С 23 июня по 23 июля 1986 года Аркадий Васильевич возглавлял работу в должности начальника оперативной группы инженерных войск Министерства обороны СССР.
В ноябре 1994 года Аркадий Васильевич скончался. Более 47 лет он отдал советской армии.
В память о генерал-лейтенанте в Тюмени, на доме где жил А. В. Гущин, установлена мемориальная доска. В 2012 году Тюменским областным советом ветеранов и командованием ТВИИВ учрежден диплом его имени, которым награждаются преподаватели, командиры, курсанты института и активисты ветеранского движения.
Награжден орденом «За службу Родине в Вооруженных силах СССР» III степени, медалью «За службу Родине в Вооруженных силах СССР» II степени. Лауреат Государственной премии СССР «За разработку и внедрение новых перспективных образцов машин инженерного вооружения» (1985 г.).