Родился в 1865 году в селе Дубровичи Рязанского уезда Рязанской губернии, в семье дьякона местной церкви.
В 1875 году Пётр был отдан в Рязанское духовное училище. В 1883 году под влиянием старшего брата решил выйти из духовного сословия и поступить в Демидовский юридический лицей в Ярославле. Во все время учебы в лицее старший брат содержал Петра и каждый месяц посылал ему 20 рублей из тех 53 рублей, что составляли его жалование. При окончании курса Петру предложено было остаться преподавать в лицее, но он уехал в Рязань к Василию и почти год бесплатно занимался при Рязанском окружном суде.
В это же время Пётр Городцов сделал первые шаги в научной работе. Старший брат его занимался исследованием неолитических стоянок долины реки Оки в пределах Рязанской губернии. Эти работы заинтересовали Петра, и он несколько раз принимал участие в археологических экскурсиях. Братья обследовали дюнные стоянки в окрестностях сёл Борки, Тумашево, Алеканово, за что Пётр Алекеевич был избран действительным членом Рязанской учёной архивной комиссии, где старший брат его был секретарём археологического отделения.
Позже Пётр Городцов служил в одном из уездных городов Рязанской губернии. В 1896 году уехал в Сибирь, в Тобольскую губернию, где получил место крестьянского начальника и судебного следователя Тобольского окружного суда в селе Покровское Тюменского уезда.
Живя среди сибирских крестьян, Городцов увлёкся бытом и фольклором Тавдинского края – начал собирать материалы по этнографии и диалектам русского населения. О трудах его стало известно тобольскому губернатору Гондатти, который, сочтя подобную работу подрывающей устои, вызвал Городцова в Тобольск и резко потребовал, прекратить якшаться со «сказителями», ибо это «непозволительно для крестьянского начальника». Петр Алексеевич решительно отказался подчиниться губернаторскому требованию. В 1908 году вышел в отставку и переехал в Тюмень. Здесь занялся адвокатской практикой, консультировал сибирские банки, возглавлял Тюменское отделение Общества для борьбы с детской смертностью, стал действительным членом Тобольского губернского музея. Пётр Алексеевич полностью отдался научной деятельности, совершил ряд этнографических экспедиций по Западной Сибири. Работы его публиковались в «Этнографическом обозрении» (Санкт-Петербург), «Записках Западно-Сибирского отдела Императорского русского географического общества», «Ежегоднике Тобольского музея», «Вестнике Западной Сибири» и высоко оценены научной общественностью.
Скончался 19 июня 1919 года в Тюмени на 2-ой Монастырской улице (ныне улица Свободы, №4) от тяжелой болезни.
Обширный архив неопубликованных материалов экспедиционной работы Городцова хранится в Тюменском краеведческом музее. В 2000 году в издательстве Ю. Мандрики вышел трехтомник «Былей и небылиц Тавдинского края» П. А. Городцова.