Родился 16 июня в деревне Андроники Ярославской губернии в многодетной зажиточной крестьянской семье. Окончил церковно-приходскую школу и Давыдковскую земскую школу. После смерти отца был вместе с другими детьми взят на воспитание его братьями, петербургскими купцами. В 1912 году закончил Петербургское коммерческое училище и работал бухгалтером в Санкт-Петербурге. С началом Первой мировой войны призван в армию, служил солдатом-мотоциклистом, затем направлен на учёбу в школу прапорщиков.
С 2015 года – участник Первой мировой войны на Юго-Западном фронте, командир роты и батальона. Награждён орденами Святой Анны и Святого Станислава.
Когда началась Гражданская война, в августе добровольно вступил в Красную Армию. Окончил школу штабной службы в 1919, курсы усовершенствования в 1930 году и Военную Академию имени М. В. Фрунзе в 1934 году. Начальник штаба дивизии, корпуса. С июля 1938 – начальник штаба Закавказского военного округа. Во время Великой Отечественной войны 1941-1945 – начальник штаба Закавказского (август – декабрь 1941), Кавказского (декабрь 1941 – январь 1942) и Крымского (январь – март 1942) фронтов, заместитель командующего войсками Сталинградского военного округа (май – июль 1942), командующий войсками 57-й и 68-й армий на Сталинградском и Северо-Западных фронтах (июль 1942 – март 1943). С марта 1943 командовал войсками Южного, с октября 1943 – 4-го Украинского, с мая 1944 – 3-го Украинского фронтов. С июля 1945 главнокомандующий Южной группой войск, с января 1947 командующий войсками Закавказского военного округа. Депутат Верховного Совета СССР 2-го созыва.
О способностях Толбухина, как выдающегося военачальника говорят операции, осуществленные, полностью или частично, Южным, 3-м и 4-м Украинскими фронтами, которыми он командовал: Донбасская, Мелитопольская, Никопольско-Криворожская, Крымская, Ясско-Кишенёвская,операции, Белградская, Будапештская, Балатонская, Венская. Толбухин показал себя как настоящий стратег.
Награжден двумя орденами Ленина, орденом «Победа», тремя орденами Красного Знамени, двумя орденами Суворова 1-й степени, орденом Кутузова 1-й степени, орденом Красной звезды и медалями. Почетный гражданин Софии (1946) и Белграда (1947).
Умер 17 сентября 1949 года. Его прах захоронен на Красной площади в Кремлевской стене.
Указом Президиума Верховного Совета СССР от 7 мая 1965 года Маршалу Советского Союза Толбухину Фёдору Ивановичу посмертно присвоено звание Героя Советского Союза.
Улица в Тюмени названа именем Федора Ивановича Толбухина.
