Родился в Кирсанове Тамбовской области.
В 16 лет был призван в ряды Советской армии. В 1945 году, будучи сапёром-миномётчиком в составе Краснознамённой Дальневосточной армии, участвовал в разгроме Квантунской армии — самой многочисленной и мощной группировки сухопутных войск императорских вооружённых сил Японии.
После мобилизации он окончил вечернюю школу в Кирсанове и поступил в один из ведущих вузов СССР в сфере материаловедения, металлургии и горного дела — Московский институт стали и сплавов.
В 1956 году, получив диплом инженера-металлурга, Анатолий Павлович пришёл на завод «Рудгормаш» мастером литейного цеха. Вскоре он вырос до начальника технического бюро, а затем возглавил этот горячий цех.
Неоднократно избирался секретарём партбюро литейного цеха и секретарём парткома завода.
За свои подвиги Анатолий Павлович Филитов был награжден Орденом Отечественной войны II степени.