Судьба Александра Филимонова была определена с самого детства. Его отец, Владимир Филимонов, был профессиональным футболистом, играл в полузащите, позже тренировал игроков. Сын же сразу выбрал карьеру вратаря. Его детские и юношеские годы прошли в Кишиневе, в советской республике Молдова. Семья жила там 16 лет, до развала советского союза, за кишиневский «Нистру» играл тогда Владимир Филимонов. Будущий вратарь занимался в СДЮШОР «Нистру». «Школа у меня была в Кишинёве. Там я вырос как футболист, там всё мое футбольное образование закладывалось, без этого не было бы спортивных успехов,» — признавался сам Филимонов-младший. В 1990 году он закончил футбольную школу «Буревестник» в Йошкар-Оле и начал свою карьеру футболиста. Первые шаги в профессиональном футболе он сделал с чебоксарской командой «Сталь» , которая играла во второй низшей лиге СССР. Отыграв сезон, Филимонов снова вернулся в Йошкар-Олу, где играл в местной «Дружбе», команде из той же лиги. Выступая в качестве вратаря, он забил первый (и пока единственный) в своей карьере гол.
Следующим клубом, за который играл Филимонов, стал воронежский «Факел», который числился в только что образованной Высшей лиге России. Тренер «Факела» был хорошо знаком с Владимиром Филимоновым, и когда в Воронеже искали голкипера, тот порекомендовал своего сына. Александр Филимонов отыграл там два сезона в 1992-1993 годах. Но, несмотря на крепкую игру молодого вратаря, клуб перешел в Первую лигу. А Филимонов наоборот, пошел на повышение, стал играть за клуб «Текстильщик» из Камышина, прочно обосновавшийся в Высшей лиге. Вместе с этой командой Филимонов участвовал в Кубке УЕФА. Став главной звездой клуба, он получил известность как один из самых перспективных вратарей в стране. После окончания контракта с «Текстильщиком» в 1996 году, Филимонов перешел в «Торпедо», а вскоре в московский «Спартак» — флагман тогдашнего российского футбола. Основным вратарем «Спартака» тогда был Руслан Нигматуллин, но Филимонов вскоре получил право играть в основе, подвинув более опытного коллегу. Все свои главные награды Александр Филимонов завоевал, играя за этот клуб.
В 1998 году наш земляк получает приглашение в национальную сборную, выступал за нее 4 сезона. В 1999 году в карьере Филимонова наступил поворотный момент, удача отвернулась от голкипера. Переполненные «Лужники», решающий матч со сборной Украины, когда должно было определиться, кто выйдет в финал Чемпионата Европы, и Филимонов, курьезно пропускающий мяч Андрея Шевченко надолго запомнился болельщикам. Украинский футболист пробил штрафной, Филимонов же вышел из ворот и, пытаясь поймать мяч, пятясь, уронил его в свои ворота. Этот инцидент породил массу шуток в околофутбольной среде, попал в клип группы «Чайф» «Аргентина-Ямайка». Было мнение, что в этот момент, после развода с супругой Анной Филимоновой, футболист был не в самой хорошей психологический форме, хотя сам он такую версию отрицает. С тех пор игра в «Спартаке» не заладилась, смелая и рисковая манера Филимонова стала давать сбои.
В 2001 году Филимонов подписал контракт с киевским «Динамо», отыграв сезон, в следующем году возвратился в Россию и заключил контракт с элистинским «Ураланом». Через два года клуб вылетел в Первый дивизион, Филимонов снова сменил команду. В 2004 году он в составе команды московского «Торпедо-Металлурга», дошел до финала кубка России. Но финальный матч они провели уже без Филимонова, вратарь уехал из страны чтобы играть за кипрский клуб «Неа Саламина». Вернулся в Россию в 2008, присоединившись к краснодарской «Кубани» команде Первом дивизиона. Продлевать контракт, который был заключен до конца 2008 года с футболистом не стали. 2009-2010 годы Филимонов провел в Узбекистане, играя за ташкентский «Локомотив». Начиная с 2009 года Филимонов — участник матчей Кубка Легенд — международного турнира, в котором принимают учатие известные футболисты, недавно закончившие карьеру. С самого первого Кубка, который был разыгран в 2009 году, Россия является неизменным победителем.
С 2011 года Филимонов стал совмещать два вида спорта, освоив еще и пляжный футбол. Являясь играющим тренером тульского «Арсенала», параллельно играл за «Локомотив», став Чемпионом России по пляжному футболу. В составе национальной сборной по этому виду спорта выиграл Чемпионат мира, Кубок Евролиги и Межконтинентальный кубок.
С 2015 в такой же в должности играющего тренера Филимонов выступает в футбольном клубе «Долгопрудный» из одноименного подмосковного города, играющей во Втором дивизионе.
Несмотря на свою знаменитую неудачу в 1999 году, Александр Филимонов признан лучшим футболистом за всю историю этого спорта в Марий Эл.
27 мая 2018 в Долгопрудном состоится заключительная встреча Первенства ПФЛ в сезоне 2017/2018 гг., в которой ФСК «Долгопрудный» сыграет против ФК «Луки-Энергия» (Великие Луки). Эта игра станет финальным матчем в игровой карьере легендарного вратаря Александра Филимонова. По окончании матча планируется автограф-сессия.
44-летний уроженец Йошкар-Олы сменил за свою карьеру 14 клубов. Филимонов в составе московского «Спартака» шесть раз становился чемпионом России. Александр отыграл 16 матчей за сборную России. Выступал за сборную России по пляжному футболу и стал чемпионом мира, победителем Евролиги и обладателем Межконтинентального кубка.