Родился 28 июля 1941 года в деревне Химонево Шенкурского района Архангельской области. Отец оставил семью, когда ребенку было несколько месяцев.
Мама через некоторое время вышла замуж, и мальчика воспитывала бабушка. Детство было голодным, жили в бедности, почти в нищете.
Но получив среднее образование юноша уехал в Москву, и без труда поступил в Школу-студию МХАТ, на курс замечательного педагога Павла Владимировича Массальского.
В основном играл второплановые и эпизоды, хотя была одна из главных ролей (Федор Гаврилов, участковый) в картине «Тропой бескорыстной любви» и в продолжении — «Рысь выходит на тропу», «Рысь возвращается», «Рысь идет по следу».
Вот какую историю, случившуюся на съемках сиквела о рыси, рассказывал Филимон Иванович. Режиссер А.Бабаян покупал маленьких рысят, и съемочная группа выращивала их, общалась, чтобы они привыкали к ним.
Однажды и.грали сцену, в которой участвовали Сергеев, еще один актер и, разумеется, рысь.
Все они находились в вольере. А прирученная рысь, накануне сбежала, и поскольку нельзя было откладывать съемки, спешно привезли другую, дикую. Сергеев узнал об этом перед съемкой.
Он знал — если у зверя зрачки увеличиваются, нельзя отводить от него взгляда. Так и случилось в этой сцене. Актер играет роль и видит, что зрачки у дикой рыси становятся все крупнее и крупнее.
Свой текст Филимон Сергеев произносил уже автоматически, почти бессознательно, и хорошо, что все окончилось благополучно.
Актер сыграл в фильмах «Королевская регата», «Непоседы», «Две судьбы», «Россия молодая», «Михайло Ломоносов» и др.
Он замечательный поэт и писатель — «Вечна только ты» (сборник стихов), автор романов «Говорящие памятники», «Идущий от солнца».
А первая книга «Федина беда» (советская классическая проза) вышла в 1989 году. К тому же, Сергеев является автором стихов к песне «Река» из кинофильма «Отец и сын», к песне «Брусника» из фильма «Две судьбы».
Был дважды женат. Первая супруга Татьяна Ларина — художник, у них родилась дочь Александра. Вторая — Галина, врач, с которой прожили почти 40 лет и развелись.
Филимон Иванович Сергеев ушел из жизни 31 мая 2021 год, почти ровно год назад от сердечного приступа.