Иван Николаевич Филимонов родился 11 (23) декабря 1890 года в Москве.
В 1914 окончил медицинский факультет Московского университета.
Один из организаторов Института исследований мозга В.И.Ленина АМН СССР, c 1927 до смерти в 1966 — заместитель директора, руководитель морфологического сектора сектора института мозга, расположенного в нынешнем Таганском районе на переулке Обуха.
Одновременно заведующий кафедрами нервных болезней Украинского психоневрологического института в Харькове (1932—1936), третьего, а затем в 1936—1941 — второго медицинских институтов в Москве.
Один из основоположников эволюционной нейроморфологии в СССР. Его труды посвящены изучению структуры и развития различных участков коры головного мозга в сравнительном ряду животных и человека, особенностей эмбрионального развитияголовного мозга и архитектоники его коры.
И. Н. Филимоновым была предложена классификация формаций коры больших полушарий головного мозга, концепция мультифункциональности корковых структур и их вариабельности (изменчивости) у человека и животных. Внёс значительный вклад в развитие учения о локализации функций, клинико-морфологическое и клинико-физиологическое исследование центральной нервной системы.
Провëл исследования поражений мозга, получившее название Синдром Филимонова, которое представляет собой сочетание вялой тетраплении с центральным параличом мышц, иннервируемых черепными нервами.
Фундаментально доказал, что функциональные поля, отвечающие за зрение, слух, обоняние и т. д., совпадают с морфологическими, то есть, к примеру, у талантливых художников зрительное поле в несколько раз больше, чем у людей, не имеющих такого дарования. Затем, исследовав в 1930-е годы по заказу ВКП (б) мозг умерших людей разных наций и рас (европеиды, грузины, поляки, евреи), доказал наличие в них индивидуальной изменчивости.
2 марта 1953 года И. Н. Филимонов, как один из ведущих неврологов страны, был привлечен к лечению И.В.Сталина, входил в состав консилиума и комиссии, подписывавшей все бюллетени о состоянии здоровья Сталина, и заключение о причине его смерти.
Награждён орденом Ленина и многими медалями.
Действительный член Академии медицинских наук (1960), заслуженный деятель науки РСФСР.
Умер в Москве в 1966 году и похоронен на Новом Донском кладбище.
