Родился 21 сентября 1871 г. в селе Поздняково ныне Навашинского р-на Горьковской обл.
Основоположник советской нефтяной геологии, геолог-нефтяник, академик АН СССР, заслуженный деятель науки и техники РСФСР.
В 1910 году окончил Санкт-Петербургский горный институт.
В 1917-18 гг. командирован в США для изучения нефтяной промышленности.
В 1920 году возглавил Совет по нефтяной промышленности, а также был назначен председателем Особой комиссии по исследованию Курской магнитной аномалии, в 1922-30 гг. - ректор Московской горной академии.
И.М. Губкин является основателем и первым директором Государственного исследовательского нефтяного института (с 1934 года - Институт горючих ископаемых АН СССР).
В 1930-36 гг. ректор Московского нефтяного института, в те же годы является председателем Совета по изучению производительных сил АН СССР.
В 1931-36 гг. - начальник геологоразведочного управления ВСНХ, в 1936-39 гг. - вице-президент Академии наук СССР.
И.М. Губкин руководил геологическими исследованиями восточных регионов Русской платформы, обосновал перспективы Волго-Уральской нефтегазоносной провинции.
Умер 24 апреля 1939 г. в Москве.