Иван Рыбкин родился 20 октября 1946 г. в деревне Семигоровка Терновского района Воронежской области. Закончил среднюю школу с золотой медалью. В 1968 г. с отличием закончил Волгоградский сельскохозяйственный институт (ВСХИ). По специальности - инженер-механик. В 1970-1974 гг. учился в аспирантуре ВСХИ. В 1991 г. окончил Академию общественных наук при ЦК КПСС, в 1993 г. - Дипломатическую академию МИД РФ. Женат, имеет двух дочерей.
В 1968-1969 гг. работал старшим инженером в одном из совхозов Новоаннинского района Волгоградской области.
В 1969-1970 гг. - служил в Вооруженных силах СССР.
В 1970 году вступил в КПСС.
В 1970-1974 гг. учился в аспирантуре ВСХИ.
В 1974-1987 гг. работал в ВСХИ - ассистентом, старшим преподавателем, доцентом, заведующим кафедрой механизации и автоматизации животноводства, заместителем декана механического факультета.
С 1983 г. - секретарь парткома КПСС ВСХИ.
В 1987-1991 гг. - первый секретарь Советского райкома КПСС Волгограда, второй секретарь Волгоградского обкома КПСС.
Неоднократно избирался депутатом районного и городского совета Волгограда.
В апреле 1990 г. был избран народным депутатом Волгоградского областного совета.
В 1990 г. избран народным депутатом РСФСР. На VII съезде народных депутатов РФ по ротации вошел в Верховный Совет. Работал на постоянной основе в Комитете Верховного Совета (ВС) РФ по вопросам работы Советов народных депутатов и развитию самоуправления. Стал одним из основателей и сопредседателем фракции "Коммунисты России".
Летом 1990 г. был делегатом Учредительного съезда Компартии РСФСР от Волгограда.
В 1991 г. - заведующий отделом по связи с Советами народных депутатов ЦК Компартии РСФСР.
Осенью 1991 г. подписал обращения в Конституционный суд о неконституционности указов президента России от 23 и 25 августа 1991 года о роспуске КПСС.
В феврале 1993 г. был избран в ЦИК КПРФ , а на первом его пленуме - заместителем председателя ЦИК. Был заместителем председателя ЦИК по апрель 1994 г.
С 22 сентября по 4 октября 1993 г. после указа президента РФ Бориса Ельцина "О поэтапной конституционной реформе" находился в Белом доме на стороне Верховного Совета. Покинул здание после штурма.
12 декабря 1993 г. избран депутатом Государственной думы по списку Аграрной партии.
В январе 1994 г. избран председателем Государственной думы 5-го созыва.
В начале 1995 года президентским указом утвержден постоянным членом Совета безопасности (вместе с председателем Совета Федерации 1-го созыва Владимиром Шумейко ).
Осенью 1995 г. Центризбиркомом был зарегистрировано предвыборное объединение под названием "Блок Ивана Рыбкина" (на выборах не преодолел пятипроцентного барьера).
В декабре 1995 г. - октябре 1996 г. депутат Государственной думы РФ 6-го созыва по одномандатному избирательному округу.
В апреле 1996 г. основал Социалистическую партию России.
На выборах летом 1996 г. поддерживал кандидата в президенты РФ Бориса Ельцина.
26 июня 1996 г. назначен председателем Политического консультативного Совета при президенте РФ.
19 октября 1996 г. назначен секретарем Совета безопасности России и полномочным представителем президента России в Чеченской республике.
2 марта 1998 г. назначен заместителем председателя Правительства РФ и освобожден от должности секретаря Совбеза.
23 марта 1998 г. президент РФ отправил правительство в отставку. До 15 мая 1998 г. Рыбкин оставался исполняющим обязанности вице-премьера.
14 мая 1998 г. назначен полномочным представителем президента РФ в государствах - участниках СНГ.
В 2000 году он ушел в отставку со всех государственных постов и возглавил Центр поддержки профессиональных союзов и гражданских инициатив.
2 марта 2002 года стал председателем Социалистической единой партии ("Духовное наследие").
28 июня 2002 года направил открытое письмо Владимиру Путину, в котором призвал прекратить войну в Чечне и начать переговоры с Асланом Масхадовым.
29 июня лишился поста председателя Социалистической единой партии России за позицию по чеченской проблеме.
В августе 2002 года встречался в Цюрихе с представителем Масхадова Ахмедом Закаевым.
24 декабря 2003 года заявил о намерении баллотироваться на пост президента в качестве независимого кандидата.
Рыбкин является лидером незарегистрированной в Минюсте партии "Либеральная Россия", которую поддерживает предприниматель Борис Березовский.