С 1877 г. он вместе с товарищами по работе регулярно ходит на социалистические собрания, через два года вступает в Рабочую партию, которую возглавляет Жюль Гед, и организует рассылку ее газеты ”Эгалитэ”. Но Жана интересует не только марксизм; он знакомится и с другими течениями социализма. Его избирают секретарем парижской ”Группы социальных исследований”, в которой состояли не только приверженцы Геда, но и видные анархисты — Карло Кафиеро, Эррико Малатеста, Варлам Черкезов и др.

Очень скоро ему предстояло сделать решающий выбор между авторитарным и антиавторитарным социализмом, между марксизмом и анархизмом. Газета ”Эгалитэ” открыто высказалась в пользу парламентской деятельности социалистов. Возмущенный Грав в 1880 г. вышел из ее руководства. Он заявлял, что предпочитает ”динамит избирательному бюллетеню”. С ноября 1881 г. Грав возглавил издание ежемесячного бюллетеня французских анархистских групп.

В 1881—1882 гг. увидели свет первые анархистские статьи и брошюры Жана Грава. Публицистический и пропагандистский талант молодого активиста быстро привлек к себе внимание старших товарищей. Петр Кропоткин и Элизэ Реклю публикуют его материалы в газете ”Le Révolté” (”Бунтовщик”), которую они издавали в Швейцарии. С обоими ветеранами Грава связывала близкая дружба до самой их кончины.

В начале 1883 г., по приглашению Элизэ Реклю, Грав переезжает в Женеву, согласившись временно — всего на полгода — возглавить это издание после того, как Кропоткин был арестован во Франции и осужден судом за анархистскую деятельность. Когда этот срок минул, ни сам Грав, и никто другой уже не сомневались в том, что лучшего главного редактора газете не найти. С 1885 г. ”Револьте” издавалась в Париже, в следующем году стала выходить еженедельно, но уже в 1887 г. под угрозой запрета вынуждена была сменить название на ”Ля Револьт” (”Бунт”). С 1895 г. по 1914 г. газета выходила под новым именем ”Тан нуво” (”Новые времена”). Бессменным руководителем издания оставался Жан Грав.