Наряду с интенсивной исследовательской работой, А.Ф. Иоффе много сил и времени уделял преподаванию. Он читал лекции не только в Политехническом институте, профессором которого стал в 1915 г., но также на известных в городе курсах П.Ф. Лесгафта, в Горном институте и в университете. Однако самым главным в этой деятельности Иоффе била организация в 1916 г. семинара по новой физике при Политехническом институте. Именно в эти годы А.Ф. Иоффе – сначала участник, а потом и руководитель семинара – выработал тот замечательный стиль ведения такого рода собраний, который создал ему заслуженную известность и характеризовал его как главу школы. Семинар Иоффе в Политехническом институте по праву считается важнейшим центром кристаллической физики.

Разработку планов физико-технического отдела будущего Государственного рентгенологического и радиологического института взял на себя А.Ф. Иоффе. Этот институт был создан 23 сентября 1918 г., а в 1921 г., его физико-технический отдел выделился в самостоятельный Государственный физико-технический рентгенологический институт (ФТИ), который более трех десятилетий и возглавлял А.Ф. Иоффе. Наряду с созданием ФТИ, А.Ф. Иоффе принадлежит заслуга организации в 1919 г. при Политехническом институте факультета нового типа: физико-механического, деканом которого он также был более 30 лет. Научная работа А.Ф. Иоффе была сосредоточена в стенах ФТИ, одной из лабораторий которого он неизменно заведовал, хотя тематика ее исследований, как и название, претерпели изменения. В 20-е годы основным направлением работы было изучение механических и электронных свойств твердого тела.