В училище он познакомился со своей будущей женой – художницей Н. С. Гончаровой. Во время обучения создал серии картин («Сирень», «Белые розы», «Цветущие акации», 1902—06) в духе постимпрессионизма. В 1906 г. посетил Париж. С 1907 г. писал в манере примитивизма острогротескные сцены из провинциального и солдатского быта («Отдыхающий солдат», 1911; «Весна», 1912). Его полотна были представлены на выставке «Бубновый валет» (1910; вероятно, именно Ларионов был автором этого названия). Вскоре, выйдя из состава участников «Бубнового валета», организовал скандальную выставку «Ослиный хвост» (1912), а затем «Мишень» (1913) и др. На выставке «Мишень», где демонстрировались также произведения художников-самоучек и детские рисунки, Ларионов представил работы из серий «Венеры» и «Времена года» (1912), которые были расценены критиками как вызов. В них использованы язык детского рисунка и архаическая символика, дополненная незатейливым текстом. Анархическое бунтарство, отрицание традиций классического искусства, провозглашение свободы формальных экспериментов «Ослиный хвост» сочетал с обращением к примитивизму, к традициям русской иконы и лубка. В 1910-х гг. Ларионов проявил себя также как блестящий организатор: он возглавил группу молодых московских художников, в 1913 г. подготовил выставку лубка, которая включала восточные и европейские народные картинки, вывески, доски для изготовления печатных пряников; в том же году провёл выставку иконописных подлинников и лубков.

В 1912 г. Ларионов создавал иллюстрации к рукодельным «книжкам футуристов» («Помада» А. Е. Кручёных) и основал новое живописное направление лучизм (формы и пространство строятся пересечениями коротких и по-разному окрашенных прямых лучей). В 1915 г. после контузии на фронте вместе с Гончаровой покинул Россию для работы в антрепризе С. П. Дягилева, где выступал не только как театральный декоратор (оформление балетов «Полуночное солнце» на музыку Н.