В состав флотилии входили:

— дивизион канонерских лодок (вооруженные суда «Дон», «Рион» и № 4);

— дивизион сторожевых кораблей-тральщиков («Войков», «Мариуполь», «Перванш», «Севастополь» и «Штурман»);

— отряд сторожевых катеров и катеров-тральщиков («Амур», «Адлер», «Туапсе», «Тайфун», «Поти», «Ураган», «Шквал», «Циклон») из мобилизованных и переоборудованных судов Азово-Черноморского пароходства.

Кроме того, в оперативное подчинение командования флотилии включили 87-ю отдельную истребительную авиаэскадрилью (девять И-15 бис). Главной базой был определен портовый Мариуполь.

Начиная с 20 августа 1941 года в составе флотилии в течение месяца был сформирован Отдельный Донской отряд (ОДО) кораблей для оказания содействия войскам Южного фронта в районах Таганрога и нижнего течения Дона. В него были переданы дивизион речных канонерских лодок («Кренкель», «Октябрь», «Ростов-Дон» и «Серафимович») и дивизион речных сторожевых катеров (8 катеров), которые базировались на Азов и Ростов-на-Дону, маневренными базами были определены Калач, Каменская и Цимлянская. В дальнейшем состав ОДО менялся, ведь боевые действия корабли отряда вели до конца июля 1942 года.

24 сентября 1941 года флотилия поступила в оперативное подчинение оборонявшейся на северном побережье Азовского моря 9-й армии. Военный совет, опасаясь ударов во фланг и тыл армии из района Кирилловка— Горелое, где противник сосредоточил переправочные средства, потребовал, чтобы корабли во взаимодействии с 296-й стрелковой дивизией не допустили переправы противника через косу на Степановку, а также высадку врагом десантов в районе Бердянска

Флотилия достаточно активно участвовала в обороне Мариуполя. Так, в распоряжение начальника Мариупольского гарнизона для прикрытия города от ударов немецкой авиации были переданы 87-я эскадрилья и вся зенитная артиллерия дивизиона тральщиков, развернутого на тот момент у завода «Азовсталь».