Меценат, создатель частного музея «Российских древностей» П.И.Щукин называет Карзинкина в числе известных московских нумизматов. Да так оно и было.

У А.В. Орешникова, нумизмата первой величины, чьи труды не потеряли научной ценности и в наши дни, собирались знатоки монет. Когда в 1888 году было образовано Московское нумизматическое общество (МНО), его действительные члены А.А. Карзинкин и А.В. Орешников на протяжении многих лет были в числе наиболее инициативных его участников. Нумизматы, входившие в МНО, не просто уделяли часть своего досуга коллекционерству. Они ставили серьезные научные задачи и с успехом добивались их решения. Созданные при обществе библиотека и общественная нумизматическая коллекция комплектовались в основном за счет пожертвований наиболее активных членов общества. Александр Андреевич не только внес существенный вклад в библиотеку МНО, но и наряду с П.В. Зубовым выручил общество из того тяжелого финансового положения, в котором оно очутилось в 1898 году. Оказывать финансовую помощь обществу Карзинкин продолжал в течение многих лет.

Современники называют А.А. Карзинкина заядлым театралом. Он неплохо знал жизнь театра и его деятелей; в частности, дружил с К.С. Алексеевым-Станиславским. Регулярно посещал театр и оперу, участвовал в постановках Алексеевского кружка, организовал даже собственный домашний театр в особняке на Покровском бульваре. Последнее отчасти было данью московской моде: на рубеже веков многие купцы, по образцу Мамонтовых и Алексеевых, увлеклись театральными постановками на дому. Женой Александра Андреевича стала прима-балерина московского Большого театра красавица итальянка Аделина Джури (сценическое имя — Аделаида). В этом браке родилась дочь — дитя любви, — названная в честь матери и покойной сестры Александра Андреевича Соней — Сонюшей.