Семь раз приходил Гримм к консулу и каждый раз получал вежливый отказ. В конце концов он оставил пакет у дворника, чтобы тот передал его по назначению. После этого, опасаясь, что Гримм в панике наделает глупостей, Геккинг-о-Карроль согласился встретиться с ним вечером 28 января. К этому времени визит эрцгерцога должен был завершиться.

Тем временем русская контрразведка не сидела сложа руки. Агент из Вены сообщил, что разыскиваемый шпион отправил из Петербурга в конце ноября телеграмму в Вену. Начальник штаба округа сам возглавил расследование. Его проводили сотрудники отчетного отделения<Сноска До 1906 г. в штабах военных округов не было специальных разведывательных отделений. Их формировали только на время войны из личного состава отчетных отделений. В мирное время отчетные отделения помимо "отчетности" занимались разведкой и контрразведкой.> при участии полиции и жандармов. Начальник штаба лично выехал в Петербург. По полученным от агента сведениям, на обратном адресе телеграммы значилось: "Гостиница Гранд отель № 2". Выяснили, что в день отправки телеграммы (28 ноября 1901 года) номер 2 был занят Эмилем Руппом. В результате дальнейшего расследования было установлено, что вместе с ним в гостиницу прибыл интендантский чиновник Андроник Фитисов, а привез их туда некий подполковник, который сам остановился где-то на частной квартире. Указанные приметы позволили опознать в подполковнике А.Н. Гримма. За ним было установлено тайное наблюдение.

Между тем русский агент в Вене продолжал работу. Вскоре он сообщил, что несколько месяцев назад по поручению Гримма в Вену приезжала некая дама, доставившая в австрийское военное министерство подлинники секретных документов.