Даже если Тюринг надеялся на что-то другое, на самом деле тест говорит только о том, что разумность машины можно оценить лишь относительно, глазами человека-наблюдателя.

В этой книге я критикую способ мышления, аналогичный искусственному интеллекту. Если машина может быть разумна, то вычислительное облако будет лучшим и гораздо более мощным разумом, чем разум отдельного человека. Если вы в это верите, то работа на благо вычислительного облака, а не отдельного человека ставит вас на сторону ангелов.

Но тест Тюринга работает в обе стороны. Вы не можете сказать, это машина стала умнее или вы снизили собственные стандарты понятия «разумный» до такой степени, что машина кажется умной. Если вы способны разговаривать с персонажем, представленным программой искусственного интеллекта, можете ли вы определить степень деградации вашего чувства личности, необходимую, чтобы иллюзия работала на вас?

Чтобы машины все время казались умными, люди сознательно деградируют. До кризиса банкиры верили в якобы умные алгоритмы, способные просчитать кредитные риски прежде, чем выдавать плохие кредиты. Мы требуем от педагогов обучения прохождению стандартизованных тестов, чтобы ученики хорошо выглядели с точки зрения алгоритма. Мы неоднократно демонстрировали беспредельную способность нашего вида снижать стандарты, чтобы информационные технологии выглядели хорошо. Каждое проявление разума в машине двусмысленно.

Та же двусмысленность, которая в прошлом послужила мотивом создания сомнительных проектов в области искусственного интеллекта, сегодня преподносится в виде массовой культуры. Действительно ли поисковик знал, что вам нужно, или вы подыгрываете, снижая стандарты, чтобы он казался умным? Хотя совершенно естественно ожидать, что восприятие человека будет меняться в результате взаимодействия с новыми технологиями: чтобы человек рассматривал разум машины как реальный, требуется ослабить собственную связь с реальностью.

Значительная часть адептов искусственного интеллекта после длительного периода неудачных экспериментов в таких областях, как распознавание естественных языков, в конечном счете нашла успокоение в восхищении коллективным разумом, который демонстрировал лучшие результаты, поскольку за сценой были реальные люди.