Компьютерам до 20-го поколения включительно было свойственно "насекомообразное" поведение: они не могли подвергать сомнению, а тем более преобразовывать свои программы. Программист "пропитывал" машину знаниями так, как Эволюция "пропитывает" насекомое инстинктом. Уже в XX веке много говорилось о самопрограммировании, но тогда это были пустые фантазии. Между тем сконструировать "Абсолютного Победителя" было невозможно без создания самосовершенствующегося Разума; АЯКС стал промежуточной формой, и лишь ГИЛЬГАМЕШ вышел на нужный интеллектуальный уровень - на "орбиту психоэволюции".

Обучение компьютера 80-го поколения гораздо больше напоминало _воспитание_ ребенка, чем классическое программирование цифровой машины. Но кроме огромного количества общих и специальных сведений компьютеру надлежало "привить" некие нерушимые ценности, которые служили бы ему компасом. Это были абстракции высшего порядка, такие, как благо государства (государственный интерес), идеологические принципы, воплощенные в Конституции США, кодексы поведения, обязанность безусловно подчиняться решениям президента и т.п. Чтобы застраховать систему от "этических вывихов", от "измены интересам страны", машину учили принципам этики не так, как учат людей. Этический кодекс не вводился в память; нормы послушания и подчинения внедрялись в структуру машины так, как это делает природная Эволюция, действующая через сферу инстинктивных влечений. Человек, как известно, может менять мировоззрение - но НЕ МОЖЕТ уничтожить в себе элементарные влечения (например, половое) простым усилием воли. Машины наделили интеллектуальной свободой, приковав их, однако, к фундаменту заранее заданных ценностей.



6 из 62