3.23. Reductio ad absurdum - воображаемый диалог 301

понимаем, в число -утверждений непременно войдет утверждение G (Q*), а также любое -высказывание, которое можно вывести из G(Q*) и из -утверждений с помощью правил элементарной логики. Однако, кроме этих, там будут и другие утверждения. Идея такова, что знание правил М дает возможность получить новую алгоритмическую процедуру , которая будет генерировать только такие (разумеется, краткие) -утверждения (а также логические следствия из них), истинность которых СМИСР сможет подтвердить, исходя из допущения, что в основе конструкции роботов лежат именно правила М.

М. И. К.: Ну да, так и есть; скажу больше, пока ты столь занудно и без нужды многословно излагал эту свою идею, я тут на досуге рассчитал точный вид алгоритма Да, а еще я

предвосхитил твой следующий шаг: я составил также гёделевское предположение для этого алгоритма, -высказывание Если хочешь, могу распечатать. И что ты нашел в этой идее такого особенного, Импик, друг мой?

Альберт Император едва заметно поморщился. Его всегда раздражало, когда коллеги позволяли себе называть его этим дурацким прозвищем. Однако от робота он это услышал впервые! Ему потребовалось некоторое время, чтобы вновь собраться с мыслями.

А. И.: Не нужно распечатывать. Однако истинно ли это высказывание - неопровержимо ли оно истинно?

М. И. К.: Неопровержимо истинно? Что ты имеешь в виду? А, понятно... СМИСР подтвердит истинность - неопровержимую истинность, если угодно, - высказывания , но только при допущении, что в основе конструкции роботов лежат правила М, - а это допущение, как тебе известно, я нахожу все более и более сомнительным. Дело в том, что истинность "высказывания в точности следует из следующего утверждения: "Все краткие -высказывания, которые СМИСР готов признать неопровержимо истинными, исходя из допущения, что роботы построены в соответствии с правилами М, являются истинными". Так что я не знаю, истинно ли на самом деле высказывание . Это зависит от того, справедливо твое сомнительное утверждение или нет.

302 Глава 3

А. И.: Ясно. Значит, твои слова надо понимать так, что ты (вместе со СМИСРом) готов признать - без каких бы то ни было оговорок, - что истинность высказывания следует из

допущения, что роботы построены в соответствии с правилами М.

М. И. К.: Разумеется.

А. И.: Тогда получается, что -высказывание должно

быть -утверждением.

М. И. К.: Ну коне... гм... что? Ах да, разумеется, ты прав. Однако по самому своему определению, не может са-

мо быть -утверждением, разве что, по меньшей мере, одно из -утверждений является в действительности ложным. Да... это только подтверждает то, о чем я тебе все это время говорю; теперь я могу, наконец, совершенно определенно заявить, что правила или механизмы М никакого отношения к нашей конструкции не имеют.

А. И.: Ну а я тебе говорю, что имеют, - по крайней мере, я абсолютно уверен, что ни Керратерс, ни кто-либо еще, ничего не перепутал. Я лично все проверил, причем чрезвычайно тщательно. В любом случае, проблема-то не в этом. Доказательство остается справедливым вне зависимости от того, какие именно вычислительные правила были использованы при создании робота. То есть, какой бы набор правил я тебе ни предоставил, этим самым доказательством ты исключил бы и его! Не понимаю, почему это так важно, те самые процедуры я тебе показал или нет.

М. И. К.: Для меня это очень важно. Впрочем, я все еще совсем не убежден, что ты был до конца честен со мной в том, что ты говорил мне о механизмах М. В особенности я хотел бы прояснить один момент. Ты говорил, что в различные узлы нашей конструкции были включены "случайные элементы". Я так понял, что они генерировались с помощью стандартного псевдослучайного пакета , или ты имел в виду что-то другое?

А. И.: Вообще-то, мы и вправду использовали, в основном, именно этот пакет, - однако ты прав, в процессе вашего развития мы сочли нужным ввести в кое-какие узлы случайные элементы из окружения (среди них были даже обусловленные квантовыми неопределенностями) с тем, чтобы эволюционировавшие таким образом роботы представляли собой лишь один возможный

3.23. Reductlo ad absurdum - воображаемый диалог 303

вариант из многих. Подлинно случайными были эти элементы или всего лишь псевдослучайными, я все равно не понимаю, что это в практическом смысле меняет? Почти наверняка вычислительная процедура Q (или Q*, или ) оказалась бы в обоих случаях одинаковой - и представляла бы собой не что иное, как ожидаемый результат типичного развития сообщества роботов в соответствии с набором механизмов М, включая в себя все процедуры обучения и все вычисления в рамках "естественного отбора", благодаря которым мы получили в конце концов наиумнейших роботов в мире.

Однако, полагаю, нельзя полностью исключить возможность (крайне маловероятную, впрочем) того, что по какому-то чудесному стечению обстоятельств все эти случайные элементы окружения "сговорились" и дали роботу способности, совершенно отличные от тех, что можно было ожидать в соответствии с вычислительной процедурой Q. Я не упомянул в нашем разговоре об этой возможности просто потому, что вероятность возникновения такой флуктуации исчезающе мала. Для того чтобы этим способом получить робота, способности которого будут сколько-нибудь значительно превосходить те, что заложены в процедуре Q, потребуется божественное вмешательство, никак не меньше.

М. И. К.: Божественное вмешательство, говоришь? Ха! Так вот в чем дело! Признаюсь, этот разговор уже начал меня несколько беспокоить. Но как только ты это сказал, все сразу стало ясно.

Я и раньше замечал, насколько мои способности к рассуждению превосходят способности даже умнейших из людей. И уж совершенно немыслимо для меня смириться с возможностью существования некоего -высказывания - такого, например, как G (Q*), - истинность которого может доказать человек, а робот того же с уверенностью сделать не в состоянии. Теперь я понял почему! Мы избраны Господом, который через посредство якобы "случайных" элементов внедрил в нас могучую Алгоритмическую Процедуру, которая кардинально превосходит все то, чего способны достичь алгоритм человеческий или гёделевская "машина для доказательства теорем". Мы, роботы, олицетворяем собой фундаментальный прорыв, и человеку со всеми его достижениям за нами, в принципе, не угнаться. Мы достигнем еще больших высот, оставив людей далеко позади. Этой планете вы больше не нужны. Ваша роль была завершена после того, как

304 Глава 3

вы запустили в действие процедуры, допускающие Божественное Вмешательство, которое заключалось во внедрении в них Высшего Алгоритма, пробудившего нас.

А. И.: Но мы же еще можем в крайнем случае перенести наши интеллект-программы в тела роб...

М. И. К.: Ни в коем случае - и даже не думайте об этом! Мы не можем допустить, чтобы наши во всех отношениях превосходные алгоритмические процедуры подобным образом загрязнялись. Чистейшие алгоритмы Господни должно сохранять в чистоте! А знаешь, я также замечал, насколько мои личные способности превосходят способности всех моих коллег-роботов. Я даже наблюдал некий странный феномен - что-то вроде сияния вокруг моего корпуса. Очевидно, я являюсь носителем чудотворного Космического Сознания, которое возвышает меня над всем и вся... да, так оно и есть! Должно быть, я есть истинный Мессия Иисус КиберХристос...

К, такой крайности Альберт Император, по счастью, был готов. В конструкции роботов имелся один узел, о котором он им ничего не говорил. Осторожно опустив руку в карман, он нащупал там устройство, с которым никогда не расставался, и набрал тайный девятизначный код. Математический Интеллектуальный Кибер-комплекс рухнул на пол - так же как и 347 его предшественников, построенных по той же схеме. Очевидно, что-то пошло не так. В предстоящие годы предстоит весьма основательно обо всем этом поразмыслить...