3.16. Необходимо ли роботу верить в механизмы м? 269

в действительности самыми обыкновенными -утверждениями, поскольку маловероятно, что робот при каких угодно обстоятельствах сочтет целесообразным прибегать в своих рассуждениях к самой гипотезе . Исключением может стать утверждение , о котором говорилось выше, так как в данном случае формальная система Q (М) выступает, с точки зрения робота, в роли гёделевской гипотетической "машины для доказательства теорем" (см. §§3.1 и 3.3). Вооружившись гипотезой , робот получает доступ к своей собственной "машине для доказательства теорем", и, хотя он не может быть (да и, скорее всего, не будет) безоговорочно убежден в обоснованности своей "машины", робот способен предположить, что она может оказаться обоснованной, и попытаться вывести следствия уже из этого предположения.

На этом этапе робот еще не добирается до парадокса - так же, как не добрался до него и Гёдель в своих рассуждениях о человеческом интеллекте (см. цитату в § 3.1). Однако, поскольку роботу доступен для исследования набор гипотетических механизмов М, а не просто отдельная формальная система Q (М), он может повторить свое рассуждение и перейти от системы Q (M) к системе , обоснованность которой он по-прежнему по-

лагает простым следствием из гипотезы ^. Именно это и приводит его в конечном итоге к противоречию (чего мы, собственно, и добивались). (См. также §3.24, где мы продолжим рассмотрение системы и ее кажущейся связи с "парадоксальными рассуждениями".)

Вывод: ни одно обладающее сознанием и имеющее понятие о математике существо - иначе говоря, ни одно существо со способностью к подлинному математическому пониманию - не может функционировать в соответствии с каким бы то ни было набором постижимых им механизмов, вне зависимости от того, знает ли оно в действительности о том, что именно эти механизмы, предположительно, направляют его на его пути к неопровержимой математической истине. (Вспомним и о том, что "неопровержимой математической истиной" это существо полагает всего лишь то, что оно способно установить математическими методами, - т. е. с помощью "математического доказательства", причем совсем необязательно "формального".)

Если конкретнее, то на основании предшествующих рассуждений мы склонны заключить, что не существует такого пости-

270 Глава 3

жимого роботом и не содержащего подлинно случайных компонентов набора вычислительных механизмов, какой робот мог бы принять (даже в качестве возможности) как основу своей системы математических убеждений, - при условии, что робот готов согласиться с тем, что специфическая процедура, предложенная мною для построения формальной системы Q (М) на основе механизмов М, и в самом деле охватывает всю совокупность высказываний, в истинность которых он неопровержимо верит, а также, соответственно, с тем, что формальная система охватывает всю совокупность -высказываний, которые, как он неопровержимо верит, следуют из гипотезы . Кроме того, если мы хотим, чтобы робот смог построить собственную потенциально непротиворечивую систему математических убеждений, следует ввести в набор механизмов М какие-либо подлинно случайные составляющие.

Эти последние оговорки мы рассмотрим в последующих разделах (§§3.17-3.22). Вопрос о введении в набор механизмов М возможных случайных элементов (вариант (с)) представляется удобным обсудить в рамках общего рассмотрения варианта (Ь). А для того чтобы рассмотреть вариант (Ь) с должной тщательностью, нам следует прежде в полной мере прояснить для себя вопрос об "убежденности" робота, который мы уже мимоходом затрагивали в конце § 3.12.