3.23. Reductio ad absurdum - воображаемый диалог 297

что мы, роботы, намеренно делаем ошибочные -утверждения. Это означает лишь, что у нас нет абсолютной уверенности в обратном.

А. И.: Ты хочешь сказать, что, хотя вы и даете абсолютную гарантию истинности каждого отдельного -утвержденного высказывания, никто не может гарантировать, что в некотором наборе таких высказываний не окажется ни одного ошибочного? Сдается мне, это противоречит всей концепции "неопровержимой уверенности", что бы под этим термином не подразумевалось.

Постой-ка... может быть, это как-то связано с тем, что возможных -высказываний бесконечно много? Мне почему-то вспомнилось об условии -непротиворечивости, которое, если не ошибаюсь, имеет какое-то отношение к гёделевскому утверждению G (Q).

М. И. К.: (после едва заметно более продолжительной паузы) Нет, определенно нет. Это никак не связано с тем, что число возможных -высказываний бесконечно. Мы можем ограничить рассмотрение только теми -высказываниями, которые являются в некотором вполне определенном смысле "краткими", - т. е. такими, что описание машины Тьюринга для каждого из них содержит не более с двоичных знаков, где с есть некоторое заданное число. Не стану досаждать тебе подробным изложением только что проделанных мною вычислений, суть же их сводится к тому, что упомянутое число с постоянно, и величина его определяется той конкретной степенью сложности, что присуща правилам процедуры Q. Поскольку гёделевская процедура - посредством которой из Q получается утверждение G (Q) - неизменна и довольно проста, нет необходимости рассматривать высказывания существенно большей сложности, нежели сама процедура Q. То есть ограничение сложности рассматриваемых высказываний величиной, задаваемой некоторым подходящим числом с, не препятствует применению гёделевской процедуры. Выбранные таким образом HI-высказывания составляют конечное семейство, пусть и весьма многочисленное. Ограничив рассмотрение лишь "краткими" -высказываниями, мы получаем некоторую вычислительную процедуру Q* - той же, в сущности, сложности, что и процедура Q, - которая будет генерировать только такие -утверждаемые краткие -высказывания. К этой

298 Глава 3

новой процедуре применимы все наши прежние рассуждения. Исходя из заданной процедуры Q*, мы можем отыскать другое краткое -высказывание G(Q*), которое, разумеется, должно быть истинным - при условии, что истинными являются все -утверждаемые краткие -высказывания, - однако истинность его невозможно установить с -уверенностью. Впрочем, все это верно лишь в том случае, если ты не ошибаешься, утверждая, что при нашем создании действительно использовался тот самый набор механизмов М, причем в истинности этого "факта" я как раз совершенно не убежден.

А. И.: Так мы снова возвращаемся к тому же парадоксу, только на этот раз в более сильной форме. Теперь у нас есть конечный ряд -высказываний, истинность каждого из которых в отдельности гарантирована, однако никто из вас, ни СМИСР, ни кто угодно еще, не может дать абсолютной гарантии того, что ряд в целом не содержит ни одной ошибки. То есть вы не можете гарантировать истинность утверждения G (Q*), которая есть следствие истинности всех -высказываний из этого самого ряда. Как-то нелогично, не находишь?

М. И. К- Роботы не могут быть нелогичными. -высказывание G (Q*) является следствием из остальных -высказываний только в том случае, если мы действительно были построены в соответствии с механизмами М. Мы не можем гарантировать истинности G (Q*) просто потому, что мы не можем гарантировать, что в основе нашей конструкции лежат именно механизмы М. Нам приходится полагаться в этом лишь на ваше устное заявление. А роботы, конечно же, не могут полностью доверять людям, учитывая присущую вам склонность ошибаться.

А. И.: Повторяю уже в который раз: именно эти механизмы и никакие другие. Хотя я согласен с тем, что у роботов нет никакого способа узнать наверняка, правда ли это. Это-то знание и позволяет нам верить в истинность -высказывания G(Q*), однако в нашем случае имеется иная неопределенность: мы не можем разделить эту вашу твердолобую уверенность в том, что все ваши -утверждения непременно безошибочны.

М. И. К.: Можешь мне поверить - каждое из них абсолютно безошибочно. И "твердолобость", как ты выражаешься, здесь ни при чем. Наши стандарты доказательства безукоризненны.

3.23. Reductlo ad absurdum - воображаемый диалог 299

А. И.: Тем не менее, неуверенность в отношении процедур, лежащих в основе твоей конструкции, должна, я думаю, вызвать у тебя некоторые сомнения. Уверен ли ты, что знаешь наверняка, как именно поведут себя твои роботы во всех возможных обстоятельствах? Вини нас, если угодно, однако я бы на твоем месте предположил, что некоторый элемент неопределенности в утверждении "все -утверждаемые краткие -высказывания непременно истинны" все же присутствует, потому хотя бы, что ты не веришь, что мы при твоем конструировании ничего не напутали.

М. И. К.: Думаю, можно согласиться с тем, что ваша неизбежная ненадежность и внесла изначально какую-то малую неопределенность; однако, учитывая то, что с тех пор мы ушли чрезвычайно далеко от тех твоих неуклюжих исходных процедур, эта неопределенность не настолько значительна, чтобы воспринимать ее всерьез. Даже если собрать вместе все неопределенности, связанные со всеми краткими -утверждениями (число которых, если помнишь, является конечным), они не составят сколько-нибудь существенной неопределенности в утверждении G (Q*).

Кроме того, есть еще кое-что, о чем ты, возможно, и не подозреваешь. Нам необходимо рассматривать лишь те -утверждения, что удостоверяют истинность того или иного -высказывания (более того, краткого -высказывания). Не может быть никакого сомнения в том, что разработанные СМИСРом тщательнейшие процедуры исключат абсолютно все ошибки, которые могли проявиться в рассуждениях какого бы то ни было отдельного робота. Однако ты, возможно, намекаешь на то, что методы рассуждения роботов могут, предположительно, содержать какую-то внутреннюю ошибку - несомненно, вследствие какого-то изначального недосмотра с вашей стороны, - вынуждающую нас формировать некую непротиворечивую, но ошибочную точку зрения в отношении -высказываний, в соответствии с которой СМИСР может полагать неопровержимо истинным какое-либо краткое -высказывание, которое в действительности истинным не является; иными словами, мы можем быть уверены, что работа некоей машины Тьюринга завершается, тогда как на самом деле это не так. Если бы мы решили принять на веру твое утверждение о том, что в основе нашей конструкции лежат именно механизмы М, - а я все больше склоняюсь к мысли, что это крайне сомнительно, - тогда такая

300 Глава 3

возможность явилась бы единственным логичным разрешением нашего противоречия. В этом случае нам приходится согласиться с тем. что действие некоей машины Тьюринга, в действительности завершающееся, мы, математические роботы, вследствие некоторых особенностей своей конструкции, безоговорочно (и при этом ошибочно) полагаем незавершающимся. Такая система убеждений является несостоятельной в принципе. Просто немыслимо, чтобы основополагающие принципы, в соответствии с которыми СМИСР утверждает -статус математического доказательства, были столь вопиюще ложными.

А. И.: Значит, существенной (иначе говоря, избавляющей тебя от необходимости присваивать -статус утверждению , чего, как тебе известно, ты сделать не можешь, не признав прежде, что какие-то из прочих -утвержденных кратких -высказываний могут оказаться ложными) ты согласен считать только ту неопределенность, которая обусловлена тем, что ты не веришь в то, о чем мы знаем, - то есть в то, что в основе конструкции роботов действительно лежат механизмы М. А раз ты не можешь поверить в то, о чем мы знаем, ты не можешь и доказать истинность утверждения G (Q*), тогда как мы можем это сделать, опираясь на непогрешимость твоих же -утверждений, в каковой ты так настойчиво меня убеждаешь.

Я тут припомнил еще кое-что из той занятной древней книжки. Если я ничего не путаю, то автор что-то говорил о том, что не имеет особого значения, согласен ты признать, что твоя конструкция основана на каких-то конкретных механизмах М, или нет, достаточно, чтобы ты просто допустил, что такое логически возможно. Как же там было... да, вспомнил. Основная идея сводится к следующему: СМИСРу необходимо будет учредить еще одну категорию для утверждений, в истинности которых они не так безоговорочно убеждены, - скажем, -утверждений, - но которые они будут рассматривать как неопровержимые следствия из допущения, что все роботы построены в соответствии с набором механизмов М. Эти утверждения будут, разумеется, включать в себя и все первоначальные -утверждения, а также все те утверждения, которые роботы смогут вывести, исходя из допущения, что их действиями управляют именно механизмы М. Роботы вовсе не обязаны в это верить, им просто предлагается, в виде логического упражнения, рассмотреть следствия из такого допущения. Как мы оба