3.14. Фундаментальное противоречие 263

(достаточно обширной) формальной системы И робот должен оказаться в силах неопровержимо установить тот факт, что из обоснованности системы Н следует истинность его гёделевского5 утверждения , а также то, что утверждение G (И) не является теоремой системы И. В частности, робот сможет установить, что из обоснованности системы Q (М) неопровержимо следует истинность утверждения G (Q (М)); эта же обоснованность предполагает, что утверждение не является теоремой

системы

С помощью в точности тех же рассуждений, какими мы воспользовались в § 3.2 применительно к человеческому математическому пониманию, непосредственно из вышеизложенных соображений выводится, что робот никоим образом не способен твердо поверить в то, что совокупность его собственных - и, на его взгляд, неопровержимых - математических убеждений действительно эквивалентна некоей формальной системе Q (М). И это несмотря на тот факт, что мы (выступая в роли соответствующих экспертов по проблемам ИИ) прекрасно осведомлены о том, что в основе системы математических убеждений робота лежит не что-нибудь, а именно набор механизмов М, что автоматически означает, что система неопровержимых убеждений робота является полным эквивалентом системы Q(M). Если бы робот вдруг твердо поверил в то, что все его убеждения укладываются в рамки системы Q(M), то тогда ему пришлось бы поверить и в обоснованность этой самой системы . Соответственно, ему также пришлось бы одновременно поверить и в истинность утверждения G(Q(M)), и в то, что упомянутое утверждение в его систему убеждений не входит - неразрешимое противоречие! Иначе говоря, робот никак не может знать о том, что он сконструирован в соответствии с тем или иным набором механизмов М. А поскольку об этой особенности его конструкции знаем - или по крайней мере, в состоянии узнать - мы с вами, то получается, что нам доступны такие математические истины (например, утверждение , которые роботу оказывают-

ся не по силам, хотя изначально предполагалось, что способности робота будут равны способностям человека (или даже превысят их).

5В ранних изданиях этой книги вместо обозначения G (F) в оставшейся части главы 3 использовалось обозначение . Однако G (F), на мой взгляд, представляется в данном случае более уместным (см. также § 2.8 и с. 160).

264 Глава 3

3.15. Способы устранения фундаментального противоречия

Приведенное выше рассуждение можно рассматривать двояко o- с точки зрения создавших робота людей либо с точки зрения самого робота. С человеческой точки зрения существует некоторая неопределенная вероятность того, что математику-человеку претензии робота на обладание неопровержимой истиной покажутся неубедительными, разве что упомянутый математик-человек примет во внимание какие-то отдельные конкретные аргументы из тех, что использует робот. Возможно, не все теоремы системы Q (М) человек сочтет неопровержимо истинными, кроме того, как нам помнится, интеллектуальные способности робота могут существенно превышать таковые же способности человека. Таким образом, можно утверждать, что одно лишь знание о том, что робот сконструирован в соответствии с неким набором механизмов М, не следует рассматривать в качестве неопровержимо убедительной (для человека) математической демонстрации. Соответственно, мы должны пересмотреть все вышеприведенное рассуждение - на этот раз с точки зрения робота. Какие огрехи в нашем обосновании в состоянии заметить (и использовать)робот?

По-видимому, наш робот располагает всего лишь четырьмя основными возможностями для нейтрализации фундаментального противоречия - при условии, конечно, что сам робот осведомлен о том, что он является в некотором роде вычислительной машиной.

(a) Возможно, что робот, принимая в целом утверждение о том,

что в основе его конструкции лежит некий набор механиз

мов М, тем не менее, неизбежно остается неспособен без

оговорочно поверить в этот факт.

(b) Возможно, что робот, будучи безоговорочно убежден в ис

тинности каждого отдельного -утверждения в тот момент,

когда он его формулирует, все же сомневается в достовер

ности полной системы своих -утверждений - соответ

ственно, робот может не верить в то, что формальная систе

ма ив самом деле лежит в основе всей его системы

убеждений в отношении -высказываний.

3.15. Способы устранения противоречия 265

(c) Возможно, что подлинный набор механизмов М существенно

зависит от случайных элементов и не может быть адекватно

описан через посредство неких известных результатов псев

дослучайных вычислений, подаваемых на входное устрой

ство робота.

(d) Возможно, что подлинный набор механизмов М в действи

тельности непознаваем.

В последующих девяти разделах представлен ряд веских аргументов, убедительно демонстрирующих, что первые три лазейки ((а), (Ь) и (с)) оказываются для робота, задавшегося целью обойти фундаментальное противоречие, совершенно бесполезными. Соответственно, робот (а вместе с ним и мы - если мы, конечно, продолжаем настаивать на том, что математическое понимание можно свести к вычислению) начинает всерьез подумывать о не очень привлекательной возможности (d). Уверен, что непривлекательной возможность (d) нахожу не я один - думаю, в этом со мной согласятся и те читатели, которым не безразлична судьба идеи искусственного интеллекта. Ее, пожалуй, приемлемо рассматривать лишь в качестве возможной мировоззренческой позиции, укладывающейся, по сути своей, в рамки той самой комбинации точек зрения и , о которой мы говорили в конце § 1.3 и согласно которой для внедрения непознаваемого алгоритма в "мозг" каждого из наших роботов требуется, ни много ни мало, божественное вмешательство (от "первого в мире программиста"). В любом случае, вердикт "непознаваемо", вынесенный в отношении тех самых механизмов, которые, в конечном счете, ответственны за наличие у нас какого ни на есть разума, вряд ли обрадует тех, кто намерен, вообще говоря, построить робота, наделенного подлинным искусственным интеллектом. Не особенно обрадует он и тех из нас, кто все еще надеется понять, принципиально и не выходя за рамки строго научного подхода, каким образом в действительности возникло у человека такое свойство, как интеллект, объяснить его происхождение посредством четко формулируемых научных законов - законов физики, химии, биологии, законов естественного отбора, в конце концов, - пусть даже и не имея в виду воспроизвести этот самый интеллект в каком бы то ни было робототехническом устройстве. Лично я полагаю, что подобный пессимистический вердикт не имеет под собой никаких оснований - по той хотя бы простой причине, что

266 Глава 3

"научная постижимость" имеет весьма мало общего с "вычислимостью". Законы, лежащие в основе мыслительных процессов не являются непостижимыми, они всего лишь невычислимы. На эту тему мы еще поговорим во второй части книги.