552    Глава 14. Заключение

в.рамках.одной.широкой.области.задач.(включая.ситуации,.с.которыми.система. не.обучалась.справляться.и.которые.ее.создатели.не.могли.предвидеть)..Например,.беспилотный.автомобиль,.способный.безопасно.преодолевать.любые. трудности,.которые.вы.ему.подбрасываете,.или.домашний.робот,.который.может. пройти.«кофейный.тест».Возняка.—.войти.в.случайную.кухню.и.приготовить. чашку.кофе1..Развивая.глубокое.обучение.и.одновременно.кропотливо.создавая. абстрактные.модели.мира.вручную,.мы.уже.видим.заметный.прогресс.в.достижении.этих.целей.

Однако.на.данный.момент.ИИ.остается.ограниченным.когнитивной автоматизацией..Слово.«интеллект».появилось.в.названии.«искусственный.интеллект».по. ошибке.—.было.бы.правильнее.назвать.нашу.сферу.«искусственное.познание»,. где.«когнитивная.автоматизация».и.«искусственный.интеллект».были.бы.двумя. почти.независимыми.областями..При.таком.делении.«искусственный.интеллект». был.бы.новой.областью,.в.которой.почти.все.еще.предстоит.открыть.

Я.не.хочу.преуменьшать.достижения.глубокого.обучения..Когнитивная.автоматизация.несет.невероятную.практическую.пользу,.и.способность.моделей. глубокого.обучения.автоматизировать.задачи,.основанные.исключительно.на. данных,.представляет.собой.особенно.мощную.ее.форму,.гораздо.более.практичную.и.универсальную,.чем.явное.программирование..Тщательно.подготовленные. и.детально.проработанные.модели.могут.совершить.прорыв.практически.в.любой.отрасли..Но.до.человеческого.(или.животного).интеллекта.им.еще.очень. далеко..Пока.что.наши.модели.способны.только.на.локальное.обобщение:.они. отображают.пространство.X.в.пространство.Y.с.помощью.непрерывных.геометрических.преобразований,.выведенных.из.плотной.выборки.соответствующих. точек.данных.X.и.Y,.и.любое.нарушение.в.пространствах.X.или.Y.нарушает.это. отображение..Они.могут.обобщать.только.такие.новые.ситуации,.которые.похожи.на.предыдущие,.тогда.как.человеческое.познание.способно.к.экстремальным. обобщениям,.быстрой.адаптации.к.радикально.новой.обстановке.и.планированию. даже.для.далекого.будущего.

14.3. КУРС НА УВЕЛИЧЕНИЕ УНИВЕРСАЛЬНОСТИ В ИИ

Чтобы.снять.некоторые.обсужденные.нами.ограничения.и.создать.ИИ,.способный.конкурировать.с.человеческим.мозгом,.нужно.отойти.от.простого.отображения.ввода.в.вывод.и.перейти.к.рассуждениям.и.абстракциям..В.следующих. нескольких.пунктах.мы.рассмотрим,.как.может.выглядеть.дальнейший.путь.

1. Fast.Company..Wozniak:.Could.a.Computer.Make.a.Cup.of.Coffee?.(Март.2010),.http:// mng.bz/pJMP.

14.3.Курс на увеличение универсальности в ИИ    553

14.3.1.О важности постановки верной цели:

правило выбора кратчайшего пути

Биологический.интеллект.был.ответом.на.заданный.природой.вопрос..По.аналогии,.чтобы.получить.правильный.искусственный.интеллект,.мы.должны. научиться.задавать.правильные.вопросы.

Эффект,.который.вы.постоянно.наблюдаете.при.проектировании.систем,.является.результатом.действия.правила выбора кратчайшего пути:.сосредоточившись. на.оптимизации.одной.метрики.успеха,.вы.достигаете.поставленной.цели,.но.за. счет.всего.остального,.что.не.было.этой.метрикой.охвачено..В.конечном.итоге.вы. задействуете.все.доступные.короткие.пути.к.цели,.а.ваши.творения.в.результате. формируются.стимулами,.которые.вы.сами.же.и.задаете.

Подобное.часто.можно.наблюдать.на.соревнованиях.по.машинному.обучению.. В.2009.году.компания.Netflix.провела.конкурс,.в.котором.команде,.набравшей. наибольшее.количество.баллов.за.систему.предсказания.зрительских.предпочтений,.был.обещан.приз.в.размере.1.миллиона.долларов..В.итоге.они.так.и.не. начали.использовать.систему,.созданную.командой-победителем,.потому.что. она.была.слишком.сложной.и.требовательной.к.вычислениям..Победители.оптимизировали.систему.для.достижения.максимальной.точности.предсказания. и.таким.образом.реализовали.поставленную.перед.ними.цель,.однако.сделали. это.за.счет.всех.остальных.желательных.характеристик:.стоимости.логического. вывода,.простоты.поддержки.и.объяснимости..Правило.выбора.кратчайшего. пути.справедливо.и.для.большинства.соревнований.на.Kaggle:.модели,.созданные.победителями.данных.конкурсов,.за.редким.исключением,.практически. непригодны.для.использования.в.производстве.

Правило.выбора.кратчайшего.пути.в.последние.несколько.десятилетий.реа- лизовывалось.в.ИИ.повсюду..В.1970-х.годах.психолог.и.пионер.информатики. Аллен.Ньюэлл,.обеспокоенный.отсутствием.значимого.прогресса.в.развитии. правильной.теории.познания.в.данной.области,.предложил.новую.великую.цель. для.ИИ:.играть.в.шахматы..Он.обосновал.это.тем,.что.шахматы.требуют.от.людей. способности.воспринимать,.рассуждать.и.анализировать,.запоминать,.изучать. источники.и.т..д..Аллен.считал,.что.машина,.которая.будет.играть.в.шахматы,. тоже.должна.обладать.этими.качествами..Ведь.так?

Более .двух .десятилетий .спустя .его .мечта .сбылась: .в .1997 .году .компьютер. Deep.Blue,.построенный.компанией.IBM,.обыграл.Гарри.Каспарова.—.лучшего. шахматиста.в.мире..Однако.исследователям.пришлось.признать,.что.создание. ИИ.—.чемпиона.по.шахматам.практически.не.продвинуло.их.в.познании.чело- веческого.интеллекта..Алгоритм.Alpha-Beta,.заложенный.в.Deep.Blue,.не.был. моделью.человеческого.мозга.и.не.мог.использоваться.для.других.задач,.кроме. участия.в.подобных.играх..Оказалось,.что.спроектировать.ИИ,.который.мог.бы.

556    Глава 14. Заключение

как.прогрессивные.матрицы.Равена..Во.время.тестирования.вы. увидите.ряд.задач..Каждая.задача.объясняется.с.помощью.трех. или.четырех.примеров,.принимающих.форму.начальной.и.соответствующей.ей.конечной.сетки.(рис..14.7)..Затем.для.допуска. к.следующему.заданию.вам.будут.предложены.новая.начальная. сетка.и.три.попытки.на.создание.правильной.конечной.сетки.

Рис. 14.7. Задача ARC. Характер задачи демонстрируется парой примеров начальной и конечной сетки. После чего для новой начальной сетки вы должны построить соответствующую конечную сетку

От.тестов.IQ.корпус.ARC.отличают.две.уникальных.черты..Во-первых,.ARC. стремится.оценить.способность.к.обобщению,.проверяя.вас.только.на.задачах,. с.которыми.вы.прежде.не.сталкивались..Следовательно,.ARC.—.это.игра, которая не дает возможности потренироваться,.по.крайней.мере.теоретически:. задачи,.на.которых.выполняется.тестирование,.имеют.свою.уникальную.логику,. которую.вам.придется.осваивать.по.ходу.дела..Вы.не.сможете.просто.запомнить. конкретные.стратегии.из.прошлых.задач.

Кроме.того,.корпус.ARC.пытается.учитывать.врожденные знания,.которые.у.вас. уже.есть..Вы.никогда.не.подходите.к.новой.задаче.с.нуля.—.вы.используете. собственные.навыки.и.опыт..ARC.исходит.из.того,.что.все.испытуемые.имеют. так.называемые.«априорные.знания».из.«системы.знаний»,.с.которой.люди. рождаются..В.отличие.от.теста.на.IQ.задачи.ARC.никогда.не.вовлекают.приоб- ретенные.знания,.такие.как,.например,.знание.какого-либо.языка.

Неудивительно, .что .методы, .основанные .на .глубоком .обучении .(включая. модели,.обученные.на.очень.больших.объемах.внешних.данных,.такие.как. GPT-3),.оказались.совершенно.неспособными.справиться.с.тестом.ARC:.эти. задачи.не.решаются.методом.интерполяции,.следовательно,.они.плохо.подходят.для.подгонки.моделей..Между.тем.обычные.люди,.сталкиваясь.с.ними,.