книги2 / 278

УДК 001.8

ББК 87.25 С 69

Рецензенты

Академик РАН, доктор философских наук

Владислав Александрович Лекторский

Член-корреспондент РАН, доктор экономических наук

Владимир Викторович Иванов

С 69 Социогуманитарные аспекты цифровых трансформаций и искусственного интеллекта / Под ред. В.Е. Лепского, А.Н. Райкова. – М.: Когито-Центр, 2022. – 308 с.

Авторский коллектив:

Агеев А.И., Дубровский Д.И., Ефимов А.Р., Журенков Д.А., Ильин Н.И., Лепский В.Е., Малахова Е.В., Матвеев Ф.М., Пойкин А.Е., Райков А.Н., Савельев А.М., Славин А.Б., Славин Б.Б.

Прогресс в развитии цифровых технологий, включая искусственный интеллект, несомненен. Однако, методологический базис этого развития до сих пор носит преимущественно техногенный характер. Как результат, например, системы искусственного интеллекта так и не вышли за рамки «слабого» и «узкого», они остаются однозадачными, не дают вразумительного объяснения своим выводам, слабо учитывают специфику поведения субъектных сред.

Вместе с тем, уже явно происходит свертывание идеи техногенной цивилизации, которая характеризуется проявлением в ее базовой ценности научно-технического прогресса и ценности науки как основы управления социальными процессами. Как следствие, развитие цифровых технологий, включая искусственный интеллект, происходит без всеобъемлющего учета социально-гуманитарных ценностей и этических аспектов регулирования жизнедеятельности людей.

Настоящая монография для умаления подобных ограничений в развития цифровых технологий, включая искусственный интеллект, обосновывает необходимость использования субъектно-ориентированного подхода, который формируется в рамках постнеклассической кибернетики саморазвивающихся полисубъектных (рефлексивноактивных) сред гибридной реальности, основные положения которой опираются на представления об обществе как социально-гуманитарной системе.

Монография предназначена для специалистов из гуманитарных, естественнонаучных и технических областей знания, ориентированных на проблемы управления и развития, для студентов и аспирантов, а также для широкой аудитории практиков управления, в том числе связанных с разработкой и использованием цифровых технологий, включая искусственный интеллект.

Работа выполнена при финансовой поддержке РНФ, проект № 21-18-00184 «Социогуманитарные основания критериев оценки инноваций, использующих цифровые технологии и искусственный интеллект»

2

СОДЕРЖАНИЕ

1.3.Искусственный интеллект: туманность определений в

1.4.Противоречие технического и социогуманитарного

1.5.Непредсказуемые угрозы от злонамеренного использования

2.ЦИФРОВЫЕ ТРАНСФОРМАЦИИ И ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ (ПРЕОДОЛЕНИЕ ОГРАНИЧЕНИЙ ТЕХНОГЕННОЙ ЦИВИЛИЗАЦИИ)

2.2.Системные основания для преодоления ограничений

2.3.Социогуманитарные вопросы развития искусственного интеллекта в условиях глобального кризиса земной

2.4.Ценностные ориентиры разработки искусственного

2.5.Парадигмальные основания внедрения цифровых инноваций

2.6.Образование будущего в контексте развития научной

3.СОЦИОГУМАНИТАРНЫЙ АНАЛИЗ ЧЕЛОВЕКООРИЕНТИРОВАННЫХ ПРЕДСТАВЛЕНИЙ ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ (ЭТИКА ИИ, ДОВЕРИТЕЛЬНЫЙ ИИ, ОБЪЯСНИТЕЛЬНЫЙ ИИ И ДР.)

3.2.Субъектно-ориентированный подход к представлениям элементов и систем искусственного интеллекта (цифровой

3.6.Этические аспекты развития искусственного интеллекта в

3.7.Проблема моделирования этических свойств

4.СОЦИОГУМАНИТАРНЫЕ ОСНОВАНИЯ КРИТЕРИЕВ ОЦЕНКИ ИННОВАЦИЙ, ИСПОЛЬЗУЮЩИХ ЦИФРОВЫЕ ТЕХНОЛОГИИ И

4.3.Общий искусственный интеллект в саморазвивающихся

4.4.Нейротехнологии в системах искусственного интеллекта и

4.5.Социотехническая оценка инновационных цифровых

5.2.Критерии оценки инноваций с использованием цифровых

5.3.Особенности управления инновациями в области цифровых

5.4.Архитектура Общего искусственного интеллекта

5.5.Построение эталонной модели социогуманитарных оснований

5.6.Социогуманитарные основания критериев оценки цифровых

4

ПРЕДИСЛОВИЕ

Прогресс цифровых технологий, включая искусственный интеллект (ИИ), демонстрируемый почти во всех областях человеческой деятельности, от изучения атома и предоставления услуг до управления огромными промышленными комплексами и исследования загадок космоса, в последние годы несомненен. Цифровые экономики ведущих стран мира более, чем на 40% делают вклад в ВВП. Сквозные цифровые технологии, включая ИИ охватывают большинство направлений производства и научно-исследовательских работ. Без ИИ, машинного обучения и анализа больших данных сейчас немыслимо достижение высоких показателей производительности труда, обеспечения первенства на глобальном конкурентоспособном рынке. ИИ преодолевает все более высокие барьеры по решению сложных задач обеспечения жизнедеятельности человека, управления сложными процессами, диагностики и лечения болезней людей и животных.

Успехи ИИ оказались столь значительными, что многие полагают возможным, что он сможет скоро заменить человека почти во всех областях деятельности. ИИ стал фетишем XXI века, который одни стали превозносить как наше будущее, а другие начали вести с ним борьбу, призывать к ограничению его развития. Вместе с тем, от жизненных реалий никуда не уйти, сейчас на рынке побеждает тот, кто делает и внедряет более быстрые, смелые и необычные инновации. Для этого с применением цифровых технологий, включая ИИ, формируются специализированные и гибкие технологические среды поддержки процессов синтеза прорывных решений.

Вполне очевидно, что развитие цифровой экономики ‒ это безальтернативный стратегический выбор для того, чтобы воспользоваться новым витком научно-технической революции и новыми возможностями для промышленных преобразований. Цифровая экономика сейчас является важным показателем мощи любой продвинутой страны и важным двигателем построения современной экономической системы. Совместное продвижение технологических, модельных, форматных и системных инноваций, а также эффективное использование ИИ и средств анализа данных придают мощный импульс цифровому развитию экономики и общества.

Однако, яркий успех цифровых технологий зачастую закрывает оборотную сторону медали. Масштабы цифровой экономики в мире быстро растут, но проблемы несбалансированного и нерегулярного развития становятся все более заметными. Методологический, научный и технологический базис развития цифровых технологий пока несет на себе вериги атавизмов прошлого века. Скажем, системы ИИ так пока и

5

не вышли из шор «слабого» и «узкого» ИИ; в искусственных нейронных сетях многократно увеличилось число слоев, усложнились процессы обработки данных, растет скорость вычислений, однако эти системы так и остались в основном однозадачными, они не дают хотя бы сносные объяснения своим выводам, хорошо решают только круг задач типа распознавания, анализа и синтеза голоса и текста. Продвижение перспективных версий развития ИИ в виде «сильного» и «общего» ИИ, как можно заметить, пока имеют в своей основе эволюционный характер модернизации, методы почти не отрываются от традиционного логического инструментализма, пока слабо учитываются особенности нелокальных и когнитивных аспектов сознания человека, поведения социума и космологической взаимосвязи явлений.

Нарастание глобального кризиса потребительской цивилизации ведет к разжиганию все более масштабных экономических, политических, всевозможных социальных конфликтов, силовой борьбе за ресурсы, за сферы влияния, за передел всей мировой структуры социально-экономической и политической самоорганизации. Рыночная гонка с интенцией победы в конкурентоспособной борьбе зачастую оставляет на втором плане социогуманитарные аспекты внедрения цифровых технологий, то есть, собственно, того, чему эти технологии должны служить. Эта гонка при внедрении цифровых технологий, включая ИИ, заставляет игнорировать социальные ценности, забывать об уникальности человека и духовности человеческого общества. Идут ломка традиционной этики, строится некая новая, цифровая, этика; при этом деградирует мышление, растут риски злонамеренного использования ИИ, с новой силой поднимаются извечные вопросы обеспечения справедливости. Решение этических вопросов применения ИИ – очень сложное дело, которое невозможно выполнить лишь принятием кодексов этики и провозглашением благородных целей. Необходимо учесть, что этические принципы есть лишь точки в бесконечном пространстве морально-этических решений.

Растет риск угрозы будущему развития человечества, развитию патологий озлобления человека, становления его более агрессивным. Как результат, ведущими учеными и политическими деятелями мира вопрос развития ИИ ставится иногда в один ряд с наиболее опасными проявлениями человеческой деятельности, такими как политический и религиозный экстремизм. Человечество подходит к точке бифуркации своего развития.

В этой бифуркационной точке особого внимания заслуживает то, что сейчас техническая сторона вопроса экономического развития стран, регионов и промышленного производства становится не единственным фактором успеха. В контексте упомянотого выше свертывания идеи

6

техногенной цивилизации впервые в истории развития человечества технологии покусились на, казалось бы, недоступное для технологий в человеческой жизни – на когнитивные способности человека, на распознавание и экспликацию его эмоций и бессознательных состояний, которые невозможно описать с помощью математической формулы.

Вэтой бифуркационной точке особого внимания заслуживает то, что сейчас техническая сторона вопроса экономического развития стран, регионов и промышленного производства становится не единственным фактором успеха. В контексте упомянотого выше свертывания идеи техногенной цивилизации впервые в истории развития человечества технологии покусились на, казалось бы, недоступное для технологий в человеческой жизни – на когнитивные способности человека, на распознавание и экспликацию его эмоций и бессознательных состояний, которые невозможно описать с помощью математической формулы.

Появился новый риск: если технологии смогут заместить хотя бы частично способности человека мыслить, не значит ли это, что близок момент сингулярности, когда технологии смогут получить равносильную субъектность по трансформации общества. Вместе с тем,

внастоящее время замещение человека системами ИИ происходит повсеместно, в нарастающих и даже угрожающих, по мнению отдельных экспертов, масштабах. При разработке таких систем неизбежно допускается некоторая степень неопределенности, которая сходна со свободой воли человека: этические самоограничения, знания о нормах поведения, имитация саморегуляции поведения, способность к эмпатии и др.

Всовременном социуме формирование целостности личности происходит в сопровождении построения цифровых проекций (двойников) процессов и объектов динамического взаимодействия людей и надличностных систем. При этом в личности воплощаются когнитивные проекции социума, индивидуализированные: биологически, информационно, когнитивно, социально. Это приводит к неизбежности комплексирования различных цифровых моделей поддержки лояльной к правовым нормам, управленческим ключевым установкам и глубинным регуляторам жизнедеятельности социальной среды. Современный уровень цифровых и интеллектуальных технологий позволяет осуществлять зондаж и воздействие с учетом психосемантических качеств личности расширенного характера.

Вприведенном контексте, когда фетиш цифровых технологий, включая ИИ нарастет, а риски внедрения этих технологий явно отличаются от нуля, ищутся альтернативы техногенной цивилизации с усилением акцента на социально-гуманитарные факторы развития человека и общества. Например, в качестве варианта пост-техногенной

7

цивилизации предлагается модель социогуманитарной цивилизации. Ключевой проблемой для перехода к такой цивилизации является проблема становления субъектности развития человечества. Эта тема также рассматривается в предлагаемой монографии.

Вмонографии на конкретном уровне идет поиск эффективного и одновременно социально-значимого подхода к построению цифровых систем, включая систем ИИ, прежде всего, для решения социальногуманитарных задач, которые решаются в гибридной (человекомашинной) реальности, характеризующейся высоким уровнем субъектности. Это реальность, в которой пока отсутствуют способы репрезентации субъектов и событий классическими формализованными методами.

Вмонографии не остаются без внимания вопросы определения критериев оценки социальной значимости развития ИИ и процессов цифровизации, что потребовало основательного рассмотрения прежде всего самого понятия социальной значимости в условиях цифровизации экономики. При этом рассматриваются различные социальные аспекты жизнедеятельности, включая существующие неклассические и постнеклассические образовательные парадигмы и педагогические технологии, в том числе с оценкой того, насколько они в принципе позволяют включать в себя те или иные цифровые технологии, и как последние влияют на процесс обучения и социализацию учащихся в различных возрастах.

Для решения конфликтных вопросов и упреждения угрожающих проблем, связанных с экспансией цифровых технологий, включая ИИ, в настоящей монографии прорабатывается новый механизм цифрового социально-экономического развития с диверсифицированным участием

исинергией взаимодействия различных экономических и социальных субъектов. Этот механизм опирается на субъектно-ориентированный подход, который формируется в рамках постнеклассической кибернетики саморазвивающихся полисубъектных сред. Становление субъектно-ориентированного подхода в настоящее время определяется в рамках представлений о научной рациональности: классика, неклассика, постнеклассика. Важность субъектно-ориентированного подхода нарастает по мере движения от деятельностного к субъектнодеятельностному и, наконец, к субъектно-ориентированному подходу.

Основные положения этого подхода опираются на представления об обществе как социальной системе; идеи деятельностного и субъектнодеятельностного подходов; концептуальные модели рефлексивноактивных процессов; идеи устойчивого развития и управления сложностью; опыта разработки больших информационных систем для

поддержки управления страной, включая создание системы

8

распределенных ситуационных центров для информационноаналитической и технологической поддержки решения вопросов национальной безопасности.

В рамках предлагаемого подхода детерминированную ясность приобретает построение концепция цифрового двойника (виртуальная интерактивная копия реального физического объекта или процесса), которая, сейчас реализуется в ограничениях парадигмы кибернетики первого порядка, где этот двойник, независимо от сложности, остается формализованным и пассивным по отношению к субъекту управления. Субъектно-ориентированный подход показывает путь деятельного устранения этого ограничения.

Предлагаемый в монографии подход показывает направление для построения объяснимого ИИ с ориентаций на потребности человека, на его когнитивную атрибуцию и с учетом внешнего окружения. Делается попытка показать, что тема построения объяснимого ИИ выходит далеко за рамки вопроса каузальности, выявляемой статистическими методами, охватывает феномен нелокальности семантической интерпретации моделей ИИ, и, как следствие, гибридную и субъективную реальность.

Субъектно-ориентированный подход обозначает необходимое условие для обеспечения включенности общества в процессы управления и развития через формирование двухконтурной структуры организации процессов государственного управления и развития. Первый контур может трактоваться как исполнительный механизм управления мировыми процессами, а второй ‒ формируется с доминирующим началом общественных структур, в котором интегрируются представители администраций, бизнеса и общества.

Предлагаемый в монографии субъектно-ориентированный подход в реальной социально-экономической практике государственного управления и человеческой жизнедеятельности создает необходимые условия для цифрового обеспечения формирования слаженной системы государственного управления и единой, справедливой, упорядоченной конкуренции, зрелой и завершенной современной рыночной системы цифровой экономики, опирающейся на преимущества использования инновационных сред, создаваемой в гармоничном сочетании поведения субъекта, включая коллективного, и инструментов цифровой экономики.

Авторы благодарят коллег за участие в обсуждении проблем, представленных в данной монографии: В.И. Аршинова, В.Г. Буданова, С.В. Гарбука, В.В. Иванова, В.А Лекторского, М.В. Локтионова, Т.А. Нестик, Д.А. Новикова.

От редакторов В.Е. Лепский, доктор психологических наук, профессор

А.Н. Райков, доктор технических наук, профессор

9

1. ФЕТИШ ЦИФРОВЫХ ТРАНСФОРМАЦИЙ И ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В XXI ВЕКЕ

1.1.ВВЕДЕНИЕ

Вданном разделе представлены основания, позволяющие констатировать фетиш искусственного интеллекта (ИИ). Выделяются принципиальные отличия ИИ от всех предшествующих технологических инноваций, связанные прежде всего с внедрением в когнитивную сферу человека и принципиально новыми неконтролируемыми последствиями для общества. Представлены аргументы, что лидеры глобалистского проекта являются главными интересантами и заказчиками фетиша ИИ. Это отчетливо проявляется в работах философов, приближенных к гигантским ИТ-корпорациям, и в мегапроектах этих корпораций. Предлагается к рассмотрению проблем использовать возможности ИИ для преодоления нарастающих международных конфликтов и в целом мирового кризиса. В центре внимания оказывается проблема субъектности, решение которой с позиций антропоморфного подхода к ИИ чревато серьезными негативными последствиями. При наделении субъектностью ИИ неявно снимается ответственность с человека, который использует эту технологию, а также разрушается сложившаяся законодательная практика. Предлагается представление ИИ как агента, наделенного набором инвариантных упрощенных качеств, которыми обладают естественные субъекты. К таким качествам можно отнести: способность

ккогнитивным размышлениям, целеустремленности, своего рода рефлексивности, наличие эмоций и чувств, коммуникативность и упрощенные элементы социальности.

Проводится анализ, выделяются приоритетные направления и ставятся острые вопросы в области развития систем ИИ в условиях превращения традиционных методов управления социумом в единую систему с мощными цифровыми и коммуникационными возможностями. Оценивается фактор трансформации экономических и общественных отношений, которые все больше обладают субъектным качеством в переустройстве мира.

Быстрый рост производительности вычислительной техники, успехи в области использования нейронных сетей, средств анализа больших данных, технологий ИИ повышают их востребованность. Однако любой прогресс имеет и свои ограничения. Так, с увеличением внимания к ИИ во власти и обществе усиливаются требования ограничить использование инструментов ИИ, например, распознавания,

10