книги2 / 281-1

3.СОЦИОГУМАНИТАРНЫЙ АНАЛИЗ ЧЕЛОВЕКООРИЕНТИРОВАННЫХ ПРЕДСТАВЛЕНИЙ ОБ ИСКУССТВЕННОМ ИНТЕЛЛЕКТЕ (ЭТИКА ИИ, ДОВЕРИТЕЛЬНЫЙ ИИ, ОБЪЯСНИМЫЙ ИИ)

3.1. ВВЕДЕНИЕ

Социогуманитарный анализ человеко-ориентированных представлений об ИИ, как уже отмечено в предыдущих главах, во многом остается за рамками техногенных предпочтений к выбору оценок значимости и ценности систем ИИ. Во многом это диктуется близлежащими прагматическими соображениями исследователей и производителей таких систем, погруженных в рыночную реальность. Есть и объективные ограничения, определяемые отсутствием адекватного математического аппарата и методологии, позволяющих сделать репрезентативное представление сугубо неформализуемых аспектов построения и функционирования систем ИИ. К таким аспектам относятся: этика, доверительность, объяснимость, эмоциональность, когнитивность и пр. Как следствие, развитие систем ИИ, несмотря на возрастание вычислительных мощностей, количества слоев в искусственной нейронной сети, совершенствование алгоритмов машинного обучения и пр., остается в рамках «узкой» и «слабой» парадигмы построения ИИ. Попытки вырваться из имеющихся классических теоретических и инженерных шор в виде декларации построения «общего» или «сильного» ИИ пока успеха заметного не приносят.

Для преодоления подобной тотальной «пробуксовки» развития ИИ в настоящей главе предлагается обратиться к использованию субъектноориентированного подхода, важность которого нарастает по мере движения от деятельностного к субъектно-деятельностному и, наконец, к субъектно-ориентированному подходу. Этот подход формируется в рамках постнеклассической кибернетики саморазвивающихся рефлексивно-активных полисубъектных сред.

В главе отражены особенности построения методологии цифровой трансформации на примере изменения концепции цифрового двойника, погружаемой в такие постнеклассические среды. В этой среде цифровой двойник трансформируется уже с учетом мировоззренческих оснований, соответствующей системы принципов и системы онтологий, что создает основу для сборки в единое целое субъектов, входящих в указанную среду.

111

В постнеклассической среде неизменным атрибутом функционирования систем ИИ является постоянный рост доверия к работе таких систем, что, в частности приводит к актуализации темы построения объяснимого ИИ с ориентаций на конкретного человека с его интенцией к познанию и предубеждениям, активному мышлению, эмоциональным аффектам и пр.

Морально-этические проблемы разработки систем ИИ в этой главе также не остались без внимания, что заставило авторов оценить, насколько произвольно или вредоносно может повести себя такие системы, а также тем, что сам человек может причинить вред искусственным сущностям. Все это поднимает вопросы морального уровня, что предопределяет потребность закладывать в разработку систем ИИ морально-этические принципы и ограничения.

Анализируется применение гуманитарного измерения к технологиям ИИ, при этом особого внимания заслужила тема обострения вопроса поиска пути преодоления национальных эгоизмов, недоверия и страхов. Предлагается способ построения частных моделей на основе классификатора видов деятельности и определения того их вида, который будет предназначен для выполнения системой ИИ в некоторой типовой ситуации.

112

3.2. СУБЪЕКТНО-ОРИЕНТИРОВАННЫЙ ПОДХОД К ПРЕДСТАВЛЕНИЯМ ЭЛЕМЕНТОВ И СИСТЕМ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА

(ЦИФРОВОЙ ДВОЙНИК, ЦИФРОВОЙ СУБЪЕКТ И ЦИФРОВОЙ МЕТАСУБЪЕКТ)

3.2.1. Введение

Проблема субъектности приобретает все большее значение в развитии кибернетики и ИИ. Субъекты оказываются в центре внимания обеспечения жизнедеятельности и развития социальных систем, а также совершенствования механизмов их управления. Интерес ученых и практиков к субъектности возрастает в связи с бурным развитием ИИ, с созданием искусственных псевдосубъектов, наделенных рефлексивными способностями. С необходимостью создать этичный, доверенный, объяснимый ИИ, не выходящий из-под контроля человека.

В XXI веке основой философско-методологического анализа совместной эволюции кибернетики и ИИ, определения роли и места субъектного подхода стала концепция трех типов научной рациональности (классическая, неклассическая, постнеклассическая) и особенно парадигма постнеклассической рациональности1. Такой подход определяет основу для систематизации этапов развития кибернетики и связанных с ними этапов развития ИИ2. Он является системно-генетическим, что соответствует представлениям Г. Симондона3 о роли и месте технических объектов в жизни и развитии социальных систем и их конкретных субъектов.

В этом контексте особое место занимает концепция цифрового двойника, как виртуальной интерактивной копии реального физического объекта или процесса, которая соответствует кибернетике первого порядка. В кибернетике второго и третьего порядков цифровой двойник трансформируется с учетом мировоззренческих оснований, соответствующей системы принципов и системы онтологий в цифрового субъекта и цифрового метасубъекта.

1Степин В.С. Теоретическое знание. М.: Прогресс-Традиция, 2003.

2Лепский В.Е. (2021) Искусственный интеллект в субъектных парадигмах управления // Философские науки. 2021. Т. 64. № 1. С. 88–101.

3Simondon, G. (2017) On the Mode of Existence of Technical Objects. Translated by C. Malaspina and J. Rogrove. Minneapolis: Univocal Publishing.

113

3.2.2. Субъектность в эволюции научной рациональности и кибернетики

Становление субъектно-ориентированного подхода тесно связана с развитием представлений о научной рациональности: классика, неклассика, постнеклассики. Актуальность и научно-практическое значение субъектно-ориентированного подхода нарастало по мере движения от деятельностного к субъектно-деятельностному и, наконец, к субъектно-ориентированному подходу. Важно отметить, что эволюция этих подходов удовлетворяла принципу соответствия Бора1, каждый последующий подход включал в себя как частный предыдущий подход.

Вдеятельностном подходе (классическая научная рациональность)

базовая парадигма «субъект – объект». Свобода субъекта существенно ограничена в рамках заданных целей и норм, регулирующих деятельность2.

Всубъектно-деятельностном подходе (неклассическая научная рациональность) базовая парадигма «субъект – субъект»3. Исследователь и объект становятся равноправными партнерами.

Субъектно-ориентированный подход (постнеклассическая научная рациональность). В постнеклассической научной рациональности в центре внимания оказываются субъекты, погруженные в социальные среды и культуру4. Ключевой в рамках постнеклассической научной рациональности становится парадигма «субъект – саморазвивающаяся полисубъектная среда» («субъект – метасубъект»), которой соответствует субъектно-ориентированный подхода5. Этот подход включает в себя как частные парадигмы деятельностный и субъектнодеятельностный подходы, что соответствует логике отношений трех типов научной рациональности. В настоящее время субъектноориентированный подход используется в различных областях научного знания и практики: психология, педагогика, экономика, управление, политология и др.

Эволюция кибернетики тесно связана с развитием типов научной рациональности6. Такой подход позволит осуществить системный и междисциплинарный анализ проблемы субъектности.

1Niels Bohr Collected Works. (1976). Vol. 3: The Correspondence Principle (1918–1923), J. R. Nielsen (ed.). Amsterdam: North-Holland Publishing.

2Лекторский В.А. Субъект в истории философии: проблемы и достижения // Методология и история психологии. 2010. Том 5. Выпуск 1. С.5–18.

3Рубинштейн С.Л. Человек и мир. М.: Наука, 1997.

4Степин В.С. Теоретическое знание. М.: Прогресс-Традиция, 2003.

5Лепский В.Е. Междисциплинарный анализ становления субъектно-ориентированного подхода // Социальное время. 2015. № 2. С. 18–32.

6Lepskiy V.E. Evolution of Cybernetics: Philosophical and Methodological Analysis. Kybernetes. 2018. Vol. 47, no, 2, pp. 249–261.

Классической научной рациональности соответствует кибернетика первого порядка (N. Wiener). Этот тип кибернетики не позволит преодолеть ограничения модели техногенной цивилизации.

Неклассической научной рациональности соответствует кибернетика второго порядка (H. Foerster). В кибернетике второго порядка принципиально меняется представление об рефлексивных и этических аспектах отношений субъектов при управлении социальными системами. Однако не снимается главная проблема техногенной цивилизации − игнорирование социальных ценностей, учет целостного видения социальных систем.

Постнеклассическая научная рациональность принципиально отличается от предшествующих типов рациональности в том, что в ней включены в рассмотрение социальные ценности. Постнеклассической научной рациональности соответствует кибернетика третьего порядка, саморазвивающихся полисубъектных (рефлексивно-активных) сред1. В центре внимания оказывается свобода субъектов, установление равноправно-партнерских отношений как с другим человеком, так и с природными процессами2. Интеграция деятельностного и субъектнодеятельностного подходов осуществляется на основе субъектноориентированного подхода3. Проявляется изменение представлений о субъектности и в концепции распределенного наблюдателя в саморазвивающейся полисубъектной среде, одним из которых оказывается субъект управления. Изменения в представлениях о субъектности проявляется и в изменениях представлений о рефлексивных процессах и этических аспектах.

Постнеклассическая кибернетика саморазвивающихся полисубъектных сред опирается на идеи ноосферы (В.И. Вернадский); представления об обществе как социальной системе (Ни́клас Лу́ман); идеи деятельностного и субъектно-деятельностного подходов (А.Н. Леонтьев, Л.С. Выготский, С.Л. Рубинштейн и др.); концептуальные модели рефлексивных процессов (В.А. Лефевр); работы отечественных методологов (Г.П. Щедровицкий); идеи управлению сложностью в развитии социальных систем (В.И. Аршинов)4; обобщенный опыт исследований по социальной кибернетики (Stuart Umpleby); опыта

1 Лепский В.Е. Методологический и философский анализ развития проблематики управления. М.: Когито-Центр, 2019. 340 с.

2Лекторский В.А. Субъект в истории философии: проблемы и достижения // Методология и история психологии. 2010. Том 5. Выпуск 1. С.5–18.

3Журавлев А.Л., Лепский В.Е. Проблема субъекта в инженерной психологии и эргономике // Психологический журнал. 2018. Том. 39. №4. С. 7-16.

4Аршинов В.И. Рефлексивно-активные среды инновационного развития в контексте синергетики сложности / Междисциплинарные проблемы средового подхода к инновационному развитию / Под ред. В.Е. Лепского. М.: Когито-Центр, 2011. С.52–73.

115

разработки организационных автоматизированных систем управления страной (В.Е. Лепский) и др.

Модель саморазвивающейся рефлексивно-активной среды представляется нами через многоуровневую структуру мировоззренческого, концептуального, технологического уровней и уровня реализации1. Важно отметить, что технологический уровень состоит из двух подуровней концептуально-технологического и инструментально-технологического, что создает предпосылки для конвергенции через технологии парадигм и онтологий социальных систем и ИИ.

3.2.3. Цифровой двойник, цифровой субъект и цифровой метасубъект

3.2.3.1. Цифровой двойник

В контексте развития классической кибернетики сформировались базовые парадигмы ИИ: морфологическая, нейрокибернетическая, логическая, имитационная. Концепция цифрового двойника соответствует кибернетике первого порядка.

Майкл Гривз предложил термин «цифровой двойник»2. Цифровой двойник − это виртуальная интерактивная копия реального физического объекта или процесса, помогающая управлять им. В отличие от информационной модели объекта цифровой двойник не ограничивается сбором данных, полученных в процессе разработки и изготовления изделия, а продолжает сбор и анализ информации на протяжении всего жизненного цикла реального объекта. Концепция цифрового двойника становится все более актуальной для системного проектирования на основе моделей3.

Цифровой двойник имеет богатую предысторию. Человечество использовало модели виртуальных близнецов задолго до эпохи цифровых трансформаций. Близнецы объектов управления появились сначала в сознании людей, на бумаге и других материальных носителях, а затем и в цифровой реальности, с помощью Интернета вещей и ИИ.

Важно отметить, что этот физический объект и его цифровой двойник могут быть очень сложными, но пассивными по отношению к субъекту управления. Это наблюдаемый объект, и цифровой двойник

1 Лепский В.Е. Методологический и философский анализ развития проблематики управления. М.: Когито-Центр, 2019. 340 с.

2 Grieves, M. (2014) Digital Twin: Manufacturing Excellence through Virtual Factory Replication; A White Paper; LLC: Melbourne, FL, USA.

3 Madni, A.M., Madni, C.C., Lucero, S.D. (2019). Leveraging Digital Twin Technology in ModelBased Systems Engineering. Systems. 7 (1): 7.

116

помогает наблюдать за ним в разных режимах и с разных сторон по командам наблюдателя. Такое понимание цифрового двойника соответствует концепции кибернетики первого порядка (Рис. 3-1).

Цифровой двойник Объект управления

(наблюдаемый)

Рис. 3-1. Цифровой двойник в управлении (кибернетика первого порядка)

В табл. 3-1 показаны связи между функциональным назначением цифрового двойника и рефлексивностью ЛПР в контексте кибернетики первого порядка.

Таблица 3-1

Функциональное назначение цифрового двойника и рефлексивность ЛПР

Процесс развития цифровых двойников продолжится и получит качественно новый функционал, уже проявившийся в контексте кибернетики второго порядка. Важно отметить, что роль

117

рефлексивности в создании цифровых двойников и организации процессов взаимодействия с ними лиц, принимающих решения, будет возрастать.

3.2.3.2. Цифровой двойник и цифровой субъект

Кибернетике второго порядка соответствуют парадигмы ИИ: слабый и Общий ИИ. Кибернетика второго порядка расширяет функции цифрового двойника. Лицо, принимающее решение, может делегировать часть функций автономного управления цифровому двойнику. На основе технологий машинного обучения цифровой двойник становится самообучающейся автономной системой управления под контролем лица, принимающего решения. Цифровой двойник трансформируется в цифровой субъект (Рис. 3-2). ЛПР актуализирует коммуникативную рефлексию для установления взаимодействия с новым цифровым субъектом и управления им.

Рис. 3-2. Цифровой двойник трансформируется в цифрового субъекта.

Понятие цифрового субъекта имеет разные философские основания и трактовки1. В данной статье используется понятие цифрового субъекта как псевдосубъекта, обладающего инвариантными свойствами естественных субъектов. Мы используем системно-генетический подход (классическая, неклассическая, постнеклассическая научная рациональность) к формированию представлений о цифровом субъекте как техническом объекте на основе ИИ2. Основными инвариантными

1Goriunova, O. (2019a). Digital subjects: an introduction. Subjectivity, 12, pp. 1–11. Goriunova, O. (2019b). The Digital Subject: People as Data as Persons. Theory, Culture and Society, vol. 36, No 6, pp.125-145. Wark, S. (2019) The subject of circulation: on the digital subject’s technical individuations. Subjectivity. 12, pp. 65–81.

2Simondon, G. (2017) On the Mode of Existence of Technical Objects. Translated by C. Malaspina and J. Rogrove. Minneapolis: Univocal Publishing.

118

свойствами субъектов являются целеустремленность, рефлексивность, коммуникабельность, социальность и способность к развитию1.

Рассмотрим пример взаимодействия ЛПР с цифровым субъектом. Выделим некоторые функциональные назначения цифровых субъектов и соответствующие им особенности рефлексивности лиц, принимающих решения (табл. 3-2).

Таблица 3-2

Функциональное назначение цифрового субъекта и рефлексивность ЛПР

Втабл. 3-2 приведены сведения об отдельных функциях цифровых субъектов и типах рефлексивности естественных субъектов. Эта информация может быть значительно расширена и детализирована.

Вконтексте кибернетики второго порядка, соответствующей неклассической научной рациональности, цифровой субъект функционирует в сети естественных и цифровых субъектов. Он может быть привязан к конкретному природному или цифровому субъекту или субъектам, обеспечивающим их деятельность, рефлексивную и коммуникативную деятельность. Он может обособляться от естественных субъектов и быть готовым к присоединению к другим субъектам, а может выполнять общие сервисные функции сетевой

организации. Функциональное назначение цифровых объектов и

1Лепский В.Е. Концепция субъектно-ориентированной компьютеризации управленческой деятельности. М.: Институт психологии РАН, 1998. 204с.

119

механизмы выполнения ими функций определяются с учетом системы принципов, среди которых важна группа субъектных принципов, и особенно принцип двойственного субъекта1. В кибернетике второго порядка базовая парадигма «субъект − субъект» определяет основной тип рефлексивности − коммуникативная рефлексия. Это существенно влияет на функциональное назначение цифровых субъектов для обеспечения коммуникативных процессов и коммуникативного отражения естественных предметов.

Принципиально важно отметить, что предлагаемый подход к рассмотрению взаимодействий цифровых и естественных субъектов формирует основу для организации гибридных систем, включающих иерархические и сетевые механизмы управления.

Реализация системно-генетического подхода осуществляется через превращение цифрового двойника в цифровой субъект при переходе от кибернетики первого порядка к кибернетике второго порядка. Это отражает исторический подход к развитию представлений о технических объектах2.

3.2.3.3. Цифровой метасубъект

Существование субъектов и псевдосубъектов в постнеклассической кибернетике саморазвивающихся полисубъектных (рефлексивноактивных) сред, кибернетике третьего порядка, задается мировоззренческими основаниями, системой принципов и системой онтологий. Это создает основу для сборки в единое целое (метасубъект) субъектов (псевдосубъектов), входящих в среду, и обеспечивает ее жизнедеятельность и развитие.

Система принципов состоит из мировоззренческих принципов, принципов субъектности, принципов синергетики, принципов организации сложных социотехнических систем, общенаучных методологических принципов. Особое место занимают принципы субъектности.

Мы разрабатали систему онтологий, которая включает в себя онтологии жизнеобеспечения, преодоления жизненных переломов, стратегической постановки целей, разработки стратегий и проектов, реализации и инновационного сопровождения стратегий и проектов. Эта система онтологий имеет научную, методологическую и практическую апробацию.

1 Лепский В.Е. Методологический и философский анализ развития проблематики управления. М.: Когито-Центр, 2019. 340 с.

2 Simondon, G. (2017) On the Mode of Existence of Technical Objects. Translated by C. Malaspina and J. Rogrove. Minneapolis: Univocal Publishing.

120