книги2 / 17
.pdfо праве» объясняет понятие лица — субъекта права как персонифицированное единство комплекса правовых норм, предусматривающих юридические обязан-
ности и субъективные права, имеющие своим содержанием определенное пове-
дение (действия). Таким образом, субъект права — это не природная реаль-
ность, а «создаваемая правоведением конструкция... для описания юридически значимых фактических составов». Следовательно, электронное лицо, рассмат-
риваемое как субъект права, является, по существу, комплексом юридических обязанностей и прав, причем содержанием этих обязанностей и прав являются действия искусственного интеллекта.
Электронное лицо выполняет ряд функций, соответствующих определяе-
мым его разработчиками целям. Таким образом, оно предстает как лицо дей-
ствующее, на него возлагается обязанность, которую данное лицо может ис-
полнить либо нарушить. Возникает вопрос, кто будет нести ответственность за неисполнение данной обязанности — само электронное лицо или разработ-
чик искусственного интеллекта.
Необходимость научной и практической разработки данной проблемы подтверждает тенденция возрастания автономности искусственного интеллек-
та, а также увеличение числа случаев гибели людей в результате «принятия ре-
шений» таким интеллектом. В качестве примера можно привести дорожно-
транспортное происшествие в США в результате неправильной оценки ситуа-
ции автопилотом Tesla, когда произошло столкновение автомобиля с фурой и погиб водитель, не успевший взять управление на себя.
В этой связи следует заметить, что основатель Tesla И. Маск утверждал,
что ни дорожно-транспортные происшествия, ни авиакатастрофы, ни отсут-
ствие лекарств или некачественная еда не способны сравниться по уровню опасности с развитием искусственного интеллекта, и призывал ввести государ-
ственный контроль за внедрением соответствующих технологий.
В требованиях к проектированию, разработке и производству данного класса промышленных роботов, в частности, зафиксировано, что при разработ-
ке (проектировании) машины и (или) оборудования должны быть идентифици-
131
рованы возможные виды опасности на всех стадиях жизненного цикла.
В настоящее время в России ответственность за неправомерные последствия функционирования промышленных роботов несут их владельцы, производите-
ли или операторы.
Итак, следуя «чистому учению о праве» Г. Кельзена, электронное лицо можно трактовать как персонифицированное единство норм права, которые обязывают и уполномочивают искусственный интеллект (электронный инди-
вид), обладающий критериями «разумности».
Исследование проблематики правосубъектности электронных лиц под-
тверждает необходимость формирования принципиально нового инструмента-
рия правового регулирования, что связано со спецификой электронных лиц, ха-
рактеризующейся прежде всего трудностями локализации их юридически зна-
чимого поведения.
2.2. Право и умные роботы в России, США и Европейском Союзе
Робототехника и искусственный интеллект в последнее десятилетие стали неотъемлемой частью жизни общества. Применение роботов и алгоритмов су-
щественно повлияло на профессиональную, хозяйственную и государственную деятельность. Роботы успешно применяются в промышленности, медицине
(роботы-хирурги, диагносты), сфере социальной заботы (няни и сиделки),
транспорте и поисковых системах, изучении окружающей среды, космоса, ра-
боте с опасными факторами. Благодаря роботам минимизируется риск челове-
ческой ошибки, человек освобождается от рутинной работы ради творчества,
исключается риск для жизни и здоровья человека. Однако наряду с положи-
тельными результатами применения роботов, возникает целый ряд негативных и социально значимых вопросов: потеря работы вследствие замены человека роботом (особенно в сферах, где существуют типичные виды работы — буху-
чет, вождение и пр.), антропоморфизм в отношении роботов, использование
132
роботов как средства ведения войны или применения насилия в отношении че-
ловека и т.д.
В сфере этики и права одним из самых сложных вопросов является про-
блема наделения роботов правосубъектностью и определения субъекта, кото-
рый должен нести ответственность за вред, причиненный искусственным ин-
теллектом. При этом в отсутствие единодушного мнения общественности и ученых относительно признания за искусственным интеллектом качества че-
ловеческой личности законодательство и судебная практика разных стран мира сохраняет пробелы и неопределенность по вопросу правосубъектности роботов,
наделенных искусственным интеллектом.
Наиболее интересными для анализа и учета правового опыта в сфере регу-
лирования робототехники можно назвать правовые системы Европейского Со-
юза, США и России. В этих правовых системах предлагаются те или иные мо-
дели решения проблем использования искусственного интеллекта как в этиче-
ском, так и юридическом отношении.
Среди этико-правовых вопросов применения технологии искусственного интеллекта можно обозначить следующие: выработка единого подхода к пони-
манию искусственного интеллекта; проблема наделения роботов качествами личности; виды роботов; роботы как субъекты права; проблема определения субъекта ответственности за вред, причиненный «умными машинами»; воз-
можность признания робота в качестве субъекта интеллектуальной собственно-
сти; государственное управление, контроль и стандартизация в сфере робото-
техники и киберфизических систем; возможность использования роботов в ка-
честве оружия и использования роботов при обороне и ведении войны; сферы и пределы использования искусственного интеллекта в юридической деятель-
ности (правотворчестве и правоприменении): замена рутинных операций (стра-
133
хование, банкротство, подготовка исков и процессуальных документов, ведение протокола судебного заседания, предсказание судебных решений и т.п.109
Одной из задач юриспруденции выступает выработка дефиниции «искус-
ственный интеллект». При этом следует обратить внимание на ряд осложнений в решении данного вопроса:
-в науке отсутствует общепринятое определение базового термина
«естественный (человеческий) интеллект», который воспринимается как веду-
щее свойство человеческой природы. При этом интеллект зачастую связывают
стаким свойством как мышление;
-в специальной литературе нет единства в понимании искусственного интеллекта и наряду с этим термином используют такие понятия, как «машин-
ное обучение», «нейронные сети» и т.п.
Следует отметить, что среди ученых различаются два термина «слабый ис-
кусственный интеллект» и «сильный искусственный интеллект». Слабый ис-
кусственный интеллект понимается как умная машина для решения частных за-
дач (например, разработка сценариев для кинофильмов), тогда как сильный ис-
кусственный интеллект используется для решения широкого спектра задач110.
В многообразии определений искусственного интеллекта можно выделить следующие основные направления:
-искусственный интеллект как система, которая действует подобно че-
ловеку с аналогичными когнитивными способностями;
-искусственный интеллект как система (устройство), обладающая хотя бы одним из свойств человеческого разума;
-искусственный интеллект как сверхразум как система, превосходящая интеллектуальные способности человека111;
109Aletras N., Tsarapatsanis D., Preoţiuc-Pietro D., Lampos V. 2016. Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective.PeerJ Computer Science 2:e93 URL: https://doi.org/10.7717/peerj-cs.93. Р. 68.
110Морхат П.М. Искусственный интеллект. Правовой взгляд. М., 2017. С. 43–44.
111Бостром Н. Искусственный интеллект. Этапы. Угрозы. Стратегии. М., 2016. С. 56.
134
-искусственный интеллект как научное направление, изучающее воз-
можность и использование систем (устройств) для моделирования человеческо-
го мышления (машинное обучение).
Интересное определение предлагают А.В. Понкин и А.И. Редькина: «Ис-
кусственный интеллект — это искусственная сложная кибернетическая компь-
ютерно-программно-аппаратная система (электронная, в том числе — вирту-
альная, электронно-механическая, био-электронно-механическая или гибрид-
ная) с когнитивно-функциональной архитектурой и собственными или реле-
вантно доступными (приданными) вычислительными мощностями необходи-
мых емкостей и быстродействия». Эта кибернетическая система обладает рядом свойств: субстантивость (субъектность и способность совершенствоваться); вы-
сокоуровневая способность воспринимать информацию, принимать решения и их исполнять, анализировать собственный опыт; способность адаптироваться к внешней среде, выполнять когнитивные функции (творческие, аналитиче-
ские), способность к самосознанию112.
Близкого определения придерживается П.М. Морхат: «искусственный ин-
теллект — это полностью или частично автономная самоорганизующая (само-
организующаяся) компьютерно-аппаратно-программная виртуальная (virtual)
или киберфизическая (cyber-physical), в том числе био-кибернетическая (biocybernetic), система (юнит), наделенная/обладающая способностями и возмож-
ностями:
-антропоморфно-разумных мыслительных и когнитивных действий, та-
ких как распознавание образов, символьных систем и языков, рефлексия, рас-
суждение, моделирование, образное (смыслопорождающее и смысловосприни-
мающее) мышление, анализ и оценка;
-самореферентности, саморегулирования, самоадаптирования под изме-
няющиеся условия, самоограничения;
-самоподдержания себя в гомеостазе;
112 Понкин А.В., Редькина А.И. Искусственный интеллект с точки зрения права // Вестник РУДН. Серия: Юридические науки. 2018. С. 94–95.
135
-генетического поиска (genetic algorithm — эвристический алгоритм по-
иска, с сохранением важных аспектов «родительской информации» для «после-
дующих поколений» информации), накопления информации и опыта;
- обучения и самообучения (в том числе — на своих ошибках и своем опыте); самостоятельной разработки и самостоятельного применения алгорит-
мов самоомологации;
-самостоятельной разработки тестов под собственное тестирование, са-
мостоятельного проведения самотестирований и тестирований компьютерной
и, при возможности, физической реальности;
-антропоморфно-разумного самостоятельного (в том числетворческого)
принятия решений и решения задач и проблем113.
В законодательстве ряда зарубежных стран предприняты попытки опреде-
ления термина «искусственный интеллект». В Южной Корее еще в 2008 г. был принят закон «О содействии развитию и распространению умных роботов».
В законе предлагается следующее определение умного робота: механическое устройство, которое способно воспринимать окружающую среду, распознавать обстоятельства, в которых оно функционирует, и целенаправленно передви-
гаться самостоятельно.
Анализ существующих подходов к понятию «искусственный интеллект» позволяет выделить следующие признаки:
-наличие технического устройства (киберфизической системы), способ-
ной воспринимать информацию и ее передавать;
-определенная степень автономной работы без человеческого участия
(субъектность) при отсутствии жизни такой системы;
-способность к анализу, обобщению информации, выработке интеллек-
туальных решений на основе изученных данных (мышление), самосознанию;
- способность к обучению, самостоятельному поиску информации
и принятию на основе этой информации решений.
113 Aletras N., Tsarapatsanis D., Preoţiuc-Pietro D., Lampos V. 2016. Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing perspective. PeerJ Computer Science 2:e93 URL: https://doi.org/10.7717/peerj-cs.93. Р. 69.
136
Такой признак, как автономность и способность принятия самостоятель-
ных решений на основе собственного опыта и обучения обусловливает поста-
новку вопроса о сходстве человека и искусственного интеллекта, а также о по-
явлении отдельного от человека актора — личности, субъекта, может быть,
и субъекта права. Вне всякого сомнения, данный вопрос относится к филосо-
фии, проблеме понимания человеческого разума и личности. Принципиальное сходство человеческого разума и работы нейронных сетей (построенных по принципу работы человеческого мозга), способных к самообучению, ведет к выводу о наличии личности у роботов с искусственным интеллектом. Как следствие, появляются этические вопросы создания, использования и утилиза-
ции роботов: допустимость жесткого обращения, применения функций отклю-
чения и уничтожения; использования робота как убийцы или военного робота.
В Российской Федерации практически отсутствует правовое регулирова-
ние робототехники и искусственного интеллекта. Принят ряд стратегических документов в рамках проекта «Цифровая экономика». В Указе Президента РФ от 7 мая 2018 г. «О национальных целях и стратегических задачах развития на период до 2024 г.» и Стратегии информационного общества от 2017
до 2030 г. среди приоритетных задач в сфере цифровой экономики предусмот-
рена разработка системы правового регулирования цифровой экономики и ис-
пользования искусственного интеллекта. В Государственной программе «Циф-
ровая экономика» (распоряжение Правительства РФ от 28 июня 2017 г.) среди сквозных цифровых технологий предусмотрены нейротехнологии и искус-
ственный интеллект, робототехника и особо оговаривается необходимость си-
стемного нормативно-правового обеспечения применения цифровых техноло-
гий. При этом в Российской Федерации отсутствует необходимая юридическая основа для использования технологии искусственного интеллекта. Налицо ва-
куум правового регулирования в данной сфере, в то время как искусственный интеллект уже находит свое применение и в мире, и в России. При этом в юри-
дических и корпоративных кругах вносятся различные предложения в части ре-
гулирования использования робототехники.
137
В 2017 г. по заказу корпорации «Гришин роботикс» группа ученых иссле-
довательского центра проблем регулирования робототехники и искусственного интеллекта (А. Незнамов, В. Наумов, В. Архипов) разработала проект россий-
ского федерального закона в сфере робототехники. Авторы законопроекта по-
дошли достаточно осторожно к выработке подходов к правовому регулирова-
нию использования роботов114. Прежде всего, разработчики воздержались от всеобъемлющего регулирования всех аспектов использования робототехни-
ки, затронув наиболее насущные вопросы применения роботов. Задачу разра-
ботки базового закона о робототехнике авторы «Закона Гришина» оставили на более отдаленную перспективу115.
В законопроекте подняты очень серьезные юридические вопросы приме-
нения роботов.
Во-первых, авторы проекта закона вводят легальное определение роботов как автономных от человека интеллектуальных систем. «Робот — устройство,
способное действовать, определять свои действия и оценивать их последствия на основе информации, поступающей из внешней среды, без полного контроля со стороны человека», — говорится в тексте законопроекта. Очевидно, что ак-
цент сделан на такие качества, как самостоятельность роботов при принятии ре-
шений и отсутствие полного контроля за его действиями со стороны человека.
Причем именно автономность роботов может быть ключевым вопросом в определении правосубъектности и ответственности киберфизических систем.
Отсутствие автономности превращает робота в объект правоотношения, в тех-
ническое устройство и программный продукт. Качества субъекта права в таком случае характерны лишь для владельца робота.
Во-вторых, законопроект исходит из выделения двух видов роботов и со-
ответствующей дуалистической природы роботов:
-роботов как разновидности имущества;
114Незнамов А., Наумов В., Архипов В. Проект федерального закона О робототехнике. URL: http://robopravo.ru/matierialy_dlia_skachivaniia#ul-id-4-35 (accessed: 05.08.2019).
115Архипов В.В., Наумов В.Б. Искусственный интеллект и автономные устройства в контексте права: о разработке первого в России закона о робототехнике // Труды СПИИРАН. 2017. № 6. С. 47.
138
-роботов-агентов как самостоятельных участников гражданского оборо-
та, наделенных статусом юридических лиц со специальной правосубъектно-
стью.
Очевидно, что решение вопроса о наличии правосубъектности роботов должно решаться на основе конвенционально выработанного в юридической науке и практике понятия субъекта права и того решающего качества, которое определяет наличие самостоятельной правовой личности. Часть ученых при этом констатируют об отсутствии однозначного способа определения субъ-
екта права с учетом наличия категории юридических лиц, которые нетожде-
ственны человеку. Большинство исследователей отмечает преждевременность придания умным машинам статуса юридических лиц. Такую возможность при-
знают в том случае, если технологически в будущем появится искусственный разум, во многом сходный с человеческим разумом и, кроме того, обладающий такими качествами, как совесть и эмоции116.
Среди критериев для выделения субъекта права в юридической науке при-
водятся:
-сознание, воля и эмоции (при этом отсутствие сознания у душевно-
больных, детей, юридических лиц не является основанием для лишения их пра-
восубъектности);
-самостоятельность лица в принятии решений и управлении своими действиями;
-концепция фикции юридического лица как средства управлениями рисками и ограничения имущественной ответственности.
Сопоставление физического лица с автономным роботом (искусственным интеллектом) приводит к выводу о том, что при наличии общего признака осо-
знанности, робот не обладает такими качествами человека, как эмоции и воля.
116 European Parliament. REPORT with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)). Debates. February, 15 2017. Available at: http://www.europarl.europa.eu/sides/getDoc.do?type= CRE&reference=20170215&secondRef=ITEM-014&language=EN&ring=A8-2017-0005 (дата обращения: 01.02.2019)
139
Следовательно, тождество между человеком и роботом как субъектами права невозможно.
При этом нет внешних препятствий в распространении на автономного ро-
бота качеств юридического лица через фикцию как прием юридической техни-
ки. Принято искусственно признавать наличие некоей организации, хотя за ней может и не стоять действительный человек или организация людей. Так,
В. Наумов, В. Архипов в одной из своей работ подчеркивают, что роботы могут быть наделены специальной правосубъектностью для определенных целей
(торговля через ботов в Интернете и т.д.)117. П. Черка отмечает, что любой субъект права приобретает качество юридической личности в силу закона. Пра-
восубъектность есть категория юридическая и она может быть применена к лю-
бым предметам и субъектам исходя из определенных интересов и целей118. По-
нимание субъекта права как юридического понятия, не совпадающего с челове-
ком, очень точно передает Д.В. Пятков. По словам ученого, нужно различать человека в правовых отношениях и человека в иных общественных отношени-
ях. Он, в частности, отмечает: «Если физическое лицо — только юридическое представление, одно свойство человека, его маска, то юридическое лицо — также юридическое представление, свойство, маска. Надо полагать, под этой маской в конечном счете сокрыт тот же человек, т. е. юридическое лицо — это еще одно лицо человека, еще одна его маска. Лучше сказать: очередное лицо человека, поскольку у человека по законодательству может появиться множе-
ство юридических лиц»119. Соответственно, для решения вопросов гражданско-
го оборота и удовлетворения иных общественных интересов используется при-
ем юридической фикции, с помощью которого те или иные акторы наделяются качествами субъекта права: юридические лица, животные, роботы. В каждом случае за тем или иным субъектом права скрывается человек. Таким образом,
117Незнамов А., Наумов В., Архипов В. Проект федерального закона О робототехнике. URL: http://robopravo.ru/matierialy_dlia_skachivaniia#ul-id-4-35 (accessed: 05.08.2019) С. 153.
118P. Cerka, J. Grigiene, G. Sirbikyte Is it possible to grant legal personality to artificial intelligence software systems? // Сomputerlaw&securityreview. 33 (2017) Р. 699.
119Пятков Д.В. Лица людей // Российский юридический журнал. 2012. № 5. С. 35.
140