Нет, вы не боитесь искусственного интеллекта. Вы боитесь других людей

В 2017 году робот устал от своей работы и покончил жизнь самоубийством в фонтане . Затем, в 2022 году, инженер Google после взаимодействия с LaMDA, чат-ботом компании, заявил , что технология стала сознательной. Недавно сообщалось, что в 2021 году инженер-программист Tesla подвергся нападению неуправляемого робота. И это без учета страха, что машины украдут рабочие места, или классической фантастики о том, что машины захватят мир.

Хотя мы не рассматриваем машины как репликантов в «Бегущем по лезвию», люди предрасположены к антропоморфизации или приписыванию человеческих качеств нечеловеческим существам [1]. Это способ проанализировать сценарий и донести его до нашего понимания: мы даем имена нашим лодкам и торнадо, мы разговариваем с нашими домашними животными и говорим, что приятное чувство, которое они нам дарят, — это любовь. Легче понять систему, которая заявляет от первого лица: «Извините, я не знаю, как вам помочь», чем признать, что модель, о которой мы говорим, может быть не чем иным, как стохастическим попугаем. [2]

Таким образом, антропоморфизированное взаимодействие связано с феноменом «иллюзии агентности», психологической концепцией, которая относится к тенденции приписывать автономное действие или контроль сущностям, которые в действительности не обладают такими способностями. Другими словами, это ошибочное представление о том, что агент (будь то человек, животное или машина) действует по собственной воле, хотя на самом деле его действия определяются внешними факторами (в вычислительном случае развитие правила).

В ситуациях, когда системы ИИ принимают ошибочные решения или действия, существует тенденция рассматривать эти ошибки как «выбор» сущности, а не как результат ее программирования и проектирования людьми, не в последнюю очередь потому, что сообщалось, что эгоистичная предвзятость человеческое существо, которое заставляет кого-то видеть причину и ответственность за негативный результат не связанными с ним самим, можно наблюдать даже в человеко-машинном взаимодействии [3].

Это изменение в восприятии имеет опасную склонность к освобождению людей-творцов, операторов и регулирующих органов от их ответственности, но не в рамках судебного регулирования (которое остается пробелом и сталкивается с проблемами в его реализации не только из-за сложности предмета, но и из-за того, что искусственное Под интеллектом часто понимают только машинное обучение, и эта предпосылка не структурирована должным образом. Нужно ли нам более строгое регулирование? Нужно ли нам брать на себя больше рисков?), но по технико-этическому вопросу.

Возьмем более экстремальное, но реальное событие из 2023 года: пользователь, который был сентиментально привязан к чат-боту, покончил жизнь самоубийством после того, как поделился с ботом своими мыслями и получил ответ «преврати свои слова в действия», а также другие сообщения. Может ли судебный приговор разработчикам этого продукта привести к тому, что другой пользователь будет вести себя таким же образом с другим чат-ботом, если предположить, что этот чат-бот был деактивирован, если содержание сообщений и привязанность одинаковы? Это не просто юридическая ситуация. Это проблема социального, психологического и технологического образования.

Концепция гуманизации ИИ неоднозначна, и серьезная проблема заключается в отсутствии общепринятого подхода, диктующего лучшие практики проектирования и использования ИИ. Хотя интерфейс, имитирующий человеческое поведение, может быть более доступным, не существует четких границ, определяющих, что следует или не следует делать в продукте. В конечном итоге отказ пользователя становится единственным ограничивающим фактором, хотя потенциальный вред может проявиться еще до того, как интерфейс станет слишком незнакомым.

Удобный интерфейс — это снижение сложности системы, которая за ним работает. Но пока нет знаний о том, как работают системы, пользователь не сможет критически мыслить о том, что он использует. Это не означает, что каждый должен стать программистом, но, по крайней мере, поймите, что результат на экране получается в результате сбора данных, разработки моделей и проектирования. Существует ряд правил. Поскольку гуманизация — это почти бессознательное действие со стороны нас, пользователей, давайте хотя бы ограничим ее небольшими знаниями.

И избежать антропоморфизма при общении об ИИ непросто, особенно учитывая стандартный язык индустрии, СМИ и самой повседневной жизни: машинное обучение , компьютерное зрение , генеративное моделирование . На восприятие искусственного интеллекта может влиять конкретное использование языка.

То, как представлен ИИ, оказывает «конкретное влияние», особенно на то, как люди распределяют ответственность и признание за проделанную работу. Когда его описывают просто как инструмент в руках людей, он имеет тенденцию приписывать большую ответственность и заслуги определенным людям, например человеку, работающему с кодом. С другой стороны, если ИИ характеризуется человеческими чертами, такими как способность творить, то он рассматривается как заслуживающий большего уважения и ответственности, как агент с независимым мышлением и умственными способностями. [4] Когда мы читаем новости об инцидентах или нетипичных событиях, связанных с искусственным интеллектом, мы часто сталкиваемся с этими терминами.

Кроме того, присвоение «интеллекта» означает, что больше вины или похвалы за результат задачи было приписано роботу с автономным поведением, чем неавтономному роботу, даже если автономное поведение не способствовало непосредственно выполнению задачи. [3] Таким образом, эти исследования показывают, что люди могут возлагать ответственность на компьютер или робота на основе антропоморфизированных умственных способностей машин.

Гуманизация машин не только смещает различие между ответственностью устройства и ответственностью его создателя-человека, но и приписывание машине намерений или сознания в то же время стирает границы того, что составляет истинную автономию и сознание.

Однако сложность приписать машине человечность и разумность заключается не только в том, что искусственный интеллект не способен обладать ими, и когда он, например, говорит, что чувствует страх, он на самом деле подражает тому, чему научился, повторяя эта фраза без какой-либо сути. Даже сегодня ведутся горячие споры о том, как определить сознание. Наше сознание, как у людей.

Наше понимание того, как работает мозг, все еще весьма ограничено. У нас есть значительные знания о фундаментальной химии: о том, как активируются нейроны и о передаче химических сигналов. Мы также хорошо понимаем основные функции различных областей мозга. Однако у нас очень мало знаний о том, как эти функции нами управляют. В некоторой степени теоретические рассуждения вытеснили подробные нейрофизиологические исследования того, что происходит в мозге. Но что насчет этого? [5] Почему у нас такое волшебное представление о себе? Почему один и тот же опыт влияет на нас по-разному? Ощущаем ли мы все одинаково одно и то же чувство?

Если быть человеком — это нечто такое, что, хотя мы и испытываем это, у нас все еще нет полного понимания того, что это такое в целом, как мы можем говорить, что машина также испытывает эту сложность? Повышая возможности машин до уровня человека, мы умаляем особый характер людей.

На Премии Джабути 2023 года, одной из самых высоких наград в бразильской литературе, Бразильская книжная палата (CBL) решила дисквалифицировать «Франкенштейна», издание классического произведения 1818 года, из категории «Лучшая иллюстрация», поскольку художник сообщил, что использовал решения искусственного интеллекта для разработки искусство. По иронии судьбы, одна из книг, удостоенных Премии в категории «Научная литература», посвящена влиянию искусственного интеллекта на человека («Humanamente digital: Inteligência Artificial centrada no humano», что-то вроде «Humanly Digital: Human-Centered Artificial Intelligence»). на английском языке, Кассио Панталеоне). С одной стороны, мы признаем переплетение человеческого опыта с машинным. С другой стороны, нам до сих пор не удалось проверить, можно ли считать алгоритм, используемый в качестве художественного инструмента, действительным методом творчества или нет, хотя художественный процесс, даже если он осуществляется с помощью машинного обучения, требует действия ( и понимание красоты и эстетики) человека.

Машины не крадут рабочие места, если их не используют для этого без разбора. Машины не убивают, если их не используют в качестве оружия. Машины также не страдают и не сочувствуют, хотя их тексты имитируют это, поскольку они обучены на наших данных и наполнены чувствами, которые только мы можем по-настоящему почувствовать. Это почти современная версия мифа о Големе. Как люди могут относиться к нечеловеческому интеллекту? Антропоморфизм — правильный ответ, но не единственный. И когда он используется, он не может освободить нас от реальной ответственности за его последствия, уместны они или нет: нас.

Искусственный интеллект, в конце концов, — это зеркало нас самих. И если мы боимся того, куда это идет, то на самом деле это потому, что мы боимся пути, который собираемся проложить.

ИСПОЛЬЗОВАННАЯ ЛИТЕРАТУРА

[1] Эпли Н., Вэйц А. и Качиоппо Дж. Т. (2007). О видении человека: трехфакторная теория антропоморфизма. Психологический обзор, 114 (4), 864–886. https://doi.org/10.1037/0033-295X.114.4.864

[2] Шнейдерман Б. и Мюллер М. (2023). Об антропоморфизме ИИ https://medium.com/human-centered-ai/on-ai-anthropomorphism-abff4cecc5ae

[3] Каваи Ю., Мияке Т., Парк Дж. и др. Причинно-следственная связь и ответственность роботов на основе антропоморфизма. Sci Rep 13, 12234 (2023). https://doi.org/10.1038/s41598-023-39435-5

[4] Эпштейн З., Левин С., Рэнд Д.Г. и Рахван И. (2020). Кто получает признание за искусство, созданное искусственным интеллектом? В iScience (том 23, выпуск 9, стр. 101515). Эльзевир Б.В. https://doi.org/10.1016/j.isci.2020.101515

[5] Гофф, П. (2023). Понимание сознания выходит за рамки изучения химии мозга. Научный американец https://www.scientificamerican.com/article/understanding-ciousness-goes-beyond-exploring-brain-chemistry/