В течение последнего десятилетия скорость развития ИИ, несомненно, гарантировала благополучие миллионов людей, и, при небольших усилиях, чтобы остаться на такой траектории, технология, безусловно, останется таким образом еще десятилетиями. По моему мнению, однако, недавние действия, предпринятые многими компаниями ИИ, а также правительствами многих ведущих разработчиков ИИ, в совокупности представляют собой отклонение от пути в пользу человечества. Вдохновленная последствиями функции Grok Companions, эта статья обсуждает необходимость правительственного регулирования, опровергая распространенные заблуждения, используемые для защиты коммерческого распространения различных чат-ботов ИИ, и предлагает, как будущее законодательство может контролировать или запрещать нарушения безопасности в текущих моделях чат-ботов. Проблемы Гройсмана Grok всегда поддерживал свое место как одна из самых спорных коммерческих моделей ИИ с момента своего создания, периодически становясь символическим фокусом для вопроса корпоративного контроля над моделями ИИ в забавных безуспешных попытках Илона Маска использовать его как инструмент для продвижения правозащитной повестки дня по Икс. Тем не менее, недавно Grok выпустил свою новую функцию Companions, которая привлекла еще больше споров. На поверхности, функция Companions представляет собой серию чат-ботов, напоминающих предыдущие услуги чат-ботов, такие как те, которые предлагаются Meta AI и Первые два компаньона включают Руди, клятую Красную Панду, и Ани, блондинку из аниме, которые оба состоят из тонко настроенной версии Грока, а также сопровождающего аватара. Особенности.AI Особенности.AI Различные онлайн-отчеты подтверждают присущие чатботу романтические особенности, причем несколько рецензентов обращают особое внимание на «уровни любви», которые пользователь может достичь, чтобы разблокировать все более сексуальные разговоры, наряду с сопутствующими изменениями в аватаре. Поскольку у меня не было желания покупать подписку SuperGrok за 30 долларов в месяц, чтобы получить доступ к функции Companions, я не смог самостоятельно проверить некоторые утверждения о чат-боте; интернет, с другой стороны, казалось, согласился на одно: этот конкретный чат-бот был чрезмерно смелым. Руди, насколько это сомнительно, привлек гораздо меньше споров. Картина Red Panda, как правило, склоняется к оскорблениям и темным шуткам, которые многие считают смешными и смешными. Чтобы сказать правду, я обнаружил, что оба персонажа чат-бота довольно скучны. Вместо этого, что меня интересовало, был отдельный процесс и прием этого иначе десятка романтического чат-бота. Прежде всего, Companions является, среди продуктов, выпущенных «лидерами отрасли» ИИ (например, OpenAI, DeepMind, Anthropic, Meta), первым чат-ботом, предназначенным специально для участия в романтической ролевой игре, несмотря на общие этические опасения от предполагаемого долгосрочного психологического воздействия до эксплуатации уязвимой демографии. Отличительная слабость регулирования вокруг чат-ботов, таких как эти, сразу выделилась мне, кроме того, что, помимо того, чтобы ответить на несколько несогласных голосов, xAI смог выпустить продукт с безнаказанностью. Следует ли внимательно следить за новыми технологиями, чтобы защитить пользователей, или предоставлять им свободу для роста и развития? Ответственность и инновации Как и во всех новых технологиях, психологические эффекты использования чат-ботов ИИ на людей ни научно не доказаны, ни эмпирически очевидны.Многие люди давно предполагали, что такие технологии могут потенциально усугубить существующие проблемы, и первоначальные отчеты отрицательная корреляция между благополучием и использованием чат-ботов. Найденный Найденный Несмотря на это, эти относительно неизвестные технологии все еще находятся в процессе вторжения в основные СМИ. При рассмотрении того, действительно ли эти технологии вредны или нет, комментаторы технологий и политики одинаково игнорируют решающий момент, что такое рассмотрение, в идеале, никогда не должно быть необходимой озабоченностью в первую очередь в коммерческих технологиях. Опыт катастрофической неудачи. Могут Аналогичным образом, участники клинических испытаний не могли бы хорошо знать, что многочисленные животные не предшествовали им в процессе тестирования. Один из самых ключевых принципов инженерии заключается в том, что независимо от всего, безопасность всегда на первом месте. Чтобы получить представление о потенциальных опасностях этих чат-ботов, в любом случае, нам нужно только посмотреть на примеры двух подростков, самоубийства которых были связаны с ИИ, будучи соучастниками в их суицидальных идеях. Многие сторонники нынешней доктрины «развивай сейчас, исправь позже» указывают на очевидное: мы замкнуты в гонке инноваций с Китаем. На самом деле, заперты в «гонке вооружений» ИИ, и продукты нашего времени, вероятно, будут адаптированы в арсенале кибервойны, среди многих других вещей.Несмотря на это, я утверждаю, что необходимость инноваций не является случаем, чтобы игнорировать безопасность — мы никогда не можем предположить, что быстрый технологический прогресс взаимно исключает безопасность потребителей. Они бывают, 
 
 «Безопасность и улучшение продуктов происходят в результате недостатков и пробелов, обнаруженных в широком развертывании». «Безопасность и улучшение продуктов происходят в результате недостатков и пробелов, обнаруженных в широком развертывании». Хотя эти тесты, несомненно, были проведены (в частности, OpenAI развертывает новые модели для Pro пользователей раньше других типов пользователей), это не является преувеличением сказать, что массовое развертывание многих коммерчески доступных чат-ботов проводится таким образом, что игнорирует безопасность пользователей, с многими моделями ChatGPT Даже если коммерческое развертывание было необходимо для выявления многих из этих проблем, было бы гораздо разумнее, если бы были приняты адекватные меры предосторожности для обеспечения безопасности уязвимых групп пользователей, что в настоящее время не так. Неудача Неудача 
 
 «Постоянное широкое внедрение новых моделей приводит к чат-транскриптам, которые значительно ускоряют обучение новых моделей, в отличие от традиционных продуктов, не связанных с ИИ, ни один из которых не получает пропорциональной выгоды от большего количества обратной связи пользователей». «Постоянное широкое внедрение новых моделей приводит к чат-транскриптам, которые значительно ускоряют обучение новых моделей, в отличие от традиционных продуктов, не связанных с ИИ, ни один из которых не получает пропорциональной выгоды от большего количества обратной связи пользователей». В то время как они могут фактически информировать модель безопасности и взаимодействия соответствующих чатботов, отдельные трубопроводы данных, в основном высокого качества, технические данные, созданные или проверенные людьми, влияют на аспекты обучения ИИ, наиболее актуальные для развития мышления и других видов специализированных знаний (например, кодирование, математическое решение и т.д.). Надеюсь, я продемонстрировал, что потребность в инновациях не является основной причиной этих пробелов в безопасности — скорее, это согласованное отсутствие усилий по протоколам безопасности и тестированию. Роль регулирования Очевидное решение вышеупомянутого отсутствия стандартов безопасности заключается в том, чтобы просто увеличить правительственное регулирование практики обучения и распространения чат-ботов. Что не очевидно, однако, это то, как это весьма двусмысленное предложение будет сделано на практике. В начале XX века Соединенные Штаты узнали через Запрет важный урок о том, что жесткие, всеобъемлющие запреты на вредный продукт не работают. Вместо этого, запрещение алкоголя без лишения вещества его желательности просто привело к черной рыночной лихорадке, увеличивая вместо уменьшения общего потребления алкоголя. В конце XX века, чтобы бороться с массовым потреблением сигарет, правительство США приняло другой подход: вместо того, чтобы прямо запретить использование сигарет, они уменьшили социальную желательность табачных изделий, опубликовав широко распространенные отчеты о том, как они могут вызвать рак кожи, обязав сигаретные компании размещать видимые отметки на каждом продукте и ограничивая распространенность рекламы сигарет. потребление сигарет с исторического максимума почти 4000 до примерно 800 сигарет на душу населения в год. Снижение Снижение Чтобы убрать из истории, государственный контроль над небезопасными чат-ботами должен выйти за пределы юридических барьеров потребления и развития. Они также должны стремиться уменьшить воспринимаемую социальную допустимость потребления этих продуктов, будь то через кампании или общественные исследования. Несмотря на это, до сих пор неясно, в какой степени правительство может фактически повлиять на более широкие социальные сдвиги, с текущим общественным мнением, направленным на вирусные тенденции в социальных сетях в большей степени, чем на политико-экономические сдвиги. Автор Томас Инь

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Этот звук создан на языке оригинала истории!

Опровержение доктрины «Инновации против безопасности» в регулировании ИИ

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Цифровые кочевники слушают: что нужно знать о новой визе DTV в Таиланде

Невидимые слои: почему интервью с пользователями являются незаменимым активом

Рост криптовалют: создание эффективных образов пользователей

От форумов до лент новостей: как алгоритмы социальных сетей формируют цифровое взаимодействие

Цифровые кочевники слушают: что нужно знать о новой визе DTV в Таиланде

Невидимые слои: почему интервью с пользователями являются незаменимым активом

Рост криптовалют: создание эффективных образов пользователей

От форумов до лент новостей: как алгоритмы социальных сетей формируют цифровое взаимодействие

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps