През последното десетилетие или така, бързият темп на развитие на ИИ несъмнено е гарантирало благосъстоянието на милиони хора и, с малко усилия да остане на такава траектория, технологията със сигурност ще остане по този начин още десетилетия напред. Според мен обаче неотдавнашните действия, предприети от много AI компании, както и от правителствата на много водещи AI разработчици, като цяло представляват отклонение от пътя към благото на човечеството. Вдъхновен от последствията от функцията Grok Companions, тази статия обсъжда необходимостта от правителствено регулиране, опровергавайки често срещаните заблуди, използвани за защита на търговското разпространение на различни AI чат-ботове, и предлага как бъдещото законодателство може да контролира или забрани пропусканията в сигурността в настоящите модели чат-ботове. Проблемите на Гройсман Grok винаги е запазвал мястото си като един от най-спорните търговски модели на ИИ от създаването си, като периодично се превръща в символичен фокус за въпроса за корпоративния контрол над моделите на ИИ в забавно неуспешните опити на Илон Мъск да го използва като инструмент за насърчаване на про-дясната програма за Х. Въпреки това, наскоро, Grok избухна своята нова функция Companions, която привлече още повече противоречия. На повърхността, функцията Companions е поредица от чатботи, напомнящи за предишни услуги за чатботи като тези, предлагани от Meta AI и Първите двама спътници включват Руди, кълнаща се Червена панда, и Ани, блондинка аниме момиче, и двете съставени от фино настроена версия на Грок, както и придружаващ аватар. Характеристики на AI Характеристики на AI Различни онлайн доклади потвърждават вродените романтични характеристики на чатбота, като няколко рецензенти обръщат специално внимание на "любовните нива", които потребителят може да постигне, за да отключи все по-сексуални разговори, заедно с придружаващите промени в аватар. Тъй като нямам готовност да си купя абонамента SuperGrok за 30 долара на месец, за да получа достъп до функцията Companions, не успях самостоятелно да проверя някои от твърденията за чатбота; интернет, от друга страна, изглеждаше да се съгласи с едно нещо: този чатбот беше твърде смел. Руди, колкото и съмнително да изглежда, привлече много по-малко противоречия. Картината Red Panda е склонна да преследва обиди и тъмни шеги, които мнозина смятат за смешни и смешни. Вместо това, това, което ме интересува, е различният процес и приемането на този иначе десятък романтичен чат-бот. На първо място, Companions е, сред продуктите, пуснати от "лидерите на индустрията" на AI (например, OpenAI, DeepMind, Anthropic, Meta), първият чат-бот, предназначен специално за ангажиране в романтична ролева игра, въпреки общите етични притеснения от твърдението за дългосрочни психологически ефекти до експлоатацията на уязвима демография. Отличителната слабост на регулирането около чат ботове като тези ми се открои веднага, в допълнение към факта, че, освен че отговаря на няколко несъгласни гласове, xAI успя да пусне продукта с безнаказаност. Трябва ли да се следи отблизо новата технология, за да се защитят потребителите, или да се даде свободно време за растеж и развитие? Отговорност и иновации Както при всички нововъзникващи технологии, психологическите ефекти от използването на AI чатбот върху хората не са нито научно доказани, нито емпирично очевидни. Негативна корелация между благосъстоянието и използването на чатботове. Намерени Намерени Независимо от това, тези сравнително неизвестни технологии все още са в процес на нахлуване в основните медии. При преценката дали тези технологии наистина са вредни или не, коментаторите на технологиите и политиците пренебрегват ключовата точка, че такова разглеждане, идеалистично, никога не трябва да бъде необходима загриженост на първо място в рамките на търговските технологии. Опитът на катастрофалния провал. може По същия начин участниците в клиничните изпитвания няма да се справят добре, знаейки, че много животни не са ги предшествали в процеса на тестване.Един от най-важните принципи на инженеринга е, че независимо от всичко, безопасността винаги идва на първо място.За да получим представа за потенциалните опасности от тези чатботове, във всеки случай, трябва само да погледнем примера на двама тийнейджъри, чиито самоубийства са били свързани с AI като съучастници в тяхната суицидна идея. Много привърженици на сегашната доктрина „развивай сега, поправяй по-късно“ посочват очевидното: ние сме заключени в състезание за иновации с Китай. Въпреки това, аз твърдя, че необходимостта от иновации не е случай на пренебрегване на сигурността – никога не можем да приемем, че бързият технологичен напредък е взаимно изключващ се от безопасността на потребителите. Те са, 
 
 "Безопасността и подобряването на продуктите се случват в резултат на недостатъците и пропуските, открити в широко разпространеното внедряване." "Безопасността и подобряването на продуктите се случват в резултат на недостатъците и пропуските, открити в широко разпространеното внедряване." Има много начини да се тества надеждността и безопасността на продуктите в рамките на настройките за бета-тестване.Въпреки че тези тестове несъмнено са проведени (по-специално, OpenAI пуска нови модели на Pro потребители преди други видове потребители), не е преувеличение да се каже, че масовото разгръщане на много търговски налични чатботове се извършва по такъв начин, че пренебрегва безопасността на потребителите, с много модели ChatGPT. Дори и да е необходимо търговско разгръщане, за да се открият много от тези проблеми, би било много по-разумно да се вземат адекватни предпазни мерки, за да се гарантира безопасността на уязвимите групи потребители, което понастоящем не е така. Провалът Провалът 
 
 "Съответното широко разпространение на нови модели води до чат транскрипти, които значително ускоряват обучението на нови модели, за разлика от традиционните, не-AI продукти, нито един от които не се възползват пропорционално от по-голям басейн от обратна връзка на потребителите." "Съответното широко разпространение на нови модели води до чат транскрипти, които значително ускоряват обучението на нови модели, за разлика от традиционните, не-AI продукти, нито един от които не се възползват пропорционално от по-голям басейн от обратна връзка на потребителите." Чат транскриптите обикновено не се обработват вербално като част от RLHF процеси, използвани от компании като OpenAI и Google.Въпреки че те всъщност могат да информират за модела на безопасност и ангажираност на съответните чатботи, отделни тръбопроводи за данни, най-вече с високо качество, технически данни, създадени или проверени от хора, влияят на аспектите на обучението по изкуствен интелект, които са най-подходящи за разработване на разсъждения и други видове специализирани знания (например кодиране, математическо решаване и т.н.). Надявам се, че съм показал, че необходимостта от иновации не е коренната причина за тези пропуски в безопасността – а по-скоро консолидираната липса на усилия по отношение на протоколите за безопасност и тестването. Ролята на регламента Очевидното решение на гореспоменатия недостиг на стандарти за безопасност е просто да се увеличи правителственото регулиране на практиката на обучение и разпространение на чатботи. Това, което не е очевидно, обаче, е как това много двусмислено предложение ще бъде направено на практика. В началото на 20-ти век, Съединените щати са научили чрез Забраната важния урок, че суровите, всеобхватни забрани за вреден продукт не работят. Вместо това, забраняването на алкохола, без да се лишава от същността на желателността му, просто доведе до черна треска на пазара, увеличавайки вместо да намалява общото потребление на алкохол. В края на 20-ти век, за да се бори с масовото потребление на цигари, правителството на САЩ предприе различен подход: вместо пряко да забрани употребата на цигари, те намалиха социалната желателност на тютюневите изделия чрез публикуване на широко разпространени доклади, в които подробно се описва как те могат да причинят рак на кожата, като се изисква от цигарените компании да поставят видими отказвания върху всеки продукт и да се ограничи разпространението на рекламите за цигари. Потреблението на цигари достигна исторически връх от почти 4000 до около 800 цигари на глава от населението годишно. Спадът Спадът За да се отървем от историята, правителственият контрол върху несигурните чат ботове трябва да надхвърли правните бариери на потреблението и развитието. Те трябва също така да се стремят да намалят възприеманата социална допустимост на консумацията на тези продукти, независимо дали чрез кампании или обществени изследвания. Въпреки това, все още не е ясно до каква степен правителството може действително да повлияе на по-широките социални промени, с настоящото обществено мнение, насочено към вирусни тенденции в социалните медии в по-голяма степен, отколкото към политико-икономически промени. Написано от Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Това аудио е създадено на оригиналния език на историята!

Отхвърляне на доктрината "Иновации срещу безопасност" в регулирането на ИИ

About Author

КОМЕНТАРИ

ЗАКАЧВАЙТЕ ЕТИКЕТИ

ТАЗИ СТАТИЯ Е ПРЕДСТАВЕНА В

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps