Пред неколку месеци, 28-годишниот извршен директор на Scale AI, Александар Ванг, направи наслови по неговата компанија, по безусловно успешен круг на финансирање вклучувајќи ги Мета, Амазон и Мајкрософт. Иако приказната за успехот на Ванг е драматична – од 19-годишно напуштање на MIT до најмладиот самоуправувачки милијардер во светот – и добро известена, многу помалку е кажано за тоа како неговата компанија, огромна компанија за етикетирање на податоци, стана.Благодарение на часовите на истражување во институционални студии и релативно нејасни извештаи, станав сè повеќе свесен за серија на подеднакво драматични вртежи во неодамнешната историја на компанијата, една која ги преплива приказните на стотици илјади луѓе и конечната судбина на нашиот свет по револуцијата на АИ. Повеќе од 1 милијарда долари во венчурниот капитал Повеќе од 1 милијарда долари во венчурниот капитал The World of AI Data За да го објасниме ова барање, ајде да ја користиме аналогијата на пенкало и мастило: вграден пенкало не би можело да се изрази на хартија, како што е случајот со шише со мастило без пенкало. Слично на тоа, производ за вештачка интелигенција како што се ChatGPT, Claude и Gemini е внимателна комбинација на податоци за обука и архитектура – обично модел во стилот на Трансформер – што овозможува да се изразат податоците во употреблива форма. Голема количина на податоци е неопходна за обука на современи големи јазични модели (ChatGPT 4o, истакнат LLM, се проценува дека има за__ _), и на тој начин општествената употреба на АИ компании се претвори во една од најголемите со отворен код складиште на јазични податоци во човечката историја – на интернет. Покрај тоа што се обучени на примероци на текст и слики извадени од секој веб-сајт може да се замисли, state-of-the-art LLMs постојано се хранат со повеќе податоци од и од Непрестапната потреба за подобри податоци поттикнува целосен пазар за сигурни информации кои се користат за обука на вештачката интелигенција, а тоа е горчлива етичка дилема која ќе ја разбиеме во идните статии. 1,8 милијарди параметри на влез Сопственички податоци Разговори со своите корисници Сопственички податоци Разговори со своите корисници Why Humans? Не е изненадувачки, во големи збирки на податоци, разни штетни содржини кои работат во опсегот од сексуално експлицитни материјали до говор на омраза се спојуваат со здрави, образовни податоци за обука, како што беше случајот со подсетот на интернет податоци што се користат за обука на повеќето современи LLM chatbots. За да се постигне компромис помеѓу користење на човечки преглед и зачувување на скалабилноста на моделот, компаниите за вештачка интелигенција го усвоија моделот за зајакнување на учењето од човечки повратни информации (RLHF): во суштина, човечките работници ќе ги етикетираат и класифицираат потенцијално штетните податоци, кои потоа се хранат преку секвенца за зајакнување на учење за да го прилагодат моделот според содржината на податоците за обука. Терабајти на податоци за обука Терабајти на податоци за обука Во технички услови, RLHF не е поинаков од стандардните алгоритми за машинско учење за зајакнување на учењето: длабока мрежа се користи за доделување на резултат на одговор генериран од страна на АИ врз основа на вистински, човечки означени податоци, додека АИ се повторува за да генерира одговори кои потоа се внесуваат во оваа длабока мрежа, ефикасно класифицирајќи го според тоа колку е штетен одговорот. Излезот кој се смета за сличен на човечки означените "штетни" податоци негативно ќе влијае на тенденцијата на моделот да генерира нешто слично во иднина, додека излезот кој се смета за поинаков од горенаведените податоци ќе му даде на моделот тенденција да генерира такви излези кога е повикан под слични услови ( Со други зборови, овој процес го „учи“ моделот на вештачката интелигенција да произведува одговори што е можно поинакви од штетните податоци кои ги означува човекот, ефикасно да ги финишира без потреба да се претренира. Овој блог пост Овој блог пост The Issue? Наместо тоа, моделот на RLHF кој наводно ја прави вештачката интелигенција безбедна и бенигна е силно зависен од стотици илјади неплатени работници, од кои повеќето придонесуваат непроценливи услуги за етикетирање на податоци преку онлајн платформи за облак. Повеќето од овие платформи следат формат „запишувач и изведувач“, во кој мноштво на онлајн работници се доделуваат на една задача, добивајќи плата по завршувањето на она што задачата го пропишува, од етикетирање на содржината на слика или видео до пробивање на ѕидови на текст за можни клучни зборови или контексти. Овие работници се непроценливи придонеси за безбедноста на вештачката интелигенција како што ја знаеме – причината зошто јавно истакнува деловните злоупотреби на работниците од страна на големите платформи за етикетирање на податоци со вештачка интелигенција во облак, како што се Amazon Mechanical Turk, Appen и Remotasks. Извештајот „Fairwork 2024“ на Оксфордскиот институт за интернет Извештајот „Fairwork 2024“ на Оксфордскиот институт за интернет 
 
 
 
 
 
 Ниту една од споменатите платформи нема механизми или политики кои гарантираат дека изведувачите добиваат плаќање од барателите за завршените задачи. Само една од споменатите платформи (Appen) има политики кои обезбедуваат QoL на работниците преку ублажување на прекувремена работа. Ниту една од споменатите платформи нема јасни и лесно толкувани договори кои предвидуваат услови за плаќање и работа. Ниту една од споменатите платформи не покажа дека ги земаат повратните информации од изведувачите при донесувањето на извршните одлуки. Само една од споменатите платформи (Appen) има политики кои го признаваат правото на здружување на работниците (сојузирање). Real People, Real Impact Овие луѓе, често очајни да заработат малку дополнителен приход за да ги поддржат своите семејства, трошат часови пред нивните компјутери секој ден, минувајќи низ менијални и повторувачки задачи на етикетирање на податоци, често се соочуваат со најлошите маневри на човековата поквара. со графички и детални описи или приказни на силување, горење, самоповредување и злоупотреба на животни, сведоштвото на сите од кои е дел од нивната очекувана должност, без понатамошно следење или советување. Постојано пријавени за трауматизација Постојано пријавени за трауматизација Како изведувачи, работниците не се заштитени со законот за плата и, во многу случаи, не се плаќаат за прекувремена работа. Далечните задачи поставуваат ограничување на максималниот број на часови на работа за кој учесникот е платен, а платформата доделува задачи по долг процес на „квалификација“ за кој потенцијалниот изведувач не е платен. – дури и искусни работници кои можат ефикасно да ги завршат задачите понекогаш се борат да заработат со рекламираната стапка од 10-15 долари на час, а помалку способните учесници беа платени уште помалку, на помалку од 2 долари во некои случаи. Дури и ако можат да заработат пари, работниците исто така се мачат од нечесноста на барателите и одложувањата во плаќањето. Стотици вештачки означувачи на податоци за нивната работа - вредност од повеќе од 70.000 задачи - на основа дека тие не беа задоволителни. Недоволно малку Одбиваат да платат Недоволно малку Одбиваат да платат Стотици илјади луѓе секојдневно работат во означувањето на податоците на АИ, но нивната фрустрација случајно е задушена од лошата поддршка на клиентите и недостатокот на платформа. Некои занаетчии дури и го известија MIT Tech Review дека поддршката на клиентите понекогаш . Генерално се лоши одбиваат да се справат со нивните барања за предвремена плата Генерално се лоши одбиваат да се справат со нивните барања за предвремена плата Случајно, Remotasks, една од најголемите такви фирми за етикетирање на податоци за вештачка интелигенција, е клучна субвенција во Scale AI обезбедување на етикетирани податоци за обука како дел од услугите за градење на вештачка интелигенција на компанијата. Официјално основана за "зачувување на доверливоста на корисниците", ова раздвојување се обидува да ги маскира некои од помалку вкусните деловни практики на големата компанија од јавното око; всушност, кога се смета дека Remotasks постигна само 1/10 на скалата на фер работа на Fairwork, со 10/10 што е "минималното барање за фер работна средина", можеби има многу да се разговара за лошиот третман на Scale на работниците кои ги поддржуваат 
 
 Оваа статија ви е донесена од страна на Нашата АИ, студент-основана и студент-водени АИ етика организација која сака да се диверзификуваат перспективи во АИ надвор од она што обично се дискутира во современите медиуми. Оваа статија ви е донесена од страна на Нашата АИ, студент-основана и студент-водени АИ етика организација која сака да се диверзификуваат перспективи во АИ надвор од она што обично се дискутира во современите медиуми. Raise Awareness RLHF е добра работа направена на сите погрешни начини. Како силен поддржувач на развојот на вештачката интелигенција, тврдам дека тековните стандарди и политики не се доволни за да се осигура дека нашите технологии не влијаат негативно и прикриво врз нашето човештво. Ако доволно се грижите за одговорниот и безбеден развој на вештачката интелигенција, не само за Силиконската долина, туку и за човештвото во целина, јас силно ве охрабрувам да ја ширите свеста за кршењето на правата на работниците во индустријата на вештачка интелигенција – преку споделување на овој напис или правење сопствени истражувања – и поддршка на политичките одлуки кои го штитат правото на работниците на фер плата и претставување на работното место. Светот заслужува да знае – и вие треба да ја играте вашата улога. Напишано од Thomas Yin

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Ова аудио е произведено на оригиналниот јазик на приказната!

Премногу долго; Да чита

Make resilience your competitive advantage

Неизразената експлоатација на работниците зад големите јазични модели

About Author

КОМЕНТАРИ

ВИСЕТЕ ТАГОВИ

ОВОЈ СТАТИЈА БЕШЕ ПРЕТСТАВЕН ВО

Related Stories

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps