Како нулта цена, авторитетен звучен текст ја крши институционалната одговорност How zero-cost, authoritative-sounding text is breaking institutional accountability На 16 јануари, шефот на полицијата во Вест Мидлендс во Обединетото Кралство поднел оставка. Извештајот беше користен за да се оправда забраната на поддржувачите на Макаби Тел Авив да присуствуваат на натпреварот од Лигата на Европа против Астон Вила во ноември 2025 година. Меѓу Макаби Тел Авив и Вест Хем што не постоеше. Признавање фиксирање Признавање фиксирање Во текот на испитувањето, главниот свештеник признал дека дел од документот бил напишан со користење на Политичкото внимание следи брзо: министерката за внатрешни работи рече дека повеќе не Во неговото раководство, полицијата и комисијата за криминал на регионот најавија јавна расправа за одговорност. Она што првично изгледаше како техничка грешка брзо се ескалираше во лидерска криза. Мајкрософт Copilot доверба Мајкрософт Copilot доверба Голем дел од јавната дебата се фокусираше на пристрасност, пресуда и индивидуална одговорност, но епизодата укажува на структурни проблем кој се развива веќе неколку години. From human diligence to synthetic diligence Од човечка грижа до синтетичка грижа Современите институции со децении се потпирале на имплицитна претпоставка: ако постоеше документ - особено оној кој изгледаше формален, размислен, структуриран - некој потрошил време за да го произведе. Но, генеративниот АИ ја крши оваа претпоставка. Делови со квалитет на нацрт сега може да се произведуваат во секунди, вклучувајќи аргументи и цитати, и изгледа убедливо дури и кога основните тврдења се целосно измислени или погрешно толкувани. Проблемот во овој случај не е дека автоматските системи понекогаш халуцинираат; луѓето прават грешки, исто така. Како што трошоците за производство на авторитетни звучни текстови почнуваат да се приближуваат до нула, институциите почнуваат да се занимаваат со синтетичка работа побрзо отколку што можат да го потврдат. Таа флуктуација ја заменува човечката пресуда, а верификацијата станува нова стапица. Where failures are already visible Каде недостатоците се веќе видливи Случајот на Вест Мидлендс не е изолиран и слични неуспеси веќе ги принудуваат прилагодувањата низ институциите: судовите, универзитетите, владините тела, професионалните служби, па дури и новинарството сите се извлечени. Судиите Судиите во неколку јурисдикции ги санкционирале адвокатите за поднесување на досиеја кои содржат АИ генерирани, непостоечки судски закон. Случајот довел до казни откако адвокатите се потпирале на фалсификувани цитати произведени од страна на ChatGPT и правна анализа оценила дека е „гиберски.“ Како одговор, некои федерални судии, како што е судијата Брантли Стар во Тексас, воведоа постојани наредби кои бараат адвокати да дека лично ги прегледале и провериле сите содржини со помош на АИ. Судовите во Англија и Велс издадоа Овие мерки не се забрани на алатките за вештачка интелигенција; тие се обиди да се воспостави јасна линија на човечка одговорност во судскиот запис. Мата против Авијанка Сертификација Предупредувања Мата против Авијанка Мата против Авијанка Сертификација Предупредувања универзитети Институции за високо образование Многумина дошле до заклучок дека откривањето на употребата на АИ во домашни задачи е Еден студент му кажал на ABC News дека е тешко, објаснувајќи: „Гледаме на истиот дел од законодавството, ги цитираме истите случаи, гледаме на истите прашања“, додека друг се откажал: „Јас само одлучив да ја преземам казната затоа што едноставно бев премногу уплашен да расправам понатаму“. лице Несигурно лице Несигурно Некои одделенија повторно воведоа рачно напишани или надгледувани испити, ги проширија усните проценки и ја префрлија оценката во лични поставувања. затворени книги, рачно напишани испити. Универзитетот во Сиднеј неовластената употреба на вештачката интелигенција како прекршување на академскиот интегритет и соодветно го затегна дизајнот на оценување. универзитетите да се оддалечат од формати за оценување каде авторството не може да се утврди. Враќање Сега третираат советува Враќање Сега третираат советува Јавни тела Постојат неколку начини на кои може да се користат алгоритми и алгоритми за дијагностицирање ( Од јавните органи се бара да документираат и да објавуваат информации за автоматските системи што ги имплементираат. нагласува одговорноста, човечкиот надзор и транспарентноста во употребата на вештачката интелигенција во јавниот сектор. Овие рамки се рани обиди да се осигура дека официјалните одлуки подоцна може да се разгледуваат - не само за тоа што велат, туку и за тоа како се произведени. ) Атлас Што е Playbook Јас сум актер Атлас Што е Playbook Јас сум актер Приватниот сектор Приватниот сектор се соочува со истиот проблем, често со директни финансиски последици. Одделот за вработување и односи на работното место, кој подоцна се најде да содржи Компанијата призна дека делови од извештајот биле нацртани со користење на генеративен алатен синџир на вештачка интелигенција и врати дел од нејзината такса откако грешките беа изложени. Моделот се однесуваше како што е дизајнирано: генерираше веродостоен текст. Она што не успеа беше работниот тек. Извозот со помош на вештачка интелигенција помина низ внатрешни проверки и во средина за одлучување на владата без соодветна човечка верификација. 440.000 долари за преглед произведени 440.000 долари за преглед произведени Медиумските медиуми, вклучувајќи ги CNET и MSN, се повлекоа од статии генерирани од АИ кои содржат или „Air Canada“ е откако нејзиниот веб-сајт chatbot даде на клиентот погрешни информации за можноста за враќање на средствата. во академското објавување, се најдоа статии кои вклучуваат Автоматизирано генерирање на текст. Фактички грешки лажни билки одговорен Произведени цитати Фактички грешки лажни билки одговорен Произведени цитати Институциите претпоставуваа дека ефикасно произведениот текст е сигурен сигнал за основната работа. Why institutions are adding friction Зошто институциите додаваат триење Појавените одговори - рачно атестирање, лично оценување, барања за откривање, ограничувања на недекларирана употреба на вештачката интелигенција - може да изгледаат како отпор кон иновации. Кога капацитетот за верификација е редок, додавањето на триење е рационално наместо лудитот. Ако една организација може да генерира повеќе документи отколку што секој може реално да провери, таа акумулира одлуки кои никој не може навистина да ги поседува. Со текот на времето, тоа ја еродира внатрешната доверба и надворешната легитимност: колегите престануваат да веруваат дека извештаите одразуваат вистинска експертиза. Судовите, регулаторите и јавноста ја губат довербата дека официјалните записи почиваат на одговорна пресуда. Епизодата Вест Мидлендс ја илустрира оваа динамика јасно.Политичкиот исход не беше предизвикан само од погрешна референца.Тоа беше предизвикано од откритието дека документ со реални последици влегол во официјален процес без никој да може да каже, со доверба, кој - ако некој - го потврди. The structural change coming Структурните промени доаѓаат Генеративната АИ не само што ги прави институциите побрзи, туку го менува она што е ретко: производството е сега изобилно, верификацијата не е. И таа промена бара редизајн на институционалните работни процеси. Потеклото - како е произведен документот, кој го уредувал, кој го проверил и кој стои зад него - сега треба да стане експлицитно наместо претпоставено. Некои категории на работа ќе треба јасни граници каде што идентификуваното човечко авторство останува не-преговарачко. Други може да прифатат автоматизација, но само во рамките на границите за преглед кои одговараат на достапниот надзор. Ова не е привремено прилагодување. Синтетичката грижа е евтина и убедлива, а неуспеси како оној во Вест Мидлендс најверојатно ќе продолжат да се случуваат. Институциите кои ќе се прилагодат ќе бидат оние кои ќе прифатат побавен, повеќе проверка-центриран начин на работа во контексти со високи стапки. Кредит за водечка слика: AdobeStockḳ132785912 Кредит за водечка слика: AdobeStockḳ132785912
