Како нулти трошкови, ауторитативни звучни текст разбија институционалну одговорност How zero-cost, authoritative-sounding text is breaking institutional accountability 16. јануара, главни штаб полиције Вест Мидландс у Великој Британији поднео је оставку након што је Izveštaj je korišćen kako bi se opravdalo zabranjivanje navijačima Maccabi Tel Aviva da učestvuju u utakmici Lige Evrope protiv Aston Vile u novembru 2025. godine. између Макабија Тел Авива и Вест Хама који није постојао. Признање фиксирања Признање фиксирања Под испитивањем, главни стручњак је признао да је део документа састављен користећи Политичка пажња је брзо следила: домаћица је рекла да више није имала У његовом руководству, полиција и комисар за криминал у региону најавили су јавну расправу о одговорности. Оно што је у почетку изгледало као техничка грешка брзо је ескалирало у кризу лидерства. Мицрософт Копилот confidence Мицрософт Копилот поверења Већина јавне дебате је фокусирана на предрасуде, пресуду и индивидуалну одговорност, али епизода указује на структурни проблем који се већ неколико година развија. From human diligence to synthetic diligence Од људске бриге до синтетичке бриге Већ деценијама, модерне институције су се ослањале на имплицитну претпоставку: ако је документ постојао - посебно онај који је изгледао формално, размишљено, структурирано - неко је потрошио време да га произведе. извјештаји, правне пријаве, безбедносне процене и политичке брифинге били су скупи за генерисање, па чак и нискоквалитетни рад захтевао сате људске пажње. Али генеративна АИ разбија ту претпоставку. Нацрт-квалитетни комади се сада могу произвести у секунди, укључујући аргументе и цитате, и изгледају убедљиво чак и када су основне тврдње потпуно фалсификоване или погрешно тумачене. Проблем у овом случају није у томе што аутоматизовани системи понекад халуцинишу; људи праве грешке, такође. Како трошкови производње ауторитативног звучног текста почињу да се приближавају нули, институције почињу да се баве синтетичким радом брже него што могу да га провере.Евалуације сигурности, правне бришеве, студентске есеје, интерни извештаји и консултантске испоруке све почињу да изгледају завршене много пре него што неко заправо уради било који посао који имплицира њихов изглед. Та течност замењује људски суд и верификација постаје нова бочица. Where failures are already visible Где су неуспеси већ видљиви Случај Вест Мидландс није изоловани и слични неуспјеси већ присиљавају прилагођавања широм институција: судови, универзитети, владине агенције, професионалне службе, па чак и новинарство су сви ухваћени. Судови Судије у неколико јурисдикција су санкционисале адвокате због подношења досијеа који садрже АИ-генерисано, непостојеће судско право. Случај је довео до новчаних казни након што су се адвокати ослањали на фалсификоване цитате које је произвео ЦхатГПТ и правна анализа је оценила као "гиббери". да су лично прегледали и верификовали било који садржај помоћу АИ. судови у Енглеској и Велсу су издали Ове мере нису забране на АИ алатима; они су покушаји да се поново успостави јасну линију људске одговорности у судској евиденцији. Mata protiv Avianca Сертификат упозорења Mata protiv Avianca Mata protiv Avianca Сертификат упозорења Универзитети Институције високог образовања Сличан проблем верификације.Многи су закључили да је откривање употребе АИ у задатцима за преузимање куће Један студент је рекао АБЦ Невс-у да је тешко, објашњавајући: "Гледамо исти комад законодавства, цитирамо исте случајеве, гледамо исте проблеме", док је други одустао: "Само сам одлучио да узмем казну јер сам био једноставно превише уплашен да расправљам даље." лице Nepouzdano лице Nepouzdano Неки одјела су поново увели ручно написане или надгледане испите, проширили усмене процене и пребацили евалуацију у особне поставке. затворене књиге, рукописани испити. Универзитет у Сиднеју неовлашћено коришћење АИ као кршење академског интегритета и ојачао је дизајн процене у складу с тим. универзитетима да се одвоје од формата оцењивања у којима се ауторство не може поуздано утврдити. Повратак Сада третирају Саветује Повратак Сада третирају Саветује Јавна тела Препоручује се коришћење алгоритамских и алгоритамских инструмената ( захтева од јавних органа да документују и објављују информације о аутоматизованим системима које имплементирају. наглашава одговорност, људски надзор и транспарентност у употреби АИ у јавном сектору. Ovi okviri su rani pokušaji da se obezbedi da se zvanične odluke kasnije mogu proveriti – ne samo zbog onoga što kažu, već i zbog toga kako su proizvedene. ) Атрије Плејкбоок Ацте Ацте Атрије Плејкбоок Ацте Ацте Приватни сектор Приватни сектор се суочава са истим проблемом, често са директним финансијским последицама. za odeljenje za zapošljavanje i radno mesto koje je kasnije pronađeno da sadrži Компанија је признала да су делови извештаја састављени помоћу генеративног АИ алатног ланца и вратила део своје накнаде након што су грешке изложене. Модел се понашао како је дизајниран: генерисао је веродостојан текст. Оно што није успело је био ток рада. ИА-помоћни излаз је прошао кроз интерне провере и у владино одлучивање без адекватне људске верификације. 440 000 прегледа Производња 440 000 прегледа Производња Сличне епизоде су се појавиле на другим местима. Медији укључујући ЦНЕТ и МСН су повукли чланке генерисане АИ-ом који садрже или Аир Канада је након што је његов веб-сајт цхатбот дао клијенту погрешне информације о оправданости повраћаја.У академском објављивању, пронађени су радови који укључују повезан са аутоматизованом генерацијом текста. Фактичке грешке лажне биљке Одговоран fabricated citations Фактичке грешке лажне биљке Одговоран Производња цитата Institucije su pretpostavljale da je efikasno proizveden tekst pouzdan signal temeljnog rada. Why institutions are adding friction Зашто институције додају трење Одговори који се појављују - ручно атестирање, оцена у лице, захтеви за откривањем, ограничења на необјављену употребу АИ - могу изгледати као отпор иновацијама. Када је могућност верификације ретка, додавање трења је рационално уместо лудита. Ако организација може генерисати више докумената него што свако може реалистично проверити, акумулира одлуке које нико не може заиста поседовати. Временом, то еродира унутрашње поверење и спољну легитимност: колеге престају да верују да извештаји одражавају стварну стручност. Судови, регулатори и јавност губе поверење да службени записи почивају на одговорној пресуди. Епизода Вест Мидландс јасно илуструје ову динамику. Политички исход није био узрокован искључиво погрешном референцом. То је било узроковано откривењем да је документ који носи стварне последице ушао у званични процес без да нико може рећи, са поверењем, ко - ако било - је то проверио. The structural change coming Структурне промене долазе Generativna veštačka inteligencija ne čini institucije jednostavno bržim, već menja ono što je rijetko: proizvodnja je sada bogata, a verifikacija nije. И та промена захтева редизајн институционалних радних токова. Порекло - како је документ направљен, ко га је уређивао, ко га је проверио и ко стоји иза њега - сада треба да постане експлицитно, а не претпостављено. Неке категорије рада ће требати јасне границе гдје идентификовано људско ауторство остаје неодговарајуће. Други могу прихватити аутоматизацију, али само у границама прегледа који одговарају доступном надзору. Ово није привремено прилагођавање. Синтетичка брига је јефтина и убедљива, а неуспјеси попут оног у Вест Мидландс-у вероватно ће се наставити дешавати. Institucije koje će se prilagoditi biće one koje će prihvatiti sporiji, više verifikacioni način rada u kontekstu visokih stopa.One koje neće nastaviti da proizvode dokumente koji izgledaju gotovi - sve dok ne budu prisiljene da objasne ko je zapravo radio posao. Кредит за водећу слику: AdobeStockḳ132785912 Кредит за водећу слику: AdobeStockḳ132785912
