Тейлор Хан, который преподает в Университете Джонса Хопкинса, получил тревогу, оценивая студенческую бумагу этой весной для курса по коммуникациям.Он загрузил задание на Turnitin, программное обеспечение, используемое более чем 16 000 академических учреждений по всему миру для обнаружения плагиатского текста и, с апреля, для флага искусственного интеллекта. Турнитин обозначил более 90 процентов статей студента как генерируемые ИИ. Хан организовал встречу Zoom со студентом и объяснил результаты исследования, попросив просмотреть заметки и другие материалы, используемые для написания статей. «Этот студент, сразу, без предварительного уведомления о том, что это проблема ИИ, показал мне проекты, PDF-файлы с их освещением», — сказал Хан. «Дизайн многих детекторов GPT по своей сути дискриминирует авторов, не являющихся родственниками, особенно тех, кто демонстрирует ограниченное языковое разнообразие и выбор слов», — сказал Лианг по электронной почте. Хай Лонг До, подрастающий младший в Университете Майами в Оксфорде, штат Огайо, сказал, что страшно думать, что часы, которые он проводит в исследованиях, составлении и пересмотре своих статей, могут быть поставлены под сомнение из-за ненадежных детекторов ИИ. «Много хуже, — сказал До, — это то, что знамя ИИ может повлиять на мою репутацию в целом». Шайам Шарма является доцентом в Университете Стони Брук и пишет книгу о подходе Соединенных Штатов к обучению иностранных студентов.Он говорит, что университеты регулярно не поддерживают эту подгруппу на своих кампусах, а профессора часто не понимают их уникальных обстоятельств.Шарма видит продолжающееся использование дефектных детекторов ИИ в качестве примера того, как учреждения игнорируют иностранных студентов страны. «Потому что жертва, именно здесь, менее важна, — сказал Шарма. — Жертва здесь менее достойна второй мысли, или оспаривания инструмента». «Учитывая потенциал недоверия и беспокойства, вызванный развертыванием детекторов GPT, это вызывает вопросы о том, перевешивает ли негативное влияние на среду обучения воспринимаемые преимущества», — написали они. Диана Ларрьеу, уроженка Франции, в этом году учится в юридической школе Кардозо в Нью-Йорке.В прошлом году, в программе магистра в области общего права вблизи Парижа, эссе ее друга на английском языке было обозначено как генерируемое ИИ, сказала она.Когда ее спросили, беспокоилась ли она о том, что то же самое может произойти с ней, потому что, как и ее подруга, английский является ее вторым языком, ее ответ был прямым: «Конечно». Хевон Ян, старший сотрудник Нью-Йоркского университета и корейка из Южной Кореи, разочарована детекторами ИИ и ее уязвимостью к ним. „Если ИИ подбирает наши языковые модели и автоматически принимает решения, я не знаю, как я могу предотвратить это“, - сказала она. Именно поэтому Лианг сказал, что он скептически относится к тому, что детектор Турнитина может избежать предрассудков, выявленных его командой в своей статье. «Хотя подход Turnitin кажется доброжелательным, - сказал он по электронной почте, - важно видеть результаты их текущих тестов и любых оценок третьих сторон, чтобы сформировать всестороннее понимание производительности их инструмента в реальных сценариях». В ноте преподавателям в конце июня учебный центр университета сказал, что он не поддерживает использование каких-либо детекторов ИИ, ссылаясь на тот факт, что ложные положительные «несут риск потери доверия студентов, уверенности и мотивации, плохой рекламы и потенциальных юридических санкций». Хотя опыт иностранных студентов не был в центре их принятия решений, Джон Радзилович, промежуточный директор поддержки преподавания в Университете Питтсбурга, сказал, что его команда протестировала несколько доступных детекторов ИИ и решила, что ложные положительные признаки слишком распространены, чтобы оправдать их использование. «hr» В другом случае Хан работал непосредственно со студентом над очерком и проектами статьи, только чтобы большая часть представленной бумаги была обозначена Turnitin как генерируемая ИИ. В течение весеннего семестра Хан заметил шаблон этих ложных положительных эффектов. Инструмент Турнитина был гораздо более вероятным, чтобы обозначить написание международных студентов как генерируемое ИИ. Когда Ханн начал видеть эту тенденцию, группа ученых-компьютеров Стэнфорда разработала эксперимент для лучшего понимания надежности детекторов ИИ при написании неиностранными англоговорящими. Они опубликовали бумагу в прошлом месяце,  нахождение четкого предрассудка В то же время детекторы почти никогда не совершали подобных ошибок при оценке письменности носителей английского языка. ИИ-детекторы, как правило, запрограммированы для написания знака, когда выбор слов предсказуем, а предложения более просты.Как оказалось, написание не-носителями английского языка часто соответствует этой схеме, и в этом заключается проблема. Люди, как правило, имеют больший словарный запас и лучше понимают сложную грамматику на своих первых языках. Это означает, что англоговорящие люди, не имеющие родного языка, склонны писать более просто на английском языке. Так же и ChatGPT. На самом деле, он имитирует человеческое письмо, анализируя все, что он когда-либо обрабатывал, и изготавливая предложения с использованием самых распространенных слов и фраз. Даже если детекторы ИИ не специально обучены менее сложному письму, инструменты учатся делать это, видя снова и снова, что написание, генерируемое ИИ, менее сложно. Weixin Liang, один из авторов исследования Стэнфорда, выучил кантонский и мандаринский перед английским языком. Он скептически относился к   от    требования near-perfect требования близко к совершенству точность After ChatGPT debuted in November of last year, many of the nation’s   international students across the country, like their peers, considered the implications. Educators were panicking about the prospect of students using generative AI to complete assignments. And international students, allowed to study here with education-specific visas, quickly realized their vulnerability in the arms race that sprang up between AI generators and detectors. nearly 950,000 почти 950 000 Некоторые иностранные студенты видят дополнительные риски. Колледжи и университеты     их   о том, что обвинения в неправильном академическом поведении могут привести к приостановке или высылке, что подрывает их визовый статус. Угроза выдворения может ощущаться как routinely советуют международным студентам рутинно advise Международные студенты Были, однако, воспитатели, которые поставили под сомнение инструмент,  . открывая, как Хан, ошибочность детекторов ИИ и отмечая серьезные последствия  необоснованные обвинения открытие, как Hahn, ошибочность необоснованные обвинения В статье Лианга его команда указала, что ложные обвинения в мошенничестве могут нанести вред академической карьере и психологическому благополучию студента. OpenAI   его детектор AI в конце июля из-за низкой точности, а Quill.org и CommonLit   с их AI Writing Check, говоря, что генеративные инструменты AI слишком сложны для обнаружения. Анни Чечителли, главный директор по продуктам Turnitin, сказала, что инструмент компании был подготовлен для писания англоязычными людьми в США и за рубежом, а также многоязычными студентами, поэтому не следует идентифицировать предвзятость Лианга. shut down делали то же самое закрыть делал то же самое Компания проводит собственное исследование, чтобы выяснить, является ли инструмент менее точным при оценке письма не-носителей английского языка.Хотя это исследование еще не было опубликовано, Чечителли сказал, что пока что ответ выглядит как нет. Кредит: YouTube Однако она признала, что инструмент в конечном итоге учится тому, что более сложное письмо, скорее всего, будет человеческим, учитывая шаблоны между тренировочными эссе. В июне Turnitin обновил свое программное обеспечение, чтобы позволить учреждениям  , так что даже если программное обеспечение будет продолжать оценивать написание для ИИ, его выводы не будут отображаться для инструкторов. По состоянию на конец июля, только два процента институтов-клиентов Turnitin использовали эту возможность, согласно компании. отключить индикатор написания ИИ отключить индикатор написания ИИ «Мы считаем, что фокус на мошенничестве и плагиате немного преувеличен и гиперболичен», — сказал Радзилович.По его мнению, использование детекторов ИИ в качестве контрмеры создает слишком большой потенциал для вреда. Неужели вас обвинили в мошенничестве? Если детектор ИИ ошибочно идентифицировал ваше письмо как генерируемое ИИ, мы хотим услышать об этом. Email  . tara@themarkup.org tara@themarkup.org Кредиты       Следственный репортер Тара Гарсия Матеусон  Следственный репортер Тара Гарсия Матеусон Тара Гарсия Матюсон Дизайн и графика       Джоел Иствуд Джоел Иствуд Джоэль Иствуд Джоэль Иствуд Подробнее Подробнее Скачать видео        Maria Puertas Dan Phiffer Мария Пуэрта Мария Пуэрта Дэн Пиффер Дэн Пхифер Задача      Maria Puertas Мария Пуэрта Мария Пуэрта Редактирование и производство копий     Sabrina Toppa Sabrina Toppa Саркози Редактирование        Райан Тейт Сиси Вэй Райан Тейт Дженнифер Эйнштейн Подробнее Подробнее Также опубликовано  здесь Также опубликовано  здесь здесь Фото от   на  гаспер zaldo Unsplash Фото от   на  газпар зальдо Unsplash gaspar zaldo Подробнее

Every dollar you donate helps support The Markup’s work.

Read My Stories

Этот звук создан на языке оригинала истории!

Международных студентов обвинили в мошенничестве благодаря инструментам обнаружения ИИ

About Author

КОММЕНТАРИИ

БИРКИ

ЭТА СТАТЬЯ БЫЛА ПРЕДСТАВЛЕНА В

Related Stories

Рост криптовалют: создание эффективных образов пользователей

Невидимые слои: почему интервью с пользователями являются незаменимым активом

Как улучшить ваш рабочий процесс в 10 раз: 17 основных приложений

Утечка информации о системе Claude Sonnet 3.5: судебно-медицинский анализ

Рост криптовалют: создание эффективных образов пользователей

Невидимые слои: почему интервью с пользователями являются незаменимым активом

Как улучшить ваш рабочий процесс в 10 раз: 17 основных приложений

Утечка информации о системе Claude Sonnet 3.5: судебно-медицинский анализ

Light-Mode

Classic

Newspaper

Dark-Mode

Neon Noir

Minty

HN StartUps