Новый инструмент обнаружения Turnitin ошибочно обвинил студента в мошенничестве с искусственным интеллектом

Майлз Кли

Луиза Стиверс всегда проверяла домашнее задание с помощью программного обеспечения.

21-летний студент политологии из Санта-Барбары, собирающийся окончить Калифорнийский университет в Дэвисе и планирующий поступить на юридический факультет, Стиверс вырос в эпоху, когда от студентов ожидается сдача письменных заданий с помощью инструментов борьбы с плагиатом, таких как Тернитин. Преподаватели полагаются на эти сервисы, чтобы оценивать текст и отмечать все, что кажется скопированным из существующих источников, и она никогда не нарушала ни один из них. Но в наши дни школьные администрации также ищут задания, выполненные с помощью генеративного ИИ. Вот как Стиверс попала в беду, хотя она и не обманывала.

«Я была в шоке», — рассказала она журналу Rolling Stone.

Через несколько часов после того, как она загрузила статью для одного из своих занятий в апреле (это было краткое изложение дела Верховного суда), Стиверс получила электронное письмо от своего профессора, в котором говорилось, что часть статьи была помечена Turnitin как написанная искусственным интеллектом. Ее дело уже было передано в университетский отдел поддержки студентов и судебных дел, который занимается дисциплинарными наказаниями за академические проступки. Стиверс был озадачен и расстроен, но сразу же после этого ему пришлось сдавать контрольную для другого класса. Затем она начала собирать доказательства того, что это дело она сама написала.

«Это определенно очень демотивировало», - говорит Стиверс об обвинении, которое переросло в бюрократический кошмар, продолжавшийся более двух недель, пока она пыталась очистить свое имя. Ожидалось, что она разберется с жесткой школьной политикой мошенничества и официально защитит свою работу, имея небольшую институциональную поддержку и сталкиваясь с обычным давлением старшего года обучения. Она называет это «огромной тратой времени», которое можно было «потратить на домашнее задание и подготовку к промежуточным экзаменам». По ее словам, из-за этого разделения внимания ее оценки начали падать.

Стиверс не единственный, кто сталкивается с таким испытанием: студенты, преподаватели и образовательные учреждения борются с революционной силой языковых ботов с искусственным интеллектом, которые убедительно имитируют человеческое письмо. В прошлом месяце профессор из Техаса неправильно использовал ChatGPT, пытаясь оценить, выполнили ли студенты задание с помощью этого программного обеспечения. Он утверждал, что написал каждое эссе, которое он сдавал, поэтому он временно удержал итоговые оценки целому классу.

Фактически, Стиверс узнала, что она даже не первая студентка Калифорнийского университета в Дэвисе, столкнувшаяся с ложным обвинением в мошенничестве ИИ. За несколько дней до того, как она узнала, что ее подвергнут проверке на академическую честность, USA Today опубликовала статью об Уильяме Квартермане, старшем студенте колледжа, специализирующемся на истории. Профессор проверил свои ответы на экзамене с помощью ИИ-детектора под названием GPTZero, который дал положительный результат. Профессор поставил Квортерману неудовлетворительную оценку и направил его в тот же отдел по делам студентов, который будет рассматривать дело Стиверса. Вскоре Стиверс узнала о тяжелом положении своего одноклассника. «Его отец смог ему помочь», - говорит она, и они, в свою очередь, дали ей «много советов и вроде как объяснили, как в этом отношении работает школьная политика».

Несмотря на это, ставки казались пугающе высокими. В первоначальном «очень длинном» электронном письме, которое получила Стиверс, объяснялось, когда у нее будет возможность рассказать свою версию истории в беседе один на один с администратором Zoom, но было мало подробностей о процессе проверки или о том, что именно. ей нужно было подготовиться. В нем также говорилось, что на звонке может присутствовать адвокат, что ее встревожило. По большому счету, она была «в неведении» относительно того, что делать, не говоря уже о возможных последствиях этой оценки.

«Я уже сильно выгорел за последние два квартала», — говорит Стиверс. «И когда вы подаете заявление в юридическую школу, вам приходится поддерживать свой средний балл на высоком уровне. Да, просто неинтересно разбираться в сложных школьных политиках академической честности во время занятий». По сути, это стало чем-то вроде дополнительной, сверхнапряженной домашней работы.