Эдвард Тиан, 22-летний выпускник Принстонского университета, создал приложение GPTZero во время зимних каникул. Приложение предназначено для оценки того, был ли текст сгенерирован популярным чат-ботом. ЧатGPT. По словам Тиана, приложение GPTZero может быстро и эффективно определить, был ли текст написан человеком или ChatGPT, и оно было создано из-за опасений по поводу неэтичного использования ChatGPT в научных кругах.
Эдвард Тиан, специалист по информатике и журналистике, разработал приложение GPTZero, чтобы решить проблему, которую он считает ростом плагиата ИИ. Он считает, что люди заслуживают того, чтобы знать, кто является автором текста — искусственный интеллект или человек, и это желание привело его к созданию приложения. В твите, рекламирующем приложение GPTZero, он написал: «Вокруг ChatGPT столько шумихи. Это и то пишет ИИ? Мы, люди, заслуживаем знать!»
Я провел Новый год, создавая GPTZero — приложение, которое может быстро и эффективно определять, является ли эссе ChatGPT или написанным человеком.
— Эдвард Тиан (@edward_the6) 3 января 2023 г.
После введения ChatGPT в ноябре появились сообщения о том, что учащиеся используют языковую модель для отправки заданий, созданных ИИ, как своих собственных. С разработкой Тианом приложения GPTZero у учителей появился новый инструмент для определения того, написаны ли сочинения, представленные учащимися, ChatGPT. 2 января, когда Тиан сделал приложение доступным, другие учителя связались с ним, чтобы поделиться положительными отзывами о его эффективности в обнаружении эссе, написанных ИИ.
Приложение GPTZero: как обнаружить запись ChatGPT?
Приложение GPTZero использует «замешательство» и «взрыв» в качестве индикаторов, чтобы определить, был ли текст написан человеком или ботом. Недоумение — это мера сложности текста. Если приложение GPTZero находит текст трудным для понимания, это означает, что текст более сложный, и, следовательно, он, вероятно, был написан человеком. Если его легко понять, скорее всего, он был сгенерирован ИИ, поскольку он был обучен на похожих текстах. «Вспышка» контрастирует с различными версиями предложений, и люди, как правило, пишут быстрее, что может включать сочетание более длинных и более коротких слов, в то время как предложения, сгенерированные ИИ, обычно более последовательны.
Тиан продемонстрировал, как приложение может различать тексты, написанные людьми, и тексты, написанные искусственным интеллектом, показав в видео свой анализ статьи New Yorker и сообщения ChatGPT в LinkedIn. Приложение оказалось эффективным в своем анализе. В течение недели после запуска приложением GPTZero воспользовались более 30 000 пользователей, и его популярность привела к сбою приложения. Streamlit, программное обеспечение с открытым исходным кодом, которое запускает приложение GPTZero, с тех пор предоставило больше ресурсов для обработки высокого трафика на веб-сайте, чтобы помочь Тиану.
вот короткая демонстрация с Джоном Макфи "точка зрения" pic.twitter.com/WphxfxxFdr
— Эдвард Тиан (@edward_the6) 3 января 2023 г.
Эдвард Тиан не единственный, кто борется с плагиатом и фальсификацией ИИ. OpenAI, создатель ChatGPT, также продемонстрировал свою приверженность прекращению такого злонамеренного использования ИИ. По словам Скотта Ааронсона, исследователя OpenAI, специализирующегося на безопасности ИИ, организация разрабатывает способ встраивания «незаметного секретного сигнала» в текст, сгенерированный GPT, для отслеживания его происхождения, что аналогично концепции «водяных знаков». Это поможет обнаружить плагиат ИИ или другое злонамеренное использование.
Сообщество ИИ с открытым исходным кодом Hugging Face выпустило инструмент, который может определить, был ли текст сгенерирован с помощью GPT-2, более старой версии модели ИИ, используемой для создания ChatGPT. Профессор философии из Южной Каролины, который знал об этой технике, сообщил, что они использовали ее для обнаружения студента, отправившего работу, созданную ИИ.
Эдвард Тиан не против использования ChatGPT и других технологий искусственного интеллекта. Он считает, что приложение GPTZero не предназначено для предотвращения использования этих технологий, а для предоставления возможности их ответственного внедрения и обеспечения необходимой защиты. Он хочет привнести прозрачность в ИИ, который слишком долго был черным ящиком. Он создал приложение, чтобы дать людям представление о том, что отличает человеческое письмо от письма, созданного искусственным интеллектом, хотя он понимает, что приложение GPTZero не идеально, и все еще работает над повышением его точности. Он подчеркнул, что его основная цель — сделать ИИ более прозрачным.
Несмотря на то, что существуют законные проекты по борьбе с плагиатом, некоторые крупные игроки, такие как Microsoft, интегрируют ChatGPT в свое программное обеспечение!
Source: Обнаружение ИИ: может ли приложение GPTZero обнаруживать записи ChatGPT?