OpenAI, компания, ответственная за создание ChatGPT, разработала AI Text Classifier, чтобы различать текст, написанный ИИ, и текст, написанный людьми. Мы называем это «Детектор ChatGPT». Хотя невозможно с абсолютной уверенностью идентифицировать написанный ИИ текст, OpenAI считает, что его новый инструмент уменьшит количество ложных заявлений о том, что написанный человеком контент на самом деле создается ИИ.
Понимание классификатора текста AI
В заявлениеOpenAI утверждает, что его классификатор текста ИИ может препятствовать распространению автоматизированной дезинформации, предотвращать использование ИИ для академического обмана и блокировать чат-боты от притворства людьми.
Точность инструмента была протестирована на наборе текстов на английском языке, где он правильно распознал текст, написанный ИИ, в 26% случаев. Однако он также ошибочно классифицировал текст, написанный человеком, как созданный ИИ в 9% случаев. Согласно OpenAI, инструмент работает лучше, когда текст длиннее, поэтому для запуска теста требуется не менее 1000 символов.
Как использовать детектор OpenAI ChatGPT?
Текстовый классификатор OpenAI AI прост в использовании. Просто перейти на эту страницу, войдите в систему, вставьте тестируемый текст и нажмите кнопку отправки. Затем инструмент предоставит рейтинг вероятности того, что текст был сгенерирован ИИ. Результаты могут варьироваться от:
- Очень маловероятно
- Навряд ли
- Неясно, если это
- Возможно
- Вероятный
Мы оценили навыки письма ChatGPT, написав эссе о кибербезопасности, а затем отправив эссе в классификатор текстов AI. Классификатор оценил эссе как «возможно, сгенерированное ИИ», что является убедительным, но не окончательным признаком:
Это подчеркивает ограничения инструмента, поскольку нельзя с полной уверенностью сказать, что эссе было написано ИИ. Внеся небольшие изменения, предложенные Grammarly, я понизил оценку с «возможно» до «неясно». OpenAI точно указывает, что обойти классификатор просто, но это не должно быть единственным доказательством того, что ИИ написал текст.
OpenAI сообщает в разделе часто задаваемых вопросов внизу страницы:
«Наше предназначение для классификатора текста AI — способствовать обсуждению различий между контентом, написанным человеком, и контентом, созданным AI. Результаты могут помочь, но не должны быть единственным доказательством при принятии решения о том, был ли документ создан с помощью ИИ. Модель обучается на написанном человеком тексте из различных источников, которые могут не отражать все виды написанного человеком текста».
OpenAI упоминает, что инструмент не подвергался тщательному тестированию для обнаружения текста, который представляет собой смесь ИИ и человеческого письма. Хотя классификатор текста ИИ может быть полезен для идентификации текста, который мог быть создан ИИ, не следует полагаться на него как на единственную основу для принятия окончательного решения.
Если вы имеете дело с ошибкой ChatGPT 405 — метод не разрешен, ознакомьтесь с нашим специальным руководством!
Source: Текстовый классификатор AI: объяснение детектора OpenAI ChatGPT