Как узнать, была ли статья написана ChatGPT

Технология искусственного интеллекта меняет то, что мы видим в Интернете, и то, как мы взаимодействуем с миром. От фотографии Папы в пуховике, сделанной во время путешествия, до моделей изучения языка, таких как ChatGPT, искусственный интеллект проникает в нашу жизнь.

Более зловещее использование технологии искусственного интеллекта, например, политическая дезинформационная кампания с распространением поддельных статей, означает, что нам необходимо достаточно обучиться, чтобы обнаруживать подделки. Так как же узнать, является ли статья на самом деле текстом, сгенерированным ИИ?

Как узнать, написал ли ChatGPT эту статью

В настоящее время существует множество методов и инструментов, помогающих определить, была ли статья, которую вы читаете, написана роботом. Не все из них на 100% надежны и могут давать ложные срабатывания, но они предлагают отправную точку.

Одним из важных маркеров написанного человеком текста, по крайней мере, на данный момент, является случайность. В то время как люди будут писать, используя разные стили и сленг, и часто делают опечатки, языковые модели ИИ очень редко допускают такие ошибки. Согласно MIT Technology Review, «написанный человеком текст изобилует опечатками и невероятно изменчив», в то время как текстовые модели, созданные искусственным интеллектом, такие как ChatGPT, намного лучше справляются с созданием текста без опечаток. Конечно, хороший текстовый редактор будет иметь тот же эффект, поэтому вам нужно следить не только за правильным написанием.

Еще одним индикатором являются знаки препинания. Люди будут использовать пунктуацию более случайно, чем модель ИИ. Сгенерированный ИИ текст также обычно содержит больше соединительных слов, таких как «the», «it» или «is», вместо более крупных и редко используемых слов, потому что большие языковые модели работают, предсказывая, какое слово, скорее всего, будет следующим, а не придумывая. что-то, что звучало бы хорошо, как человек.

Это видно из ответа ChatGPT на один из стандартных вопросов на веб-сайте OpenAI. Когда вас спрашивают: «Можете ли вы объяснить квантовые вычисления простыми словами?», вы получаете такие предложения, как: «Что делает кубиты особенными, так это то, что они могут существовать в нескольких состояниях одновременно благодаря свойству, называемому суперпозицией. Это похоже на то, что кубит может быть и 0, и 1 одновременно. ”

Регулярно используются короткие простые соединительные слова, все предложения имеют одинаковую длину, а все абзацы имеют одинаковую структуру. Конечным результатом является письмо, которое звучит и кажется немного роботизированным.

Можете ли вы использовать ИИ для обнаружения текста, сгенерированного ИИ?

Сами большие языковые модели можно обучить распознавать письма, созданные ИИ. Обучение системы на двух наборах текстов — один написан ИИ, а другой написан людьми — теоретически может научить модель распознавать и обнаруживать записи ИИ, такие как ChatGPT.

Исследователи также работают над методами водяных знаков для обнаружения статей и текста ИИ. Том Гольдштейн, преподающий информатику в Университете Мэриленда, работает над созданием водяных знаков в языковых моделях ИИ в надежде, что это поможет обнаружить машинное письмо, даже если оно достаточно хорошо, чтобы имитировать человеческую случайность.

Невидимый невооруженным глазом водяной знак будет обнаружен алгоритмом, который укажет, что он создан либо человеком, либо искусственным интеллектом, в зависимости от того, как часто он придерживался или нарушал правила водяных знаков. К сожалению, этот метод не так хорошо протестирован на более поздних моделях ChatGPT.

Инструменты для проверки того, была ли статья написана ChatGPT

Вы можете найти в Интернете несколько инструментов для копирования и вставки, которые помогут вам проверить, создана ли статья с помощью ИИ. Многие из них используют языковые модели для сканирования текста, в том числе и сам ChatGPT-4.

Необнаруживаемый ИИ, например, позиционирует себя как инструмент, позволяющий сделать ваш ИИ неотличимым от человеческого. Скопируйте и вставьте текст в свое окно, и программа сверит его с результатами других инструментов обнаружения ИИ, таких как GPTZero, чтобы присвоить ему оценку вероятности — она в основном проверяет, сочтут ли восемь других детекторов ИИ, что ваш текст был написан роботом.

Оригинальность — еще один инструмент, ориентированный на крупных издателей и производителей контента. Он утверждает, что является более точным, чем другие на рынке, и использует ChatGPT-4 для обнаружения текста, написанного ИИ. Другие популярные инструменты проверки включают в себя:

• GPTZero
• Копилейкс
• Писатель

Большинство этих инструментов дают вам процентное значение, например, 96% человека и 4% ИИ, чтобы определить, насколько вероятно, что текст был написан человеком. Если оценка составляет 40-50% ИИ или выше, скорее всего, произведение было создано ИИ.

Хотя разработчики работают над тем, чтобы эти инструменты лучше обнаруживали текст, сгенерированный ИИ, ни один из них не является абсолютно точным и может ложно помечать человеческий контент как сгенерированный ИИ. Также есть опасения, что, поскольку большие языковые модели, такие как GPT-4, улучшаются так быстро, модели обнаружения постоянно догоняют.

Тренируйте свой мозг, чтобы поймать ИИ

Помимо использования инструментов, вы можете научиться ловить контент, созданный ИИ. Это требует практики, но со временем вы научитесь делать это лучше.

Дафна Ипполито, старший научный сотрудник отдела искусственного интеллекта Google Brain, создала игру под названием Real Or Fake Text (ROFT), которая может помочь вам отделить человеческие предложения от предложений роботов, постепенно обучая вас замечать, когда предложение выглядит не совсем правильно. .

По словам Ипполито, одним из распространенных маркеров текста ИИ являются бессмысленные утверждения вроде «на приготовление чашки кофе уходит два часа». Игра Ипполито в значительной степени направлена ​​на то, чтобы помочь людям обнаруживать такие ошибки. На самом деле, было несколько случаев, когда программа для написания ИИ сообщала неточные факты с полной уверенностью — вам, вероятно, не следует просить ее выполнить ваше математическое задание, поскольку она, похоже, не очень хорошо справляется с числовыми вычислениями.

На данный момент это лучшие методы обнаружения, которые у нас есть, чтобы поймать текст, написанный программой ИИ. Однако языковые модели совершенствуются с такой скоростью, что текущие методы обнаружения довольно быстро устаревают, оставляя нас, как пишет Мелисса Хейккила для MIT Technology Review, в гонке вооружений.

СВЯЗАННЫЕ С: Как проверить ChatGPT с помощью чата Bing AI