01.02.2023, 12:31

OpenAI научилась распознавать тексты ChatGPT и конкурентов

В компании OpenAI, как и обещали, создали и обучили классификатор, способный различать текст, написанный человеком, от текста, сочиненного нейросетью, в том числе их собственным ботом ChatGPT. Как утверждают разработчики, новый инструмент сможет опознавать тексты, созданные машинами различных производителей. Создатели классификатора уточнили: невозможно гарантированно обнаружить, что конкретный текст создан искусственным интеллектом. Безошибочно он распознал только четверть таких текстов. Однако авторы надеются, что предложенное ими решение должно помочь при незаконном использовании ИИ для распространения дезинформации или злоупотреблений в сфере образования.

Photo by Drew Dizzy Graham on Unsplash

Классификатор OpenAI представляет собой лингвистическую модель, обучение которой строилось на чтении парных текстов на одну тему. Один из текстов был написан человеком, второй — сгенерирован ИИ.

В сообщении разработчиков говорится, что во время проведенных тестов классификатору удалось правильно опознать только 26% из созданных ИИ текстов. Подозрительные, по мнению классификатора, тексты система помечала, как «вероятно написанные ИИ». При этом количество «ложных срабатываний», когда написанный человеком текст был определен системой, как текст, придуманный искусственным интеллектом, равнялось 9%.

В компании-разработчике сообщили, что точность работы классификаторы напрямую зависит от размера проверяемого текста. Чем объемнее исследуемый текст, тем больше система получает материала для анализа, принятия решения и тем выше вероятность корректного результата. С уменьшением объема текста вероятность его правильной классификации падает. Авторы отметили, что оценивают результаты работы классификатора с текстом, содержащим менее 1000 знаков, как «очень ненадежные». Также алгоритм может ошибаться при проверке текста, отредактированного человеком. Отдельно отмечается, что классификатор «не может применяться при принятии финального решения».

В OpenAI подчеркивают, что осознают проблемы, появившимися на фоне массового распространения AI-технологий в образовании. Компания признает необходимость ограничения влияния ИИ в образовательных учреждениях и готова принять участие в дискуссии по этому вопросу. Специально для преподавателей в OpenAI разработали рекомендации по работе с ChatGPT, в которых изложены варианты использования и связанные с ними ограничения и соображения.

Проблема мирного сосуществования ИИ-технологий и образования чрезвычайно обострилась в ноябре 2022 года, когда миру был представлен искусственный интеллект ChatGPT. Появление в открытом доступе технологии, которая прекрасно имитирует плоды умственного труда среднестатистического учащегося, вызвала страх и негодование в преподавательской среде. В университетах США вовсю заняты пересмотром образовательных программ и подходов к обучению, а в школах прямо запрещают использовать ИИ-технологии при учебе. ADPASS подробно описал ситуацию, сложившуюся в системе образования США, после «явления ChatGPT».

От использования ИИ-услуг не отказываются и российские студенты. Сегодня в нескольких телеграм-каналах и в «Твиттере» появились сообщения, что один из студентов кафедры управления РГГУ защитил диплом, написанный ChatGPT. Теперь уже специалист-управленец рассказал, как ему удалось обмануть всех, включая систему «Антиплагиат», которая поставила ему высокую (82%) оценку за оригинальность текста диплома. Интересно, предпримет ли РГГУ какие-то действия после саморазоблачения выпускника?

Авторы:
Артемий Шохор
Редакция ADPASS
Главное про маркетинг и рекламу
в Telegram

Вам понравится

Редакция ADPASS
Позавчера
АРИР
13.03.2024
Редакция ADPASS
11.03.2024
Редакция ADPASS
11.03.2024