От клише к смыслу: почему нужно перестать искать признаки ИИ в текстах

«Видно ИИ» — еще не диагноз

В профессиональной среде известен набор примет, по которым предлагают узнавать нейросетевой текст: одинаковый ритм и длина предложений, общие формулировки, обилие списков, некоторые повторяющиеся конструкции предложений и так далее. Иногда вывод делают и просто на основании общего впечатления.

Однако на самом деле такая диагностика ненадежна. В исследовании этого года изучали, способны ли люди отличить аннотации, написанные вручную, от сгенерированных. Оказалось, что примерно в 62% случаев респонденты ошибочно принимали ИИ-аннотации за человеческие. При этом участники демонстрировали значительную уверенность в своих суждениях (средний балл — 3,77 из 5), независимо от того, насколько они были точны. То есть в большинстве случаев участники не смогли верно определить происхождение текста, хотя и были убеждены в обратном.

Автоматические детекторы ИИ тоже не дают надежного ответа. Другое исследование сравнивало 13 детекторов на более чем 280 тысячах примеров, и после минимального редактирования человеком до 88% ИИ-текстов смогли обойти проверку.

Поэтому вопрос «написал ли это ИИ?» не слишком полезен — зачастую происхождение текста не получится определить наверняка, да это и не нужно. Гораздо важнее другое: что произошло с содержанием, пока оно проходило через нейросеть?

Ловушка для редактора: незаметные искажения

ИИ может написать грамматически безупречный и вполне убедительный текст, который при этом будет сильно неточен. Причем искажения могут быть настолько естественно вплетены в канву текста, что их легко пропустить при обычной вычитке.

В первую очередь это искажения касаются построения предложений или сочетаемости слов: ИИ смешивает характеристики слов-синонимов и употребляет конструкции, свойственные английскому языку.

Пример формулировки от ИИ: «особенно ценную роль в адаптации систем играют…». В русском языке прилагательное «ценный» сочетается с существительным «вклад», в то время как для «роли» более характерно слово «важная».

Другой пример: «такие требования к производительности достигаются за счет нескольких архитектурных решений». Здесь ошибка в выборе глагола произошла из-за того, что слова «достигать» и «выполнять» семантически близки, а их смысловые оттенки для ИИ оказались невидимы.

Такие ошибки, как в примерах, влияют в большей степени на качество, а не смысл текста. Но часты и более сложные ситуации, когда ИИ упрощает объяснения и незаметно убирает важные ограничения или условия. Из-за этого читатель может понять утверждение более широко, чем предполагается, или вовсе неверно. В чувствительных темах, таких как медицина или право, это особенно опасно.

Пример формулировки от ИИ: «Реакция “трансплантат против хозяина” — это тяжелое осложнение, которое возникает после пересадки костного мозга». Нейросеть исключила из пояснения частоту этой реакции и то, что осложнение только может развиться в некоторых случаях, а не возникает по умолчанию всегда. В глазах читателя обычный факт превратился в медицинскую страшилку.

Именно поэтому проверка ИИ-текстов не должна заканчиваться на вопросе «не придуман ли этот факт». Условно ее можно разделить на три части: форма, факты и смысл.

Три уровня качества текста

Первый уровень — форма. Текст должен быть понятным, связным, соответствовать формату и аудитории. Здесь ИИ действительно полезен: он умеет собирать структуру, предлагать варианты формулировок, сокращать и переписывать фрагменты.

Второй — факты. Все утверждения должны соответствовать исходным данным, а источники — быть сохранены и проверены. На этом этапе человек должен обеспечить прослеживаемость текста. То есть возможность на любой стадии подготовки материала вернуться назад: к факту, источнику, первоначальной формулировке, и увидеть, на каком основании в тексте дано то или иное утверждение.

Третий, самый сложный уровень — смысл. Не исказилась ли интерпретация? Не стало ли частное общим? Не исчезло ли важное ограничение? Здесь критически важна осознанность: человек-редактор должен понимать, зачем нужен материал, для кого он и как определить его качество. И, руководствуясь этим знанием, должен оценивать каждую строчку ИИ-черновика и необходимость ее редактуры.

Откуда берется доверие к тексту

ИИ постепенно становится обычным инструментом производства контента. Распознавать его «руку» в тексте уже и трудно, и не нужно. Действительно имеет значение критический взгляд на материал и привычка задавать редакторские вопросы.

Какая у текста задача? На каких фактах он построен? Как они были интерпретированы? Что изменилось между первой и последней версией? Кто и как проверил ее перед публикацией?

Для читателя ответы на эти вопросы не видны напрямую. Но именно они в конечном счете определяют уровень коммуникации. Например, в рамках наших практикумов по работе с ИИ-текстами для in-house команд мы в первую очередь обращаем внимание на навык итеративного взаимодействия с нейросетями, на каждом этапе которого человек привносит в продукт свою «добавленную стоимость». Доверие к ИИ-контенту строится на понятном разделении ролей: нейросеть помогает работать с текстом, человек отвечает за его смысл и принимает решения.

Само происхождение текста не делает его ни хорошим, ни плохим. Значение имеют качественный результат, человеческий контроль и прозрачность процесса.