Google представила технологию для маркировки и распознавания текстов, созданных генеративными моделями ИИ. Инструмент под названием SynthID Text не повлияет на качество и скорость генерации контента, и будет доступен совершенно бесплатно для разработчиков и компаний.

SynthID Text функционирует следующим образом: в процессе генерации текста модель прогнозирует следующий «токен» (символ или слово), опираясь на вероятность появления каждого из токенов. При этом она дополнительно вносит информацию в распределение вероятностей, корректируя символы. В итоге из этих символов создается водяной знак, который позволяет определить, был ли текст сгенерирован искусственным интеллектом.

Следует подчеркнуть, что Google — это не единственная компания, занимающаяся разработкой технологии водяных знаков для текста, созданного с помощью искусственного интеллекта. Например, OpenAI также работала над методами внедрения водяных знаков, но приостановила их внедрение из-за технических проблем и коммерческих факторов.