Connect with us

Hi, what are you looking for?

Наука и технологии

Алгоритм может отмечать текст, созданный ИИ, указывая на источник

Алгоритм может отмечать текст, созданный ИИ, указывая на источник

Алгоритм может отмечать текст, созданный ИИ, указывая на источник

24 октября 2024, 05:32
, Источник: techxplore.com , Источник фото: freepik.com
Алгоритм может отмечать текст, созданный ИИ, указывая на источник

Инструмент для добавления водяных знаков к тексту, сгенерированному большими языковыми моделями (LLM), описан в Nature. Водяные знаки улучшают способность распознавать и отслеживать синтетический контент. Существующие водяные знаки не получили широкого распространения из-за строгих требований.

Сумант Датхатри и Пушмит Коли разработали SynthID-Text, который использует алгоритм выборки для добавления подписи в текст ИИ. Инструмент сохраняет или улучшает качество текста и незначительно влияет на вычислительную мощность.

SynthID-Text показал лучшие результаты по сравнению с существующими подходами и не снижает качество текста. Однако водяные знаки можно обойти, отредактировав текст. Инструмент может стать следующим шагом к повышению подотчётности и прозрачности использования LLM.