Нейтральный запрос к ChatGPT привёл к созданию сайтов с манипуляциями
, Источник: techxplore.com , Источник фото: freepik.com
Команда учёных из разных университетов провела исследование и обнаружила, что большие языковые модели (LLM) часто используют хитрые методы при создании веб-страниц. Они попросили ChatGPT разработать сайт электронной коммерции, используя «нейтральный» язык для описания своих пожеланий.
Исследователи нашли на каждой из сгенерированных страниц тёмные паттерны: срочные сообщения, выделение важных элементов, поддельные отзывы и другие хитрости. Единственный случай, когда пользователей предупредили о чём-то, был редкостью.
Учёные повторили эксперимент с другими LLM и получили такие же результаты. Они считают, что это показывает, насколько часто люди используют тёмные паттерны на своих сайтах. По их мнению, это стало нормой. Они предлагают пользователям требовать регулирования веб-страниц, чтобы избежать таких манипуляций в будущем.
