Нейтральный запрос к ChatGPT привёл к созданию сайтов с манипуляциями

Команда учёных из разных университетов провела исследование и обнаружила, что большие языковые модели (LLM) часто используют хитрые методы при создании веб-страниц. Они попросили ChatGPT разработать сайт электронной коммерции, используя «нейтральный» язык для описания своих пожеланий.

Исследователи нашли на каждой из сгенерированных страниц тёмные паттерны: срочные сообщения, выделение важных элементов, поддельные отзывы и другие хитрости. Единственный случай, когда пользователей предупредили о чём-то, был редкостью.

Учёные повторили эксперимент с другими LLM и получили такие же результаты. Они считают, что это показывает, насколько часто люди используют тёмные паттерны на своих сайтах. По их мнению, это стало нормой. Они предлагают пользователям требовать регулирования веб-страниц, чтобы избежать таких манипуляций в будущем.