Искусственный интеллект можно настроить на политическую позицию

Исследователи разработали PoliTune для адаптации LLM под конкретные идеологии. Инструмент позволяет настраивать модели, такие как ChatGPT, для выражения твёрдых мнений по социальным и экономическим темам, отличающихся от нейтральных. Это вызывает этические вопросы о влиянии ИИ на общество и науку.

На конференции AIES 24 исследователи представили, как создавать наборы данных с разными политическими взглядами и использовать эффективную параметрическую тонкую настройку для изменения LLM без полной переработки. Модели учатся понимать противоположные точки зрения и корректировать ответы в пользу одной из них.

Для этого использовались данные с политически предвзятых платформ. Результаты оценивались с помощью GPT-оценки и «Политического компаса».