Delphi: модель искусственного интеллекта с человеческими моральными ценностями

Усовершенствованные инструменты ИИ, такие как ChatGPT, активно используются миллионами людей по всему миру. Однако возникает необходимость в этических и моральных фильтрах для предотвращения предоставления агентами неправильных ответов.  

Исследователи из Вашингтонского университета и Института искусственного интеллекта Аллена разработали модель Delphi для изучения возможности внедрения человеческих моральных ценностей в ИИ. Она способна прогнозировать моральные суждения на основе краудсорсингового учебника по этике, хотя и подвержена ошибкам, связанным с предубеждениями.  

Цель проекта — вдохновить другие исследовательские группы на разработку инклюзивных, этичных и социально ориентированных систем ИИ.