LangBiTe: инструмент для оценки предвзятости генеративных моделей ИИ

Генеративные модели ИИ, такие как ChatGPT, обучаются на данных из интернета и могут иметь вредные или дискриминационные предубеждения. Исследователи из Открытого университета Каталонии (UOC) и Люксембургского университета разработали программу LangBiTe с открытым исходным кодом для оценки предвзятости моделей и их соответствия законодательству.

LangBiTe был создан не для коммерческих целей, а для разработчиков и пользователей генеративного ИИ. Он должен помочь выявлять и устранять предвзятость в моделях для создания более совершенных ИИ.

Серхио Моралес, исследователь из исследовательской лаборатории Som в Междисциплинарном интернет-институте UOC (IN3) объяснил, что инструмент был разработан для выявления и устранения предвзятости, а также для создания более совершенных ИИ.