Как исправить ошибки искусственного интеллекта из-за ложных корреляций

Искусственный интеллект (ИИ) иногда делает неправильные выводы из-за «ложных корреляций». Это значит, что он принимает решения на основе неважной или даже ошибочной информации.

Недавно учёные нашли способ решить эту проблему. Они показали, как можно исправить ошибки ИИ, даже если не знаешь, какие именно данные его запутали.

Чон Ын Ким, автор исследования, говорит, что этот метод новый и может быть полезен в разных ситуациях. Если вы понимаете, что ИИ ошибается из-за ложных данных, то можете легко исправить ситуацию. Но даже если вы не знаете, почему ИИ работает плохо, вы всё равно можете проверить, есть ли у него ложные корреляции.

Ложные корреляции возникают, когда ИИ обучают на слишком простых примерах. Например, если ИИ учат распознавать собак, то он видит только фотографии собак и получает подтверждение, что это действительно собаки.