Исследователи из Apple считают, что искусственный интеллект по-прежнему остаётся в основном иллюзией

Исследователи из Apple Computer Company нашли доказательства того, что кажущиеся разумными ответы больших языковых моделей на основе ИИ — иллюзия. В статье, опубликованной на сервере препринтов arXiv, они утверждают, что модели не способны к подлинному логическому мышлению.

В новом исследовании учёные проверили модели на способность понимать вопросы, косвенно предлагая им игнорировать ненужную информацию. Они задали моделям сотни вопросов, добавив несущественную информацию, и обнаружили, что это сбило их с толку и заставило давать неправильные ответы на вопросы, на которые они ранее отвечали правильно.

Это показывает, что модели не понимают вопросы, а распознают структуру предложения, выдавая ответ на основе алгоритмов машинного обучения.