Исследование сходства языковых моделей ChatGPT и других LLM с нейронными процессами мозга

Большие языковые модели (LLM), включая ChatGPT, стали лучше обрабатывать и генерировать речь, но степень их сходства с нейронными процессами мозга остается неизвестной. Ученые провели исследование, чтобы понять это. Их результаты показывают, что LLM становятся всё более эффективными и похожими на мозг по мере своего развития.

Исследователи изучили 12 моделей с открытым исходным кодом и нейронные реакции пациентов на речь, записываемые с помощью электродов. Они сопоставили эти данные с внутренними представлениями LLM, извлеченными из той же речи, и попытались предсказать нейронные реакции на основе этих представлений.

Исследование показало, что более мощные LLM (например, ChatGPT) имеют более схожие представления с мозгом, особенно в верхних слоях, где формируются абстрактные языковые представления.