Исследователи разрабатывают метод, позволяющий LLM отвечать на вопросы более кратко и точно

Большие языковые модели (LLM) стали незаменимыми для ответов на самые разные вопросы, особенно в финансах, здравоохранении и образовании. Однако их работа основана на заранее обученных знаниях, что может приводить к длинным и избыточным ответам с недостаточной контекстной информацией. LLM также оценивают достоверность своих ответов, но эти оценки не всегда точны.

Группа исследователей из Японского института передовых наук и технологий разработала метод «Генерация префиксов ответов» (ANSPRE), который повышает качество генерации LLM, обеспечивая точные ответы и надежные оценки достоверности.

Он может быть интегрирован в любую LLM и будет представлен на ECAI-2024 в Сантьяго-де-Компостела, Испания. Основная идея ANSPRE — добавление префикса текста к запросу LLM для получения более точного ответа.