PhoneLM: небольшая языковая модель для смартфонов

Крупные языковые модели, такие как ChatGPT от OpenAI, пользуются большой популярностью благодаря своей способности быстро находить информацию и генерировать тексты. Однако их использование требует мощных компьютеров, что связано с большими затратами ресурсов.

Для решения этой проблемы были разработаны небольшие языковые модели (SLM), которые можно внедрять в смартфоны. Исследователи из Пекинского университета почты и телекоммуникаций представили PhoneLM — новую архитектуру SLM для смартфонов, которая сочетает в себе высокую производительность и эффективность.

PhoneLM не требует предварительного обучения на текстовых данных и может достичь почти оптимальной эффективности, что делает его привлекательным для широкого круга пользователей.