Baidu Wenxin представила ERNIE 5.5 Flash Preview; веса будут открыты до 25 ноября.

Согласно информации IT Home, Baidu официально представила новую версию большой языковой модели ERNIE — ERNIE 5.5 Flash Preview. Это первая версия, прошедшая постобучение после выпуска базовой модели. Общее количество параметров модели составляет 280 млрд, активных параметров — 14 млрд, размер контекстного окна поддерживается до 1 млн токенов. Модель демонстрирует выдающиеся результаты в задачах программирования, трёхмерного моделирования, интеллектуальной работы и создания контента. ERNIE 5.5 Flash Preview обеспечивает баланс между интеллектуальными возможностями и эффективностью логических рассуждений; её показатели в ряде эталонных тестов конкурентоспособны на отраслевом уровне, при этом сохраняется высокая скорость декодирования. В настоящее время API модели уже интегрирован в платформу Qianfan; веса модели планируется опубликовать с открытым исходным кодом до 25 ноября. Baidu подчёркивает, что данная версия представляет собой промежуточный результат этапа постобучения: хотя она уже продемонстрировала высокую конкурентоспособность среди моделей аналогичного размера, из-за ограниченной продолжительности обучения некоторые её функции могут быть ещё недостаточно сходимыми.