«Яндекс» представил новое поколение YandexGPT, своего генеративного ИИ для работы с текстом. Модели YandexGPT 4 научились рассуждать и обрабатывать в четыре раза больше текста.
Линейка YandexGPT 4 состоит из двух версий — Pro и Lite. Обе превосходят по качеству ответов предыдущие версии, способны рассуждать и обрабатывать в четыре раза более длинные запросы — порядка 60 страниц текста.
Сейчас модели доступны по API в Yandex Cloud, но часть их функций работает в тестовом режиме. «Яндекс» предлагает попробовать «демо» новых моделей в чате на платформе Yandex Cloud.
«Новые модели применимы в разных сферах бизнеса. С их помощью можно сортировать письма и заявки клиентов, анализировать резюме и решать другие задачи, связанные с обработкой текста. Версия Pro больше подходит для сложных трудоёмких задач — например, анализа продаж. Lite будет полезна в более простых сценариях, где важна скорость ответа»— рассказывают в пресс-службе компании
По качеству ответов Pro-версия YandexGPT 4 обходит модели прошлого поколения в среднем в 70% случаев, а в некоторых типах задач — например, в ответах на открытые вопросы, — вплотную приближается к GPT-4o от OpenAI.
Версия Lite по возможностям равна самой мощной модели «Яндекса» прошлого поколения. Такого результата добились за счёт улучшения процесса обучения — в частности, разработчики научили нейросеть рассуждать.
«Рассуждение» в YandexGPT 4 достигается посредством функции chain-of-thought — перед тем, как ответить на сложный вопрос, нейросеть разбивает задачу на более простые и решает их пошагово, выстраивая цепочку рассуждений.
Это улучшает качество ответов и помогает ИИ отвечать на вопросы, которые требуют анализа. «Яндекс» обещает, что в будущем в API появится возможность включать скрытые рассуждения для всех запросов.
По статистике, доля ошибок в YandexGPT 4 (в том числе выдумывание фактов) снизилась почти в два раза — с 4% до 2,1%. Помимо этого, новые модели в среднем в два раза быстрее предыдущих отвечают на вопросы.
YandexGPT 4 также поддерживает работу с внешними приложениями. Например, если попросить ИИ найти билет на самолёт, он напишет команду для сервиса авиабилетов, чтобы тот запустил функцию поиска мест.
Генерация команд будет доступна в Yandex Cloud в скором времени, и тогда разработчики смогут использовать новые модели для работы с внешними приложениями.