Французская компания Mistral представила свои первые генеративные модели искусственного интеллекта, созданные для использования на устройствах с ограниченными вычислительными возможностями, таких как ноутбуки и смартфоны. Эти модели входят в серию под названием «Les Ministraux» и способны решать широкий спектр задач — от создания текстов до взаимодействия с более мощными моделями для выполнения комплексных заданий.

В настоящее время доступны две модели: Ministral 3B и Ministral 8B. Обе модели способны обрабатывать контекстное окно в 128 000 токенов, что соответствует объёму текста, равному 50 страницам книги. Это позволяет им эффективно работать с большими объемами данных, не теряя важного контекста, что имеет особое значение для решения сложных вычислительных задач.

Компания Mistral утверждает, что их новые модели спроектированы для сценариев, где критически важны низкая задержка и высокая вычислительная эффективность. К таким сценариям относятся перевод на устройстве, локальные интеллектуальные помощники, работа без подключения к интернету, автономная робототехника и локальная аналитика.

Ministral 8B теперь доступна для скачивания, однако исключительно для исследовательских целей. Для коммерческого применения разработчики и компании должны обратиться в Mistral для получения лицензии. В скором времени обе модели — Ministral 3B и Ministral 8B — будут доступны через облачную платформу стартапа Le Platforme, а также через облачные сервисы партнёров.

Стоимость использования этих моделей весьма привлекательна: Ministral 8B обойдётся в 10 центов за миллион токенов (примерно 750 000 слов), а Ministral 3B — всего 4 цента за такой объем. Это делает их отличным выбором для масштабируемых проектов, где критично важно сократить расходы на обработку и генерацию данных.