Mistral AI представляет обновлённую модель Mixtral 8x22B
Дата: 17 апреля 2024 г.
Mistral AI продолжает расширять границы возможностей искусственного интеллекта, выпуская новую модель Mixtral 8x22B. Эта модель ставит новый стандарт производительности и эффективности в сообществе AI. Использование всего 39B активных параметров из 141B делает модель беспрецедентно экономичной для своего размера.
Особенности Mixtral 8x22B включают:
- Владение английским, французским, итальянским, немецким и испанским языками.
- Усиленные способности в области математики и программирования.
- Родная возможность вызова функций, обеспечивающая масштабное развитие приложений и модернизацию технологических стеков.
64K токенов контекстного окна обеспечивают точный поиск информации из крупных документов. Широкая доступность базовой модели делает её отличной основой для настроек под конкретные задачи. Скачать с торента по этой ссылке.
Mistral AI стремится к эффективности и предоставлению моделей, которые обеспечивают непревзойденную эффективность издержек для их размеров, поставляя лучшее соотношение производительности к затратам среди предоставляемых сообществом моделей.
Достижения Mixtral 8x22B в рассуждениях и познаниях оптимизированы, что позволяет модели обеспечивать высокую эффективность на широко распространённых бенчмарках общего здравого смысла, рассуждений и знаний. Модель также демонстрирует превосходную производительность в многоязычных способностях и задачах, связанных с программированием и математикой.
На сегодняшний день выпущена instruct-версия Mixtral 8x22B, которая показывает еще лучшую производительность в математических задачах.
Mistral AI объявляет о выпуске Mixtral 8x22B на условиях лицензии Apache 2.0, что делает модель доступной для использования без ограничений.
Сведения о том, как instruct-версия на архитектуре SMoE (sparse Mixture of Experts) улучшает эти показатели, на данный момент недоступны, но ожидается, что она будет дополнительно способствовать оптимизации задач и расширению функциональных возможностей модели.
Разработка в соответствии с этими принципами позволяет Mistral AI сохранять лидирующие позиции в инновациях AI и предлагать решения, способные полностью изменить представления о возможностях искусственного интеллекта.
Дополнительную информацию можно получить на официальном сайте Mistral AI.