Mistral Mixtral 8x22B

产品介绍

Mistral Mixtral 8x22B 是 Mistral AI 开源的细粒度 MoE 大模型，141B 总参数 / 39B 激活参数，8 个专家选 2 个。64K 上下文窗口，Apache 2.0 许可支持商用。预训练数据 12 万亿 token（文本+代码），HumanEval 70.1% 超越 CodeLLaMA-70B，适合代码生成、RAG 与企业私有化部署。

核心功能

• 细粒度 MoE：8 专家选 2，组合丰富
• 141B 总参数 / 39B 激活：高效推理
• 64K 上下文：长文档处理
• Apache 2.0：完全开源商用
• 12 万亿 token 预训练：文本+代码
• HumanEval 70.1%：超越 CodeLLaMA-70B

API 调用示例

from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key="YOUR_OPENROUTER_API_KEY"
)

response = client.chat.completions.create(
    model="mistralai/mixtral-8x22b-instruct",
    messages=[
        {"role": "user", "content": "解释 MoE 架构的优势"}
    ]
)
print(response.choices[0].message.content)

本地部署：ollama run mixtral:8x22b

定价：开源权重免费；通过 OpenRouter：输入 $0.65/百万 token，输出 $0.85/百万 token。

典型使用场景

• 代码生成与 SQL 开发
• RAG 检索增强生成
• 企业私有化部署
• 多语言对话与翻译

平台支持

HuggingFace 自部署（mistralai/Mixtral-8x22B-Instruct-v0.1）、OpenRouter、Together AI、Azure AI、Amazon Bedrock。Apache 2.0 许可。