Together AI

产品介绍

Together AI 是全球最大的开源模型推理云平台，由斯坦福大学教授 Percy Liang、Chris Re 等人于 2022 年创立。提供 200+ 开源模型的统一 API 访问，涵盖 Llama、DeepSeek、Qwen、Mistral 等主流模型家族。2026 年年化收入约 10 亿美元，服务超过 45 万开发者，是开源 AI 生态的核心基础设施。

核心功能

• 200+ 开源模型：全球最丰富的开源模型库
• OpenAI 兼容 API：两行代码切换，零迁移成本
• Serverless + 专属 GPU：灵活选择按量或独占资源
• 研究级推理优化：首席科学家 Tri Dao 开发的 FlashAttention 等内核
• 模型微调：支持 SFT 和 RLHF 定制
• 200MW 算力规模：自有 GPU 云，成本可控

API 调用

from openai import OpenAI

client = OpenAI(
    api_key="your-together-key",
    base_url="https://api.together.xyz/v1"
)
response = client.chat.completions.create(
    model="meta-llama/Llama-4-Maverick",
    messages=[{"role": "user", "content": "Hello"}]
)
print(response.choices[0].message.content)

典型使用场景

• 需要灵活切换多个开源模型的应用
• 开源模型微调和定制
• 成本敏感的大规模推理
• AI 应用原型开发和 A/B 测试

平台支持

全球可用，支持 Serverless 和 Dedicated GPU 两种模式。