Fireworks AI

产品介绍

Fireworks AI 由 Meta PyTorch 团队创立，专注开源大模型高速推理与微调。2026年年化收入 8 亿美元，服务 1 万+ 企业（Cursor、Perplexity、Notion 等）。日均处理 13 万亿 token，FireAttention 引擎在 B200 上对 DeepSeek V4 Pro 达 167 tokens/秒。

核心功能

• FireAttention 引擎：自研 CUDA 内核栈，比同类快 5 倍
• 400+ 开源模型：Llama、DeepSeek、Qwen、Kimi、GLM、FLUX 等
• 托管微调：SFT/DPO/RFT，支持 LoRA 与全参数，100 个 LoRA 同价部署
• Serverless 按量：>16B $0.90/1M；DeepSeek V4 Pro $1.74/$3.48
• On-Demand 专用：H100 $7/h，H200 $7/h，B200 $10/h，B300 $12/h
• MCP Responses API：服务端完成 Agent 循环
• 零数据留存：默认不记录 prompt

API 调用示例

from openai import OpenAI
client = OpenAI(api_key="xxx", base_url="https://api.fireworks.ai/inference/v1")
response = client.chat.completions.create(
    model="accounts/fireworks/models/deepseek-v3p1",
    messages=[{"role": "user", "content": "Say hello in Spanish"}],
)
print(response.choices[0].message.content)

典型使用场景

• 代码补全（Cursor）
• 企业搜索与 RAG（Perplexity）
• Agent 工作流
• 批量离线推理（50% 折扣）
• 微调定制模型

平台支持

OpenAI/Anthropic 双兼容端点，Python/Node SDK，SOC 2/HIPAA/GDPR 认证。