在人工智能领域，Together AI最近宣布完成了一轮3.05亿美元的B轮融资，这一消息迅速引发了业界的广泛关注。这家公司的崛起与其新推出的深度推理模型DeepSeek-R1紧密相连。尽管最初存在担忧，但众多行业专家认为，深度推理技术的进步并未减少对基础设施的需求，反而使得这一需求持续增长。

GPU 芯片 (2)

图源备注：本图由AI生成，图片授权来自Midjourney

自2023年成立以来，Together AI致力于简化企业对开源大型语言模型（LLM）的使用。随着时间的推移，公司逐步扩大其平台功能，推出了“Together平台”，支持在虚拟私有云和本地环境中部署AI。2025年，Together AI进一步增强了平台功能，推出了推理集群和自主智能（Agentic AI）能力。

据Together AI首席执行官Vipul Prakash介绍，DeepSeek-R1的参数量高达6710亿，这使得其运行推理时的成本较高。为了满足不断增长的客户需求，Together AI推出了“推理集群”服务，提供从128到2000颗芯片的专用计算能力，确保模型的最佳性能。此外，DeepSeek-R1的请求处理时间较长，平均可达两到三分钟，这也导致了基础设施需求的增加。

在推理模型的应用方面，Together AI已观察到一些具体的使用场景，包括编码代理、减少模型的幻觉现象以及通过强化学习实现模型的自我提升。这些应用不仅提高了工作效率，还改善了模型输出的准确性。

此外，Together AI还收购了CodeSandbox，以增强其在自主智能工作流程方面的能力。这一收购使得其能够在云端快速执行代码，降低延迟，提升代理工作流的性能。

面对激烈的市场竞争，Together AI的基础设施平台正在不断优化。新一代Nvidia Blackwell芯片的部署，将为模型的训练和推理提供更高的性能和更低的延迟。Prakash指出，与Azure等其他平台相比，Together AI的推理速度显著提高，极大地满足了客户对高性能AI基础设施的需求。

划重点:

🌟 Together AI获得3.05亿美元融资，助力深度推理模型发展。

📈 DeepSeek-R1的复杂性导致基础设施需求显著增长，推出“推理集群”服务满足市场需求。

🚀 新收购的CodeSandbox和Nvidia Blackwell芯片将进一步提升Together AI的市场竞争力。