在人工智能领域，Together AI 最近宣布完成了一轮高达3.05亿美元的 B 轮融资，这一消息迅速引起了业界的广泛关注。该公司的快速崛起与其最新推出的深度推理模型 DeepSeek-R1 密切相关。与最初的担忧相反，许多行业专家认为，深度推理技术的进步不仅没有降低对基础设施的需求，反而在不断提升这一需求。
自2023年成立以来，Together AI 的使命是简化企业对开源大型语言模型（LLM）的使用。随着时间的推移，该公司逐步扩展其平台，推出了名为“Together 平台”的解决方案，支持在虚拟私有云和本地环境中部署 AI。2025年，Together AI 进一步增强了其平台功能，推出了推理集群和自主智能（Agentic AI）能力。
据 Together AI 的 CEO Vipul Prakash 介绍，DeepSeek-R1 的参数量高达6710亿，这使得其运行推理时的成本不容小觑。为了满足越来越多的用户需求，Together AI 推出了“推理集群”服务，为客户提供从128到2000颗芯片的专用计算能力，以确保模型的最佳性能。此外，DeepSeek-R1 的请求处理时间通常较长，平均可达两到三分钟，这也导致了基础设施需求的增加。
在推理模型的应用方面，Together AI 看到了一些具体的使用场景，如编码代理、减少模型的幻觉现象以及通过强化学习实现模型的自我提升。这些应用不仅提升了工作效率，还改善了模型输出的准确性。
此外，Together AI 还收购了 CodeSandbox，以增强其在自主智能工作流程方面的能力。这一收购使得其能够在云端快速执行代码，降低了延迟，提高了代理工作流的性能。
面对激烈的市场竞争，Together AI 的基础设施平台正在不断优化，其新一代 Nvidia Blackwell 芯片的部署，将为模型的训练和推理提供更高的性能和更低的延迟。Prakash 指出，与 Azure 等其他平台相比，Together AI 的推理速度显著提高，极大满足了客户对高性能 AI 基础设施的需求。
划重点:
Together AI 获得3.05亿美元融资，推动深度推理模型的发展。
DeepSeek-R1 的复杂性使得基础设施需求显著增加，推出了“推理集群”服务以满足市场需求。
新收购的 CodeSandbox 和 Nvidia Blackwell 芯片将进一步提升 Together AI 的市场竞争力。