在人工智能領域，Together AI 最近宣布完成了一輪高達3.05億美元的B 輪融資，這一消息迅速引起了業界的廣泛關注。該公司的快速崛起與其最新推出的深度推理模型DeepSeek-R1 密切相關。與最初的擔憂相反，許多行業專家認為，深度推理技術的進步不僅沒有降低對基礎設施的需求，反而在不斷提升這一需求。
自2023年成立以來，Together AI 的使命是簡化企業對開源大型語言模型（LLM）的使用。隨著時間的推移，該公司逐步擴展其平台，推出了名為“Together 平台”的解決方案，支持在虛擬私有云和本地環境中部署AI。 2025年，Together AI 進一步增強了其平台功能，推出了推理集群和自主智能（Agentic AI）能力。
據Together AI 的CEO Vipul Prakash 介紹，DeepSeek-R1 的參數量高達6710億，這使得其運行推理時的成本不容小覷。為了滿足越來越多的用戶需求，Together AI 推出了“推理集群”服務，為客戶提供從128到2000顆芯片的專用計算能力，以確保模型的最佳性能。此外，DeepSeek-R1 的請求處理時間通常較長，平均可達兩到三分鐘，這也導致了基礎設施需求的增加。
在推理模型的應用方面，Together AI 看到了一些具體的使用場景，如編碼代理、減少模型的幻覺現像以及通過強化學習實現模型的自我提升。這些應用不僅提升了工作效率，還改善了模型輸出的準確性。
此外，Together AI 還收購了CodeSandbox，以增強其在自主智能工作流程方面的能力。這一收購使得其能夠在雲端快速執行代碼，降低了延遲，提高了代理工作流的性能。
面對激烈的市場競爭，Together AI 的基礎設施平台正在不斷優化，其新一代Nvidia Blackwell 芯片的部署，將為模型的訓練和推理提供更高的性能和更低的延遲。 Prakash 指出，與Azure 等其他平台相比，Together AI 的推理速度顯著提高，極大滿足了客戶對高性能AI 基礎設施的需求。
劃重點:
Together AI 獲得3.05億美元融資，推動深度推理模型的發展。
DeepSeek-R1 的複雜性使得基礎設施需求顯著增加，推出了“推理集群”服務以滿足市場需求。
新收購的CodeSandbox 和Nvidia Blackwell 芯片將進一步提升Together AI 的市場競爭力。