字節跳動旗下的火山引擎召開發布會，首次正式公布在大模型領域的研發布局和合作進展，并發布大模型服務平臺“火山方舟”，提供模型訓練、推理、評測、精調等全方位功能與服務。

“火山方舟”由字節跳動旗下火山引擎搭建，提供了一個大模型服務平臺，供開發者和企業使用。其運營模式是，在一個平臺內提供多個模型，企業可同步試用多個大模型，選用更適合自身業務需要的模型組合。

對模型提供方，通過 “火山方舟”能夠以更低的成本觸達海量客戶，更小的代價在ToB市場實現規模化；嚴謹的安全互信機制，兼顧靈活性與安全性；源源不斷的算力，形成最具競爭力的性價比。對模型使用者來說，通過 “火山方舟”可以便捷地接觸到眾多高質量的基座模型，一站式對接多家模型提供商，為不同場景選擇最合適的模型。

具體來看，“火山方舟”基于大模型應用的工作習慣，打造了多個核心部分。“模型廣場”會有不同的模型供應商提供不同版本和尺寸的模型，用戶可以直接與模型交互，調用推理API，接入生產環境；“模型評估”是“火山方舟”重點打造的環節入口，用戶可以基于業務需求設計一套可量化的評估指標，在模型評估后挑選最合適的模型；“模型精調”可以幫助客戶利用自有數據進行持續訓練，建設和積累自己的精調數據集，降低推理成本。

目前，抖音集團內部已有十多個業務團隊試用“火山方舟”，在代碼糾錯等研發提效場景，文本分類、總結摘要等知識管理場景，以及數據標注、歸因分析等方面探索，利用大模型能力促進降本增效。這些內部實踐在快速打磨“火山方舟”，推動平臺能力的進一步完善。

此外，為促進模型提供方和模型使用方的互信，“火山方舟”上線了基于安全沙箱的大模型安全互信計算方案，利用計算隔離、存儲隔離、網絡隔離、流量審計等方式，實現了模型的機密性、完整性和可用性保證，適用于對訓練和推理延時要求較低的客戶。