新闻
OpenAI 預覽 Ultrafast 服務 GPT-5.6 Sol 提速高達 14 倍
1 分钟阅读
OpenAI 正在預覽一種以更高速度運行其最強 GPT-5.6 模型的新方式。該公司表示,新的 Ultrafast 服務層可以讓 GPT-5.6 Sol 的運行速度比標準處理高出最多 14 倍。 運作方式 Ultrafast 模式首先通過 OpenAI API 推出,並由 Cerebras 驅動。它每秒可生成最多 750 個輸出 Token,有潛力將前沿水平性能帶到延遲與模型智能同等重要的工作流程。 模型背景 OpenAI 在六月推出 GPT-5.6 Sol,同系列還有平衡型 Terra 和速度型 Luna。整個模型家族已在七月全面開放,包括透過 ChatGPT、Codex 和 API 使用。 應用與限制 OpenAI 認為 Ultrafast 可支持即時或接近生產的任務,包括語音、客戶支援、商業、開發者代理、金融研究和安全回應。該公司表示,其自家開發者曾用它在事故期間分析日誌和追蹤記錄,並將以往需要徹夜運行的研究週期壓縮為工作日內多次迭代。目前服務僅限特定客戶使用,同時 OpenAI 評估新增速度對實際產品帶來的改變並擴展容量。企業可透過分享工作負載、延遲要求、預期用量等資料加入候補名單。