AI HARDWARE / 代理運算機櫃
電腦硬體AMD Helion 代理運算機櫃：CPU 與 GPU 可分工，預計 11 月供應
AMD 公布 Helion 機櫃藍圖，讓合作夥伴依代理執行與模型推論需求配置 CPU、GPU 及散熱方式，目前仍在開發階段。
消息重點
- 公告列出兩種配置方向：CPU 專用機櫃負責代理執行並連接獨立推論資源；整合式機櫃則結合 EPYC、Instinct MI350P 與通用運算。
- CPU 專用範例採第六代 EPYC，官方描述單櫃最高 32,768 個 CPU 核心；這是配置上限，不能換算為實際代理吞吐量。
- 藍圖以 OCP 規格設計為基礎，包含氣冷與液冷選項；AMD 表示計畫向 OCP 貢獻 Helion 規格。
依據：Introducing AMD Helion, Agentic AI Compute at Rack Scale ↗
本站觀察
本站觀察：代理除了呼叫模型，也會跑工具、處理檔案與協調工作。把這些 CPU 任務和 GPU 推論分開估算，有助於找出資源瓶頸；對小型團隊，先量測既有環境的等待時間，比照搬機櫃規模更實用。
來源與更正
本文為官方消息摘要及本站觀察，非廠商合作稿，也非本站硬體實測。產品條件與支援範圍以官方最新資料為準。