教學與情報
Mac Studio M5 Ultra 512GB 香港購買指南:價錢、本地 AI 與升級分析

Mac Studio M5 Ultra 的 512GB 統一記憶體,適合需要在本機載入大型模型或處理極大型專業工作集的人,但不是一般 Mac Studio 用家的必需升級。Apple 香港商店列出的 36 核心 CPU、80 核心 GPU、512GB 記憶體及 1TB SSD 配置為 HK$170,999;這是整機配置價,不是記憶體升級費。選購前應先比較實際工作集、軟件相容性和總成本,而不只看最大記憶體數字。
這裏的 512GB 是工作時使用的統一記憶體,不是儲存檔案的 512GB SSD。更大容量有助容納資料,卻不保證模型回應夠快,亦不代表所有大型模型都能在這部機上運作。
香港價錢與主要規格
| 項目 | 512GB 配置 |
|---|---|
| Apple 香港配置價 | HK$170,999,配 1TB SSD |
| 晶片 | M5 Ultra,36 核心 CPU、80 核心 GPU |
| 統一記憶體 | 512GB;此容量需選上述 36 核心 CPU、80 核心 GPU 晶片 |
| 記憶體頻寬 | 1.2TB/s |
| SSD | 1TB 起,可選 2TB、4TB、8TB 或 16TB |
| 顯示器及配件 | 另售 |
Apple 香港購買頁所顯示的 16TB SSD 選項比 1TB 多 HK$56,250。商店同時列出以 256GB 取代 512GB 可減 HK$86,250;這個差額是同一選購頁所示配置差,不等於不同晶片或其他儲存容量的通用差價。配置頁可選擇上述配置並顯示價錢,但香港實際送達日期須在下單時確認;價錢及交貨安排亦可能改變。
Apple 香港技術規格列出 M5 Ultra 的標準記憶體為 96GB,亦有 256GB 選項;M5 Max 最高為 128GB,且 128GB 選項須配指定的 40 核心 GPU 晶片。比較時要一併檢查晶片、記憶體和 SSD,而不是把 Mac Studio 的一般起價當成 512GB 機型的售價。
512GB 統一記憶體有甚麼不同?
統一記憶體是 CPU 和 GPU 共用的記憶體池,而不是 512GB 系統記憶體加上另一份 512GB 獨立顯示記憶體。作業系統、應用程式、模型及其他工作都要使用同一池資源,所以不能假設全部容量都可留給模型。MLX 專案亦說明,其陣列可由支援的 CPU 和 GPU 操作,而不用在兩者之間複製資料。
容量和頻寬回答不同問題:容量決定可同時容納多少資料;頻寬描述資料傳輸能力,並非可用容量。Apple 列出的 1.2TB/s 是晶片規格,不是每個應用都能持續達到的實際讀取速度。即使模型可以載入,推理速度仍會受模型結構、量化方法、軟件實作和工作量影響。
SSD 則用來保存模型檔案、素材與其他資料。SSD 大小與統一記憶體大小不能互相替代:檔案能放進 SSD,不代表執行時所需的資料和緩衝區都放得進記憶體。記憶體不足時使用磁碟交換空間,也不應視為與足夠的實體記憶體有相同表現。
本地大語言模型:先算空間,再測速度
以簡化例子說明:假設一個有 700 億個參數的模型,所有權重均以每個參數恰好 4 bit 儲存,不計任何額外資料,純權重約佔 35GB,即約 32.6GiB。這只是算術估算,不是某個實際模型的測量值;量化格式的比例因子、未量化層和其他中繼資料都可能增加需求。
GB 和 GiB 不是相同單位:前者按十進位計算,後者按二進位計算。以十進位標示的 512GB 約相當於 476.8GiB,但這不是應用程式保證可用的記憶體。比較下載檔案、系統監察和硬件規格時,先統一單位,才能避免高估餘額。
下表以假想模型比較純權重容量,並非實測或對任何實際模型可運行的保證。假設所有參數都以相同位數儲存;GB 按十進位計算。
| 假想參數量 | 每個權重位數 | 純權重估算 | 容量判斷 |
|---|---|---|---|
| 700 億 | 4 bit | 35GB(約 32.6GiB) | 相對較低,仍須加上執行開銷 |
| 700 億 | 8 bit | 70GB(約 65.2GiB) | 比 4 bit 多佔空間,品質及支援視格式而定 |
| 7,000 億 | 4 bit | 350GB(約 326.0GiB) | 純權重已超過 256GB,但低於 512GB |
| 7,000 億 | 8 bit | 700GB(約 651.9GiB) | 純權重已超過 512GB |
例如 7,000 億參數、4-bit 假設下,256GB 連純權重也容不下;512GB 在帳面上還有約 162GB,卻要扣除格式、快取、系統及其他開銷,不能據此保證可執行。若長上下文或多個並發請求令總需求超出可用記憶體,512GB 也可能不足。相反,較小模型在所需精度、上下文及併發下,連同全部開銷和餘量均可放入 256GB,就未必需要支付最高容量的差價。
執行時還要預留以下空間:
- 權重以外的運算緩衝區、載入程序和量化格式開銷。
- KV cache:為重用先前 token 的 attention 資料而保留的快取;較長上下文、更多同時請求或較大批次可增加需求。
- macOS、其他程式、背景服務及圖像或文件處理所需記憶體。
- 實際應用的額外開銷和安全餘量,避免剛好能載入卻無法完成工作。
不同模型架構、上下文設定和推理框架的開銷可以相差很大。4-bit 亦不是免費壓縮:量化可能影響回答品質,必須以自己的任務評估。載入成功只證明某組設定能啟動,並不能證明長文件、多用戶及持續輸出的速度符合要求。
實際試用時,應使用預計採用的模型版本和量化格式,分別記錄短與長提示的首次回應時間、持續輸出速度、尖峰記憶體和同時請求下的表現。若主要工作是每天少量短對話,較小模型或較低記憶體配置可能已足夠;若需要長文件分析、較大模型與其他工具同時運行,額外容量才更有明確用途。
Apple 的 AI 效能數字代表甚麼?
Apple 在 Mac Studio 產品頁比較 M5 Ultra 與 M1 Ultra 時,提到最高 9.8 倍 AI 運算表現。其註腳的測試是首次 token 時間(time to first token),不是持續生成每秒 token 的速度。Apple 使用 8K token 提示、140 億參數 4-bit 量化模型和 LM Studio v0.4.19+2;測試的 M5 Ultra 配 36 核心 CPU、80 核心 GPU、512GB 記憶體,M1 Ultra 則配 20 核心 CPU、64 核心 GPU、128GB 記憶體,兩者均配 8TB SSD。
首次 token 時間涵蓋輸入處理至開始回應,與之後逐步生成文字的速度是不同指標。這項比較不等於每個模型、長度和軟件都有相同加速,也不能單獨證明 512GB 對較小模型的實際價值。工作流程若主要等待長答案輸出或多人同時使用,應另測持續輸出與併發表現。
推理不等於訓練:軟件相容性同樣重要
推理是用既有模型產生結果;訓練或微調則要處理額外的梯度、優化器狀態和中間資料。某個模型可以用特定量化版本推理,不代表同一部機可以按相同精度完整訓練它。是否能微調,取決於方法、模型、精度、批次及軟件,不能從記憶體容量直接推斷。
Apple silicon 上可考慮支援 Metal 或 MLX 的工具,但購機前要檢查所需模型格式、套件版本、加速功能及自訂算子。若現有流程依賴 NVIDIA CUDA,不能假設 Mac 會原生執行該套 CUDA 工作流程;應先確認是否有可用的 Mac 後端或替代方案,並計算遷移和維護成本。即使主要工作可以轉移,某些插件、模型或服務端工具仍可能需要另一個環境。
涉及敏感資料時,本地運算可減少把資料交給外部推理服務的需要,但並不自動保證私隱:下載模型、應用程式遙測、網絡連線、備份、存取權限和磁碟加密同樣要檢查。
創意工作者需要 512GB 嗎?
大型影片剪輯、視覺特效、三維場景及高解析度素材可能同時佔用記憶體,但應先找出瓶頸是在記憶體、素材讀取、GPU 運算,還是編碼輸出。記憶體多不會令所有匯出工作按比例加快;如現有工作從未接近記憶體限制,升級至 512GB 的實際回報可能有限。
較合理的做法是以最複雜的真實專案測試:開啟常用插件和其他應用,記錄記憶體壓力、交換空間、預覽流暢度及匯出時間,再比較較低記憶體配置。若工作經常同時處理大型場景、貼圖、模擬資料或多個應用,而記憶體壓力已影響交付,才有較充分理由考慮最高容量。
96GB、256GB、512GB 如何選?
- 96GB M5 Ultra:適合需要 Ultra 晶片及較大工作空間,但實測專案未接近記憶體限制的人。先確認所用模型及工作負載能否保留足夠餘量。
- 256GB M5 Ultra:適合 96GB 已不足、但模型及同時工作集仍能在 256GB 內運作的人。應連同所選 CPU、GPU 及 SSD 的實際總價比較。
- 512GB M5 Ultra:適合已確認較低容量無法容納目標工作集,或長上下文、多模型及併發需要大量餘量的專業用家。仍要以實際速度和軟件相容性決定。
- M5 Max:若工作負載能在其記憶體和性能範圍內完成,可把它納入比較;不要只因 Ultra 的最高數字較大而忽略實際需求。
經常外出而非固定在工作室工作的人,也可參考 MacBook Pro M6 香港購買指南。流動性和工作集容量是不同取捨,不應把兩者視作相同級別配置。
除機價外,還要預算甚麼?
Mac Studio 包裝包含主機和電源線;顯示器及配件另售。預算應計入顯示器、鍵盤、滑鼠、合適的外置儲存、備份、專業軟件、網絡設備和可能需要的保養。模型、影片原檔與專案檔都會佔用 SSD,選容量時要連同備份空間計算。
M5 Ultra 機身前方有兩個 Thunderbolt 5 連接埠及 SDXC 卡槽,方便接駁外置儲存或匯入相機素材;後方有四個 Thunderbolt 5、HDMI 和 10Gb Ethernet,可按顯示器、儲存及網絡設備規劃接線。實際顯示輸出及外置裝置速度仍要視乎設備、線材和連接方式。
亦可比較按需租用雲端 GPU 或使用 NVIDIA 工作站。前者避免一次過購買昂貴硬件,但要考慮使用時間、資料傳輸、儲存、權限和服務條款;後者可能較適合依賴 CUDA 的工具鏈,但配置、顯示記憶體和價格須按實際產品比較。不要只比較單一規格,應以預期使用年期內的總支出和可接受等待時間作決定。
常見問題
512GB 記憶體是否等於 512GB SSD?
不是。前者是 CPU 和 GPU 共用的工作記憶體;後者是長期儲存空間。上述香港配置配的是 512GB 統一記憶體和 1TB SSD。
512GB 是否可以運行所有大型 AI 模型?
不可以保證。能否載入和正常運作取決於模型權重、格式、上下文、快取、軟件及可用記憶體;能運行亦不等於速度或品質一定符合需求。
可否直接取代 NVIDIA 或雲端伺服器?
視乎工作。若模型及工具支援 Mac,並且容量、速度和併發符合要求,本機是可考慮的方案;若依賴 CUDA 或特定服務端功能,則需要先驗證替代流程。
應否為未來需要直接買滿 512GB?
先用真實工作量確認較低容量的限制,再衡量差價。最高容量買到的是額外空間,不是所有工作均可用的性能保證。
總結
512GB Mac Studio 的核心價值,是讓特定大型工作集有機會留在單機的共享記憶體內;其高昂價格亦令驗證變得更重要。購買前先列出目標模型或專案、所需上下文與併發、必用軟件,以及可接受的回應和交付時間,再比較較低容量、雲端和其他工作站的完整成本。