cruiseton wrote:
蘋果M5晶片採用統一...(恕刪)
你拿高階macbook pro m5 max機型價格,用低階機型的ram 頻寬來比啊
Top M5 Max config (40-core GPU) → 614 GB/s , m5 max我都嫌慢了.
這些規格東西花幾秒叫隨便AI搜一下就有了
AMD這台才256GB/s你知道256有多慢嗎, 跑個27b dense in full precision-weights,KV, TG能不能跑到10 t/s我都懷疑, 換算一下每秒不到五個英文字, 同樣prefill也慢, 塞大文件等到吐
我看你也沒tune過local model吧
多講也無意義
感謝分享&介紹,現在AI主機真是越來越強大
























































































