在 NVIDIA 公佈了可在個人電腦端運算 AI 大型語言模型(LLM)的 Chat with RTX 應用(請見:專屬個人 AI 應用登場!NVIDIA Chat with RTX 開放下載試用)後,AMD 也不落人後,在今天在官方部落格上也釋出了在 Ryzen 處理器搭配 Radeon 顯示卡的個人電腦上執行運用 LLM 模型的 GPT 聊天 AI 的方法,包括具備 XDNA 架構 NPU 的 Ryzen 系列 7000 CPU、Ryzen 8000 APU 處理器,以及具備 AI 加速元件的 Radeon 7000 系列顯示卡都能使用。
AMD 在官方部落格上針對自家 Ryzen 處理器以及 Radeon RX 顯示卡提供 AI 執行應用。
AMD 在官方部落格上提供了兩種不同的 LM Studio AI 聊天機器人模型提供下載,在Ryzen 處理器部分提供 LM Studio Windows 版本,而在 Radeon RX 7000 系列顯示卡部分則是提供 LM Studio 的 ROCm 技術預覽版,使用者僅需要下載後選擇想要運行的 LLM 模型,就可以在自己的電腦上打造屬於自己的聊天機器人。
而在使用的 LLM 模型部分,在 AMD 提供的版本中提供了 Mistral 7b 以及 LLAMA v2 7b 兩種,使用者也可以套用自己的模型進行推論運算,在官方部落格中也提供了建議的操作步驟,讓使用者可以很快的上手使用。
而在 NVIDIA 跟 AMD 相繼推出個人化 AI 的應用後,也可看出比起過去依賴雲端伺服器的大型 AI 運算,隨著新款支援 AI 推論運算的硬體逐漸登場,個人化的 AI 應用將會越來越常見,或許又將是一波個人資訊運用型態的改變浪潮。
AMD 官方部落格連結