NVIDIA Chat with RTX。
目前市場上主要的 AI 應用,主要仍集中在利用伺服器端運算的雲端 AI 應用服務,不過隨著個人電腦在 AI 算力的提升,可在個人電腦使用的 AI 應用也逐漸增加,NVIDIA 稍早就釋出了年初在 CES 展前公布的 NVIDIA Chat with RTX 應用,只要電腦具備 RTX 30/40 系列顯示卡,就能夠下載 NVIDIA Chat with RTX 在個人電腦上運作 AI。
NVIDIA Chat with RTX 的系統需求。
NVIDIA Chat with RTX 主要使用 Llama 2 與 Mistral 兩種大型語言模型,可與使用者自己的內容(如文件、記事、影片等資料)進行連接,直接在 Chat with RTX 進行相關的資料搜尋,相比以往需要記住特定檔名搜尋內容的使用方式,對於擁有大量文件、資料(或是記不得檔案裡有甚麼東西)的使用者,透過 Chat with RTX 來找相當方便,以下是 NVIDIA 官方對於 Chat with RTX 的影片介紹:
目前 Chat with RTX 支援的文件格式包括純文字文件、PDF、doc/docx 以及 xml。除了文字內容外,Chat with RTX 也支援了 Youtube 的影片的內容搜尋,使用者只要輸入影片清單的連結,Chat with RTX 就會進行影片內容的分析,並且在之後的搜尋提供建議。
目前 Chat with RTX 已經在 NVIDIA 官網上提供下載(下載連結,檔案容量有 35 GB 有點大),如果有興趣的夥伴可以下載下來試試看囉。