來源:ChatGPT 或被迫暫停發布,因 OpenAI 被指違反 FTC 法案
投訴方人工智慧與數位政策中心的主席 Marc Rotenberg 也簽署了叫停超強 AI 訓練的公開信。
Elon Musk 牽頭的叫停 AI 訓練公開信才發出不久,這一輪 AI 熱潮的代表企業 OpenAI 又迎來了公開挑戰。早先非營利組織人工智慧與數位政策中心向美國 FTC 提出投訴,稱 OpenAI 發布的 GPT-4 等大型語言 AI 模型違反了 FTC 法案。其給出的理由是這些模型「存在偏見和欺騙性」,而且會威脅到隱私和公共安全,同時也不符合 FTC 對 AI 透明、公平和易於理解的要求。
該中心希望 FTC 對 OpenAI 進行調查,並暫停大型語言模型接下來的發布,直到其達到 FTC 的指導標準。他們還提出 OpenAI 在推出 GPT 產品和服務前必須引入獨立審核,並建議 FTC 建立一套事件報告系統和生成式 AI 的正式標準。對於此事 FTC 和 OpenAI 暫時都還沒有給出回應。
值得一提的是,人工智慧與數位政策中心的主席 Marc Rotenberg 也簽署了開頭提到的公開信。他主張人工智慧研究人員停工六個月,以留出時間對超強 AI 的倫理問題進行研究和討論。目前 ChatGPT 類機器人的風頭可謂一時無兩,但坊間已有不少批評的聲音,認為其輸出結果存在錯誤、偏見、仇恨言論等問題。實際上,OpenAI 自己也警告過 AI 可能會「強化」用戶的想法,無論其輸出的資訊是否正確。使用者應該要仔細檢查其內容,但在這一點上現在的用戶似乎並沒有那麼在意。
GuatingChua wrote:
不是這樣,以後沒有人會深入學習。學習的目的只是為了學習更好地使用AI。
今天發現很異樣的問題。
我一直以來的工作報告和書信都會用英文,有些正式有些平常。我從來不用懷疑我寫的英文書信會有任何不妥,當然也不需要擔心文法和拼字因為這是文書編輯軟體就替我搞定的事情。我今天特地用chatgpt問他一封信我寫的如何,他稱讚我寫得幾乎完美,有效地完成應該達成的目的,言下之意,這封信不需要它的幫忙。但我想試試它,我就請他改寫一封同樣內容的信。不試還好,試了發現它讓我遲疑該不該用它的字句。有些它寫的比較達意,但是我寫的還比較簡潔。試了兩次都比我原來的信篇幅還要多一段,一頁的信變成要印成兩頁。
這裡出現問題,1.當不需要AI的時侯,用了它,這是一種心理依賴。2.它的不會是最好的,譬如它不夠簡潔,但它能完成工作。3.出於對它的信任,不自覺會懷疑自己原本完美的東西。
這對原本就有知識的人,會降低知識之於這個人的的固有性,我的知識被抽離了,甚至最後知識水準下降而去接近AI。對於沒有知識的人(比如英文程度差的),又限制這個人的(英文)學習動機,受AI綁架。假如國中開始連背單字都不需要了,這將會是什麼情況?
我相信這已經是每天都在發生的事情了。
GuatingChua wrote:
不是這樣,以後沒有人...(恕刪)
我必須說,AI只是一個工具而已,沒那麼誇張,不要被科幻電影給灌迷湯了。
因為在過去的歷史上,1440年活字印刷剛被發明並開始傳播到歐洲各地,當時的天主教會也呼籲要暫停使用活字印刷機 6個月,因為他們難以想像當平民接觸到書籍會發生甚麼事,平民將可以自己閱讀聖經,社會就會被摧毀。
結果,活字印刷促成了宗教改革,並引發數十年的宗教戰爭,但活字印刷書籍也促成了啟蒙運動:識字、教育、科學、哲學、世俗主義和民主,所以社會確實有「被」摧毀,卻也變得更好了。
歷史上的今天》2月23日──西方活字印刷術發明者古騰堡 印刷完成首部《古騰堡聖經》
一流人專做開源未來事,二流人專做停滯不前淘汰事,三流人只做問題進行事,四流人只做同溫取暖裝傻事。
CAIDP指控的還有很多,如幫使用者做信用評分、提供負面效應的理財方案等等,46頁,花點耐心看,CAIDP可是做了非常詳細的測試。
The Center for Artificial Intelligence and Digital Policy (CAIDP)
君顏甚厚,汝母知否?
關閉廣告