OpenAI創(chuàng)始人：AI可能毀滅人類 必須開發(fā)新技術來解決
2023-03-29 08:47:29 財聯社OpenAI創(chuàng)始人兼首席執(zhí)行官Sam Altman上周六（3月25日）在接受科技博客主Lex Fridman的采訪時表態(tài)，他不會回避“人工智能可能殺死全人類”的說法。
在Youtube平臺公布的視頻中，Fridman在訪談中提到了人工智能研究者、LessWrong研究所創(chuàng)始人Eliezer Yudkowsky的觀點。
Yudkowsky此前指出“人工智能可能殺死所有人”，并認為，當人工智能發(fā)展為超級智能時，幾乎無法與人類站在統(tǒng)一戰(zhàn)線上。
對于此，Altman回應道，“我認為有這種可能性，并且承認這一點很重要，因為如果我們不談論它、不把它視為潛在的事實，那么我們就不會投入足夠的努力去解決這個問題。”
“我認為我們必須開發(fā)新的技術來解決這個問題…我所知道的解決這類問題的唯一方法就是不斷迭代，盡早學習。”
GPT的推理能力
在此次采訪中，Altman提出了一點關于GPT的新穎之處，即推理能力。
“這個模型的神奇之處在于…對于很多它都不準確的定義，它可以進行某種推理。”
Altman指出，“我認為這很了不起，最令人興奮的是，在提取人類知識的過程中，它產生了這種推理能力。”
關于偏向性的爭議
在與Lex Fridman的談論中，Sam Altman討論了關于語言模型GPT的一個爭議性話題，即GPT是否太過“woke”（有清醒、覺醒之意）了，也就是說該語言模型給出的答案是否存在偏向性。
例如，世界各地許多存在右翼傾向的新聞媒體指責OpenAI的ChatGPT在某些交互示例中，表現出自由主義偏見。
“Woke”這個詞最先是埃隆·馬斯克在推特上提出的。他寫道，“訓練AI覺醒的風險，換句話說就是訓練其撒謊，是相當致命的”。
對此，Altman在此次采訪中表示，“說實話，我甚至不知道‘woke’是什么意思”。
不過Altman也承認，“GPT確實存在偏見，而且可能永遠都是如此。”
Altman繼續(xù)解釋道，任何一個版本的GPT都不會是完全沒有偏見的、能被全世界公認是公正的。這是因為ChatGPT在推出之際，借助了外部力量進行迭代更新，也就是讓全世界的人參與進來去“塑造”它，所以該模型所存在的偏見是無法避免的。
Altman還指出，OpenAI已經對模型進行了重大改進，以減輕固有偏見并提高其準確性，一些對GPT模型批評最嚴厲的人，也贊揚了OpenAI在GPT-3.5版本升級為GPT-4版本之時所做的改進。Altman同時也承認，未來還有很多工作要做。
與馬斯克的恩怨
在此次訪談中，他也提到了OpenAI和埃隆·馬斯克之間的恩怨。自OpenAI推出ChatGPT后，馬斯克一直在推特上提出批評。
Altman，“埃隆顯然正在推特上從不同角度攻擊我們”。
馬斯克是OpenAI的聯合創(chuàng)始人，但之后由于理念不同，在2019年與該公司徹底分道揚鑣。而最近幾個月，在ChatGPT帶動的人工智能熱潮中，馬斯克重新燃起了他對OpenAI的“關心“。
這位億萬富翁指責OpenAI與微軟的合作讓它從以前的非營利組織變成了現在“最大的營利公司”。據悉，微軟已向OpenAI投資了100多億美元。
馬斯克還把矛頭對準了該公司的熱門聊天機器人ChatGPT，他在推特上諷刺這項技術“好得嚇人”，并表示“我們離危險的強大人工智能不遠了”。
對于馬斯克的“非營利性”指控，Altman回應道，“我們很早就意識到，我們需要的資金遠遠超過我們作為非營利組織所能籌集到的資金。”
Altman回應道，他理解馬斯克對人工通用智能（AGI）的保留意見，AGI是一種能夠像人類一樣思考和學習智力任務的人工智能系統(tǒng)。也有不少該領域的專家同樣對AGI技術表示擔憂，稱如果這些系統(tǒng)以意想不到的方式運行或變得難以控制，可能會導致“災難性的結果”。
與此同時，Altman也提到，“馬斯克在我心中是英雄，我支持也理解他的擔憂…但希望馬斯克能承認OpenAI在解決AGI安全問題是所付出的努力。”
目前，OpenAI公司鼓勵對監(jiān)管這些系統(tǒng)展開討論，并表示正在收集公眾的反饋，以完善其技術。
免責聲明：本文由作者原創(chuàng)。文章內容系作者個人觀點，轉載目的在于傳遞更多信息，并不代表EETOP贊同其觀點和對其真實性負責。如涉及作品內容、版權和其它問題，請及時聯系我們，我們將在第一時間刪除！
EETOP 官方微信
創(chuàng)芯大講堂 在線教育
半導體創(chuàng)芯網 快訊
相關文章
