99精品在线观看-99精品在线免费观看-99精品在线视频观看-99精品这里只有精品高清视频-99九九精品国产高清自在线

人工智能之所以足夠智能，很大程度上要?dú)w功于Judea Pearl。在20世紀(jì)80年代，他帶頭推動(dòng)機(jī)器以概率的方式進(jìn)行推理。但是現(xiàn)在，他卻成為了該領(lǐng)域最尖銳的批評者之一。他在自己的新書《The Book of Why：The New Science of Cause and Effect》中指出，人工智能的發(fā)展已經(jīng)受到阻礙，因?yàn)樗荒芡耆斫庵悄艿恼嬲x。

30年前，人工智能研究的一個(gè)主要挑戰(zhàn)是如何對機(jī)器進(jìn)行編程，從而把潛在的原因與一系列可觀察到的條件聯(lián)系起來。Pearl想出了一個(gè)辦法，使用一個(gè)叫做貝葉斯網(wǎng)絡(luò)的方案解決這個(gè)問題。貝葉斯網(wǎng)絡(luò)使機(jī)器能夠回答問題，比如給出一個(gè)從非洲歸來的、出現(xiàn)發(fā)燒和身體疼痛征兆的病人，那么最有可能的解釋是瘧疾。2011年，Pearl獲得了圖靈獎(jiǎng)，這是計(jì)算機(jī)科學(xué)的最高榮譽(yù)。他能獲得這一榮譽(yù)在很大程度上是歸功于這項(xiàng)工作。

但Pearl認(rèn)為，人工智能領(lǐng)域已經(jīng)陷入了概率關(guān)聯(lián)的泥潭。最近，大量的頭條新聞都是關(guān)于機(jī)器學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的最新突破，我們能夠讀到計(jì)算機(jī)掌握古老游戲、駕駛汽車的消息。而這些對Pearl來說毫無吸引力。正如他所認(rèn)為的，人工智能領(lǐng)域的最新技術(shù)只不過是上一代機(jī)器已經(jīng)做過的事情的強(qiáng)化版：在大量數(shù)據(jù)中找到隱藏的規(guī)律。他最近表示：“深度學(xué)習(xí)所取得的所有令人印象深刻的成就都只是曲線擬合?！?/p>

在他的新書中，現(xiàn)年81歲的Pearl闡述了一個(gè)關(guān)于真正的智能機(jī)器如何思考的愿景。他認(rèn)為，關(guān)鍵是用因果推理來代替關(guān)聯(lián)推理。這不僅僅是將發(fā)燒和瘧疾聯(lián)系起來的能力，機(jī)器需要有推斷出“瘧疾引起發(fā)燒”的能力。一旦這種因果關(guān)系框架就位，機(jī)器就有可能提出反事實(shí)的問題，也就是詢問因果關(guān)系在某些干預(yù)下會(huì)如何變化。而Pearl認(rèn)為這正是科學(xué)思考的基礎(chǔ)。Pearl還提出了一種正式的語言，使這種思維成為可能，這是一個(gè)21世紀(jì)版本的貝葉斯框架，能夠讓機(jī)器進(jìn)行概率性思考。

Pearl認(rèn)為，因果推理可以使機(jī)器具有人類水平的智能。他解釋說，這樣它們就能夠更有效地與人類交流，甚至能夠獲得道德實(shí)體的地位，同時(shí)具備自由意志和作惡的能力。

Quanta Magazine雜志最近在圣地亞哥的一次會(huì)議上對Pearl進(jìn)行了訪談，隨后又通過電話對他做了后續(xù)采訪。

以下是經(jīng)過編輯和精簡的采訪對話：

問：為什么您的新書起名為《The Book of Why》？

Judea Pearl：這本書代表了我在過去的25年里做的一份關(guān)于因果關(guān)系的總結(jié)，它在一個(gè)人的生命中意味著什么，它的應(yīng)用，以及我們?nèi)绾谓鉀Q那些固有的因果關(guān)系的問題。奇怪的是，這些問題已經(jīng)被科學(xué)拋棄了。所以我的目的是彌補(bǔ)科學(xué)對它們的忽視。

問：有一個(gè)戲劇性的說法是，科學(xué)已經(jīng)放棄了因果關(guān)系。但這不正是科學(xué)所要研究的嗎？

Judea Pearl：當(dāng)然是的，但是你不能在科學(xué)方程式中看到這種崇高的愿望。代數(shù)的語言是對稱的：如果x告訴我們關(guān)于y的信息，那么y就能夠告訴我們關(guān)于x的信息。這是確定性關(guān)系。

在數(shù)學(xué)中沒有辦法寫出一個(gè)簡單的事實(shí)。例如，即將到來的暴風(fēng)雨會(huì)使氣壓計(jì)下降，而不是上升。數(shù)學(xué)還沒有發(fā)展出一種非對稱的語言，即x引起y并不意味著y會(huì)引起x。我知道，反對科學(xué)聽起來像是一件可怕的事情。但科學(xué)更寬容：鑒于我們還沒有關(guān)于不對稱關(guān)系的微積分，科學(xué)會(huì)鼓勵(lì)我們?nèi)?chuàng)造一個(gè)。這就是數(shù)學(xué)的用武之地。我很高興看到，一個(gè)簡單的因果關(guān)系演算可以解決我們那個(gè)時(shí)代最偉大的統(tǒng)計(jì)學(xué)家認(rèn)為不確定或無法解決的問題。所有這些都能在高中幾何中找到證明，這是非常輕松和有趣的。

問：幾十年前，你通過使機(jī)器實(shí)現(xiàn)概率推理而在人工智能領(lǐng)域名聲大噪?？煞窠忉屢幌庐?dāng)時(shí)人工智能的情況？

Judea Pearl: 20世紀(jì)80年代初出現(xiàn)的問題具有預(yù)測性或診斷性。醫(yī)生從病人身上觀察到一系列癥狀，并希望找出病人患有瘧疾或其他疾病的概率。我們希望自動(dòng)系統(tǒng)、專家系統(tǒng)能夠取代專業(yè)人員——無論是醫(yī)生，還是礦物資源的勘探者，或者其他的有償專家?；谶@一點(diǎn)，我提出了通過概率來實(shí)現(xiàn)這些的想法。標(biāo)準(zhǔn)的概率計(jì)算需要指數(shù)空間和指數(shù)時(shí)間，這使問題變得非常復(fù)雜。我提出了一個(gè)叫做貝葉斯網(wǎng)絡(luò)的方案，它能夠多項(xiàng)式時(shí)間內(nèi)完成，而且過程非常透明。

問：但在你的新書中，你把自己描述成當(dāng)今人工智能社區(qū)的叛徒。這是為什么呢？

Judea Pearl：我們開發(fā)出能夠讓機(jī)器以不確定性推理的工具后，我就離開了AI社區(qū)去追求一項(xiàng)更具挑戰(zhàn)性的任務(wù)：因果推理。而我的許多人工智能領(lǐng)域的同事仍然在研究不確定性。有一些研究小組在繼續(xù)研究診斷問題，而不用擔(dān)心問題的因果關(guān)系。他們想要的只是更好地預(yù)測和診斷。我可以舉個(gè)例子。我們今天看到的所有機(jī)器學(xué)習(xí)工作都是在診斷模式下進(jìn)行的，例如，將對象標(biāo)記為“貓”或“老虎”。他們不關(guān)心干預(yù)，他們只是想要識(shí)別一個(gè)物體并預(yù)測它將如何隨時(shí)間變化。

當(dāng)我為預(yù)測和診斷開發(fā)出強(qiáng)大的工具，并意識(shí)到這只是人類智能的一小部分時(shí)，我感覺自己像個(gè)叛徒。如果我們想讓機(jī)器來解釋干預(yù)措施（“如果我們禁止吸煙怎么辦？”）或者反?。ā叭绻腋咧挟厴I(yè)了怎么辦？”），我們就必須使用因果關(guān)系模型。僅僅有關(guān)聯(lián)是不夠的。這只是一個(gè)數(shù)學(xué)事實(shí)，而不是觀點(diǎn)。

問：人們對人工智能所帶來的的可能性感到興奮。你會(huì)有這種感覺嗎？

Judea Pearl：我在研究深度學(xué)習(xí)的過程中，我發(fā)現(xiàn)研究人員都被困在了關(guān)聯(lián)級別的問題上——曲線擬合（Curve fitting）。那些認(rèn)為深度學(xué)習(xí)所取得的所有令人印象深刻的成就都是為了適應(yīng)數(shù)據(jù)的曲線，這樣的想法聽起來是一種褻瀆。從數(shù)學(xué)層級的角度來看，無論你如何巧妙地操縱數(shù)據(jù)，以及當(dāng)你操縱數(shù)據(jù)時(shí)你能獲取什么信息，它仍然是一個(gè)曲線擬合的過程，盡管是復(fù)雜且繁瑣的問題。

問：你談?wù)撉€擬合的方式似乎表明，你對機(jī)器學(xué)習(xí)不太感興趣？

Judea Pearl：不，我對機(jī)器學(xué)習(xí)印象很深刻，因?yàn)槿藗兺ǔ２徽J(rèn)為僅僅通過曲線擬合就解決那么多問題。事實(shí)證明它們可以。但我關(guān)心的是未來——接下來會(huì)怎樣呢？你能讓一個(gè)機(jī)器人科學(xué)家來計(jì)劃實(shí)驗(yàn)，并為懸而未決的科學(xué)問題找到新的答案嗎？這是機(jī)器學(xué)習(xí)下一步要解決的問題。

我們還希望能與機(jī)器進(jìn)行一些有意義交流?！坝幸饬x”的意思是，與我們的認(rèn)知相匹配。如果機(jī)器人不具備對因果關(guān)系的認(rèn)知，那么就永遠(yuǎn)不會(huì)有意義的交流。機(jī)器人不能像你和我一樣，說出“我本應(yīng)該做得更好”。因此，我們失去了一個(gè)重要的溝通渠道。

問：擁有人類的因果關(guān)系認(rèn)知的機(jī)器，前景是怎樣的？

Judea Pearl：我們必須給機(jī)器配備一個(gè)環(huán)境模型。如果一臺(tái)機(jī)器沒有現(xiàn)實(shí)的模型，你就不能指望機(jī)器在這個(gè)現(xiàn)實(shí)中表現(xiàn)出智能。第一步就是由人類編程的現(xiàn)實(shí)概念模型，這可能在10年之內(nèi)出現(xiàn)。下一步，機(jī)器將自己假定這些模型，并將根據(jù)實(shí)證證據(jù)對它們進(jìn)行驗(yàn)證和改進(jìn)。這就是科學(xué)領(lǐng)域一直在發(fā)生的事情：我們最初認(rèn)同地心說，認(rèn)為一切都在圍繞地球轉(zhuǎn)動(dòng)，而最終通過日食發(fā)現(xiàn)了日心說。機(jī)器人也將相互交流，并將把這個(gè)充滿隱喻模型的假想的世界和狂野的世界翻譯成它們的語言。

問：當(dāng)你和今天在人工智能領(lǐng)域工作的人分享這些想法時(shí)，他們會(huì)作何反應(yīng)？

Judea Pearl：人工智能目前是分裂的。首先，有一些人沉醉于機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的成功。他們不理解我在說什么，他們想要繼續(xù)做曲線擬合。但是，當(dāng)我和那些在統(tǒng)計(jì)學(xué)習(xí)范疇以外的人工智能領(lǐng)域工作的人交談時(shí)，他們會(huì)立即理解我。在過去的兩個(gè)月里，我讀了幾篇關(guān)于機(jī)器學(xué)習(xí)的局限性的文章。

問：你是在暗示有一種遠(yuǎn)離機(jī)器學(xué)習(xí)的趨勢嗎？

Judea Pearl：不是一種趨勢，而是一種嚴(yán)肅的自我反省，包括這些問題：我們要去哪里？下一步是什么？

問：那是我最不愿意問你的問題。

Judea Pearl：我很高興你沒有問我關(guān)于自由意志的問題。

問：那么，你對自由意志有什么看法？（智能菌標(biāo)注：好尷尬，提問者機(jī)智如我~）

Judea Pearl：我們絕對會(huì)開發(fā)出具有自由意志的機(jī)器人。我們必須了解如何對它們進(jìn)行編程，以及從中我們能獲得什么。由于某些原因，對于進(jìn)化來講，這種自由意志是可以被計(jì)算的。

問：以什么方式呢？

Judea Pearl：你具備自由意志，進(jìn)化使我們有了這種感覺。顯然，它提供了一些計(jì)算功能。

問：機(jī)器人出現(xiàn)自由意志的時(shí)候會(huì)很明顯嗎？

Judea Pearl：我認(rèn)為第一個(gè)證據(jù)是，如果機(jī)器人開始反事實(shí)地相互交流，比如它們說出“你應(yīng)該做得更好”。如果一個(gè)機(jī)器人團(tuán)隊(duì)開始用這種語言進(jìn)行交流，那么我們就將知道他們具備了自由意志?！澳銘?yīng)該把球傳給我——我在等你，而你沒有！”“你應(yīng)該做某件事”意味著你可以控制做或者不做某件事。所以第一個(gè)跡象是交流，第二個(gè)是能夠踢更好的足球。

問：既然你已經(jīng)提出了自由意志，我想我應(yīng)該問你關(guān)于作惡能力的問題，我們通常認(rèn)為這取決于做出選擇的能力。那么什么是邪惡呢？

Judea Pearl：邪惡就是，相信你的貪婪或不滿取代了社會(huì)的所有標(biāo)準(zhǔn)規(guī)范。例如，一個(gè)人具備一個(gè)類似于軟件模塊的東西，上面寫著：“你餓了，所以你有權(quán)采取行動(dòng)來滿足你的貪婪或不滿?！钡怯钟衅渌能浖K可以指導(dǎo)它遵循社會(huì)的標(biāo)準(zhǔn)規(guī)范。其中一種叫做同理心。當(dāng)你把你的不滿提升到社會(huì)的普遍標(biāo)準(zhǔn)之上時(shí)，那就是邪惡的。

問：那么我們怎么知道人工智能有能力作惡呢？

Judea Pearl：當(dāng)我們很明顯地看到機(jī)器人忽略軟件組件時(shí)，并且總是忽略它?；蛘呤菣C(jī)器人只遵循某些軟件組件的建議，而不遵循其它組件的建議時(shí)?；蛘邫C(jī)器人忽略那些來自控制行為規(guī)范的組件的建議時(shí)，這些規(guī)范是被編程在其中或者根據(jù)過去的學(xué)習(xí)生成的。而機(jī)器人不再遵循這些規(guī)范。