好看的课外书,完美世界有声小说,魔天记忘语小说

機器人又傷人了！接下來我們該如何造更安全的機器人

2016-11-25 16:10:47 未知

點擊關注->創芯網公眾號，后臺告知EETOP論壇用戶名，獎勵200信元

第十八屆高交會1號館1D32展位、深圳展景世紀科技有限公司展臺發生意外事件，一臺名為“小胖”的機器人(北京進化者機器人科技有限公司制造)突然自行打砸展臺玻璃，最終導致部分展臺被破壞，還砸傷了路人，網上流傳出受傷者被擔架抬離展館的圖片。

此事迅速在機器人圈甚至更大的范圍擴散。有稱這是“機器人原力覺醒”，也有稱這是工作人員操作不當造成。究竟真實原因是什么?機器人會有“原力覺醒”嗎?當機器人越來越多，科幻電影里的“機器人造反”會發生嗎?在全球大規模推動機器人發展的當下，接下來我們該如何打造更安全的機器人?

機器人為何傷人?

11月18日下午，深圳高交會官方回應了此事，18日晚間，北京進化者機器人科技有限公司在其官方微博發布了正式聲明。聲明稱，11月17日13時30分左右，在1號展館D32號展位(“小胖”的投影機供應商)旁通道內，參展人員試圖將一臺面罩打開的“小胖”機器人移動到展位內時，誤將后退鍵按成前進鍵，并未及時按停，導致另一側展臺的玻璃被部分碰倒摔碎，玻璃劃傷了另一側展臺內的一名觀眾，全過程持續約10余秒。

現在，人們分析判斷一個事件通常除了官方信息還會看圈子以及其他渠道的信息。

速感科技CEO陳震在接受《中國電子報》記者采訪時透露，他在機器人的圈子里也求證了此事，確實是因為人為操作失誤所致。機器人傷人事件這兩天持續發酵，也有媒體把事件夸大到了“機器人原力覺醒”。“從我的角度看，目前機器人技術發展遠沒有達到‘原力覺醒’這一程度，這次確實就是和很多類似事件中的機器誤操作而導致人身傷害的偶然現象一樣。”陳震說。

陳震進一步表示，從操作和機器人的設計原理上看，因為操作人員打開了機器人的面罩進行人工控制，而當機器人面罩處于打開狀態時，將自動關閉機器人上的避障感應元件，從而切換為純手動模式，在這一模式下，機器人諸如避障、感知的保護性功能會被關閉，因此導致了機器人在人為操作下的撞擊玻璃，從而傷了人。

偶然事件帶來什么影響?

這一偶然事件帶來的第一個效應是機器人關注度陡然提升。路波科技創始人顏其峰給出了一張“人工智能產業成熟曲線”圖，并表示每一次媒體對機器人風險的夸大，“比如說機器人造反了，滅絕人類了”等，雖然這些言論言過其實，但都會帶動機器人市場熱度的螺旋式上升。陳震也表示，這一事件從積極的方面講，實際上制造了一次大眾營銷熱點，讓更多的圈外人知道了機器人，并開始關注消費級機器人市場。

到目前為止，機器人是否會“原力覺醒”?英特爾中國研究院院長宋繼強對《中國電子報》記者表示，目前看不會，機器人芯片和軟件都沒有智能自我重構的功能，現在只有系統和程序設計失誤引起的錯誤。

雖說“小胖”并非自主行動而造成傷害，但意外事件還是引發了更多負面擔憂。不管是什么操作模式，畢竟它傷人了，就像去年德國大眾汽車卡塞爾工廠的一名工人被突然啟動的機器人意外致死一樣，機器人因為意外殺人的案例也已經多次發生。

人們的擔憂并非沒有理由。就像任何事物的發展都有兩面性一樣，很多科技的誕生和發展也伴隨著一定負面作用，如果我們不能夠掌握負面效應，是否應該是放棄?或者換其他的方法、其他的科技來到達同樣的目標?就像核能利用，切爾諾貝利核電站的教訓，至今仍像達摩克利斯之劍一樣，懸在核能開發的上空。

今年三月，《第三次工業革命》和《零邊際成本社會》的作者杰里米·里夫金在賽迪集團時表示，未來幾十年世界的發展會影響到未來人類的發展。記者采訪時問他為何會有這樣的定論?里夫金說：“因為過去這幾十年，人類工業活動、經濟活動造成了大氣、生態、災害等非常多的問題發生。而且就是這短短的幾十年，發生如此多的問題。如果人類還按照這個模式發展下去，人類這個物種可能就面臨生存或者說生物滅絕，這些年因為生態環境的變化，已經有很多生物物種消失了。”

本月15日，英國物理學家斯蒂芬·霍金在牛津大學演講時再次表達了他對人工智能的擔憂，甚至認為AI是“人類歷史上最嚴重的錯誤”。他認為人工智能的潛力無限，完全有可能超越人類的智慧水平，擺脫人類的控制。霍金說：“成功制造出一臺人工智能機器人將是人類歷史上的里程碑。但不幸的是，它也可能會成為我們歷史上最后一個里程碑，除非我們能學會如何去規避這種風險。”

人們對機器人的擔憂更多來自于它有很多其他科技所不具備的功能和能力。

馭勢科技CEO吳甘沙說：“機器人和原來的PC不一樣，它有眼、有手、有腳，會偷偷在你家里不停地拍。機器人有手，可以控制家里的東西。雖然從功能上可以一個功能三個團隊用三種不同的軟硬件去實現，最后三個結果投票選兩個一樣的，但關鍵的問題是，一旦機器人失控怎么辦?大家看到很多機器人身上有一個紅色按鈕，它是起到安全作用的，但是當你無法接近這個機器人，怎么去按這個按鈕，怎么能夠阻止失控的機器人?所以我們需要非常安全可靠的機器人設計方法學。”

怎么打造非常非常安全的機器人?

宋繼強對《中國電子報》記者表示，目前在自主移動服務機器人領域對于安全的思考和討論剛剛開始，還很不完善。就像汽車一樣，機器人安全首先可以分為主動安全和被動安全兩類。由于服務機器人的智能聯網屬性，又需要加上信息安全。

主動安全屬于功能安全(functional safety)的范圍，需要機器人配備工作環境復雜需要的多種傳感器(不能只依賴一種)，在軟件算法層面對多傳感器輸入進行實時融合處理，以獲得最可靠(注意，未必一定正確)的結果，來保證安全的完成任務。目前的服務機器人廠商應該只在這部分做了初步工作。

被動安全是指在遇到功能定義之外的異常情況下，仍然可以保障機器人本體和環境與人的安全。這個必須是由功能控制之外的獨立系統來檢測和完成。被動安全系統需要具備高于功能控制系統的絕對優先級。它的輸入來自多方面，可以是本地的傳感處理系統，可以是人手工控制，也可以是信息安全系統。

這里就提到了信息安全。因為未來機器人可以上網，還可以更新應用和系統，那么它就像今天的電腦和手機一樣會遭遇惡意軟件和黑客的攻擊。對于能移動和操控的機器人，必須配備信息安全系統來防范攻擊，并且連同被動安全系統對抗惡意軟件和黑客對機器人移動、操作系統的控制。

在這幾個維度，服務機器人企業現在怎么看？又該怎么做?

小船信息科技(上海)有限公司總裁廖江君在接受《中國電子報》記者采訪時表示，這個意外事件對所有的服務機器人企業是一個警示，在主動安全、被動安全、信息安全上都必須做到最高的級別，把安全放在第一位。比如在主動安全上，機器人的傳感器在任何情況下都不能關閉，即便是手動模式下依然能夠實現主動識別。比如在設計時更關注機器人的重量和速度的關系，對于比重大的機器人不能讓它太快，以慢來實現更好的安全保障。比如機器人設計要有三重甚至更多重保護等。

常州智寶機器人科技有限公司總經理李常峰在接受采訪時表示，事實上服務機器人的安全需要全行業、全產業高度重視，一旦出問題，會對整個行業都會造成巨大傷害，具體到每一個企業每一個產品，其安全需要從結構、軟件、無線、電機、控制、傳感器、整機等全方位考量，而且需要把安全放在第一的位置。

機器人的認證檢測怎么做?

在采訪中，所有被訪人都談及了機器人的認證和檢測問題。

目前，中國已先后建立了國家機器人檢測與評定中心、國家機器人標準化總體組和機器人檢測認證聯盟，在11月2日，國家發改委、國家質檢總局、工信部、國家認監委向社會發布“中國機器人認證(CR)”標志，同時頒發了首批中國機器人產品認證證書，這標志著我國正式建立并開始實施機器人檢測認證制度。今年9月工信部就《工業機器人行業規范條件(征求意見稿)》公開征集意見。

目前中國雖然第三方檢測機構已經建立，但機器人標準、檢測認證等體系、認證手段和技術支撐等都需要進一步完善。尤其是在服務機器人的檢測上，目前的標準還比較寬泛。究竟如何檢測才能夠讓服務機器人做到萬無一失?

廖江君認為，服務機器人的檢測不能僅需要從技術的角度，更需要有用戶思維，需要以用戶思維來判斷。比如在一些功能的選擇上，如果對用戶有可能造成傷害、損害，就必須取消，不留任何損害的可能性。

宋繼強表示，目前，服務機器人的安全標準化工作剛剛開始。工業機器人認證標準對服務機器人是不夠的，因為工作環境差別很大，需要更多檢測移動性、交互能力，對不同環境的適應性等。目前國際上也沒有成熟的方法。英特爾也在聯合一些專家設計實現一套對移動機器人的安全監測機制，希望通過虛擬環境與真實環境結合的方式進行測試，改變目前機器人領域有管理的想法、無檢測的辦法、無實用的安全方案的現狀。

陳震認為，要加快制定消費級機器人的行業標準、安全標準，從多個角度對機器人在使用環境中進行測試，才能讓很多安全的隱患在研發過程中就被考慮和避免掉。

李常峰說：“服務機器人產業剛起步，目前標準也還沒有出臺，很多做法都是參照其他行業，需要有更詳細的標準來約束和推動這個領域的發展。”

寫在最后：

今天，我們看到機器人的問題還比較可控，還處于發展初期。但是AI的發展充滿了變量，如果有一天，機器人芯片和軟件都有了智能自我重構的功能，如果有一天，通用人工智能發展起來超越了人腦，如果有一天，機器人有了“原力覺醒”，那時我們怎么辦?我們是否已經想好了應對的方案?