編者按：

2022世界機器人大會主論壇群星璀璨，產、學、研各領域大咖齊聚首，共話巔峰，為機器人未來發展領航。

峰會現場，中國科學院院士、清華大學人工智能研究院名譽院長張鈸，中國工程院院士、中科院沈陽自動化研究所機器人技術國家工程研究中心主任王天然，中國科學院院士、中國科學院自動化研究所研究員喬紅，圍繞《未來機器人：目標、路徑和挑戰》的主題進行了對話。以下為對話內容的整理。

龔克：大家上午好，非常榮幸今天請到三位院士，我旁邊這位張鈸老師，是清華大學我們非常尊敬的一位老師，長期在智能領域工作，超過50年了，是我們國家最早從事智能工作的先驅者之一。那邊的王天然院士是我們機器人領域的領先科學專家，再一位喬紅院士，相對這兩位是后起之秀，但在智能機器人前沿做出了很多重要成果。

今天我們院士對話在領航峰會是一個大的環節，說到領航我們要有方向有路徑，對風險做預判。其實剛才辛部長講到了最早的機器人希臘機器人、中國的指南車這些，這是古代的設備。從先來講，捷克Capek設想的那個羅素姆萬能機器人后來有了電影等，已經一百多年了。兩年前，我們在世界工程理事會上捷克的工程師就說，他們非常驕傲，他們機器人有一百年的歷史了，后來我說還有比你們更早的。但是不管怎么說，這個已經有100年歷史，從阿西莫夫提出來機器人“三定律”已經70年了，各位院士都經歷了這個發展過程，無論是工業機器人、服務機器人，各種機器人都經歷了不同的發展過程。先請各位結合自己的工作經歷作一個介紹，實際上也是對中國機器人發展作一個回顧，從張老師說起，您資格最老。

張鈸：我是1978年在清華大學建立了一個人工智能、智能控制的調研組，從1978年開始我們從事人工智能這方面的研究和教學，但是那個時候機器人跟人工智能還沒有完全分家，所以我們自然會做機器人工作，所以在1980年到1982年我到美國伊利諾斯香檳分校去訪問的時候，我做的第一件事是跟機器人有關的，就是機器人運動規劃，1984年發表第一篇文章實際講到機器人的運動規劃，1985年回國以后我首先在清華大學建立了智能機器人實驗室，那時候我在這里主要做視覺方面的工作。這個實驗室成立不久，國家剛好建立863計劃，我那時候就參加了智能機器人主題專家組，從1986到1994年參加了三屆。在這個專家組里，我主要還是負責人工智能方面的工作。

到了1991年，我們跟國安科技大還有其他一些大學，聯合承擔國家一個任務，移動機器人研制任務，這個移動機器人就是我們現在大家非常熟悉的自動駕駛車，這個工作一直延續到今天，我們還繼續在做。我在這里主要做的工作是智能控制、視覺、機器人規劃這方面。所以從嚴格意義上講，他們兩位才是真正的機器人專家，我只是在機器人這個領域里主要做了一個人工智能方面工作，所以更加偏重智能機器人研究工作，我簡單介紹一下我做的工作。

龔克：謝謝張老師，從1978年說起，講到了80年代非常重要的，1986年我們國家開始的863計劃，發展高技術、實現產業化，鄧小平親自推動這個計劃，剛才張老師講，從1986年就有一個智能機器人主題。王老師也是這里面一個重要人物，我們中國很早就起步了，自動駕駛到今天的發展，我們也走過了很多路程。王老師剛才張老師說你是真正搞機器人，你再給我們一些介紹。

王天然：我一直工作在沈陽自動化研究所，也是比較早，我是在我們老所長蔣新松院士的領導下開展機器人工作的，你一查我課題清單，還有從張老師那申請的智能體系結構，但我的主要工作是工業機器人、工業控制系統，后來想辦法變成產品產業化，后來在我和同事的共同努力下，建立了自己的以工業機器人為主的企業，成為中國第一個上市的公司。我們的研究所有機器人國家重點實驗室和機器人技術國家研究中心，中心主任現在還是我在擔當，我的經歷沒有張老師那么豐富，我就比較簡單。

龔克：你這也夠豐富，因為我們剛才談到863，高技術產業成立的一個企業就是新松，是用蔣新松院士命名的一個公司，昨天晚上看到新聞應該看到這個公司，昨天特別介紹習近平總書記到遼寧視察工作到了一個公司，看了這個公司產品，和公司員工講了很長一段話，剛才王老師談到的，這是我們國家現在機器人領域的一個領軍企業。我們現在轉到喬紅院士，相對于他們兩位比較年輕，但是成果也非常多，所以喬紅院士你自己講講。

喬紅：剛才兩位院士特別領軍，做特別精彩的工作，是典型性院士。我也受到他們倆特別多幫助和引導，張院士、王院士在機器人方面都對我有特別深刻的影響。我自己最開始是在西安交大研究機器人機械這塊，后來出國回國。我在回國前，剛好人工智能非常熱，我原來學機器人這部分，我覺得模式識別這個特別熱，可以成為機器人眼睛，所以我就開始對模式識別感興趣，做了一些交叉的工作。再往前走的時候，覺得人和機有這么多差別，為什么我們做的機器人一般是笛卡爾坐標的，人的話就是活生生的人，那么他們怎么能夠成為朋友，所以我對神經感興趣了，國家給我們很多自由做這個研究，使我能夠有機會，又在機器人領域對其他部分產生好奇做一些貢獻。

我回國之后，剛好給年輕學者講，我回國之后反而在國際舞臺更加融入了，原來我在國外沒有這樣，但是我回國之后在HV機器人領域做了很多工作，是現在新成立全國重點實驗室的主任，我們重點實驗室名字，多模態人工智能系統，就是想把人工智能和機器人結合起來，謝謝大家。

龔克：喬老師剛才說，你是哪年回國的？

喬紅：2004年底。

龔克：回國進入機器學習研究，然后是新進院士。剛才各位都對工作經歷進行了一個自我介紹，實際上也是對我們中國機器人發展的一個回顧。但是我們今天是一個領航峰會，我們還不能光回顧，我們得往前看。說領航我們就要有目標，我請教各位你們都做機器人，而且你們三個人都談到了智能機器人，那機器人的發展前景到底怎么樣？從你們各自的角度看，你們覺得你們做機器人，你們心目中機器人的發展目標是什么？我們到哪兒去？特別是最近機器人，張老師講了，這不是新詞，1986年這個主題就成立了，而且非常熱，出現了很多會要，到底什么是智能，什么是機器人，他們之間關系怎么樣？是不是人工智能，剛才張老師提到一個概念，待會可以講講，智能和機器人那時候沒有分家，現在是怎么個分家法？中間是什么關系？向哪兒去？是不是需要重新融合起來？等等這些問題，也請各位來講一講。

我想我們將順序倒過來，先請喬老師講。

喬紅：我本來想聽兩位院士給我一個指導，我就先講。我的講法不一定對，拋磚引玉。

第一個事情，我覺得原來機器人的定義服務于人，所以原來定義就是人的奴隸。上次王院士在大會上我也受到啟發，人機融合，先是服務于人，后來做一些替代工作，從簡單替代到復雜替代。人對它有很多期望，它就從服務慢慢走向平等，走了一點，人對他就期望你既然給我服務，能不能更加像我一點，我就感覺越來越像，后面就變成有倫理問題了。原來說你給我做一些事情，后面說你能不能和我近一點，后來能不能代替這個代替那個，后來他有些能力超過我們，我就覺得有危機感了。但是還是特別同意剛才講的“合”的概念，人機怎么“合”，又合又有分，這個是我覺得的期望。

后面那個問題，關于人工智能和機器人的關系。我自己的理解，還是可能是錯的，人工智能我也向張老師請教很多次，人工智能的一個部分和機器人智能有關系，但是機器人又有硬件，通用的人工智能可能不能用在機器人上，因為機器人有本體，他動了機器人就一直在循環之中，而且有本體意味著軟硬件結合，所以我認為有交叉部分，不一定對，我想是這樣理解。

龔克：謝謝喬老師。機器人里面用到人工智能，但并不全是人工智能，他的本體是一個機器結構，將來可能研發出非常特殊的材料，這些不是簡單的智能問題。

喬紅：還有控制，本身做不到的時候，人工智能和控制可以幫助我們。

龔克：未來是人機融合，這個機器人或者是機器，成為人的一個好朋友，在某種意義上是平等的合作關系，這就到了你一直講的人機融合，你認為人機融合在未來是什么形態王老師。我們讓張老師最后做總結。

王天然：機器人未來形態可能有相當多的結果，因為現在人對機器人有非常多的幻想，這個幻想已經不是科幻了。如果真的有人造肌肉可以代替現在鋼鐵的機械臂，那張老師說的過去搞的動力學、運動學都要重寫了，這是顛覆性的，根據需要有各種各樣的變化。將來的機器人究竟什么樣？就是現在工業機器人你也不好說將來怎么樣，因為有人提出來分布式工業機器人，誰規定機器人這個胳膊都是連在一起的，你要能分開那就厲害了，所以將來可能五花八門。

龔克：王老師很有想象力，我理解你說的五花八門是本體上會有不同，手是手肩膀是肩膀，還可以協同，很有想象力了。我們說未來機器人不管什么形態都是跟人友好合作的，王老師說，未來機器人本體形態非常多，不見得是鋼的，可能是柔性材料的，肉的，我們說人造的，比如硅膠之類的東西。我們最后又回到張老師，您給評論再加點您的看法。

張鈸：沒有，他們說的很好。首先機器人是干嘛的？我想這里最重要的就是說機器人跟人工智能，究竟有什么區別？他們是不是相同的？或者說人工智能包含機器人，或者機器人包含人工智能，我認為這都是不對的。現在來說，機器人和人工智能是完全兩個獨立的領域和獨立的學科。這里面差別在哪兒？這兩個領域或者學科，他們的目標是完全不同的，人工智能的目標是什么？是用機器來模仿人類的智能行為，他追求的是機器的行為跟人類行為的相似性，越相似越好，所以它追求相似性。機器人完全不同，機器人把模擬人類的智能行為只作為他的手段之一，它的目標就是設計出一個機器，來協助人類完成某種任務，這個任務原來是人來完成的，所以機器人的目標是完成任務，他追求的目標是工人或者是信任，或者叫fascinating，所以這兩個追求目標完全不一樣，因此研究內容是不同的。

機器人的研究內容可能很多人做過很多概括，我比較同意三大方面。第一個方面，剛才也說到了，就是執行機構。這個在人工智能里不一定都要做，因為剛才講了機器人要在物理世界里完成一定任務，所以它必須得有執行機構。這個執行機構剛才王老師也講了，可以是仿真仿動物，也可以不仿它。從目前現實情況來看，多數不仿人，因為仿不到，因為這個材料還沒有解決，現在基本上建立在電機跟齒輪傳動機構這么一個基礎上，當然現在不一定走仿真之路。

第二個是人員，特別是移動機器人，高效機器人是它的關鍵問題，要完成一定的任務人的問題必須要考慮。

最后一個是大口袋，智能控制，包括控制，包括人工智能，包括傳感器，包括環境感知。所以在這三部分內容里，只有第三部分跟人工智能有重疊，這個重疊是智能機器人的一部分工作，總結來講，就是說機器人不是人，是要做機器的，這個機器要完成一定任務，人工智能是用機器來模擬人類的智能行為。請大家注意，我們這里是模擬智能行為，不是模擬智能。所以這兩個領域，都會被大家誤解，機器人這個名字讓大家誤解成它是一個人，必須像人。人工智能這個名字也不好，人家以為人工智能做智能的，因為我們現在對智能了解非常少，我們沒有去做智能，我們只能模仿智能行為，智能的外部表現，所以大家注意這個。

注意它的前途，王老師講的非常對，它的前途我認為會是多種多樣的智能機器人的出現。不會出現一個跟人一樣，做大量通用的機器人，這個目前是做不到的。因為機器人的目標是什么？完成一定的任務，所以我們何必做一個手術機器人，為什么要去手術機器人扛大包呢？沒有必要，所以將來會出現很多機器人專門做手術，專門舉重等等，所以這個問題，機器人的目標就是完成一定的過去人類完成的任務，協助人類完成很多任務，所以它基本表現為專用的。

當然剛才法國人也講到一個通用性質，它認為一個系統是有一定通用性，這個只能說有一定通用性，目前來講不可能做出來一個機器人完成人類可以做的任何工作，這個是有很多爭論在里面，人工智能里也有這個爭論，就是說通用人工智能要不要用。因為這個的必要性和可能性都有可以爭論的點，有必要做這個機器代替人嗎？我們人還不夠嗎？如果我們需要人的話，那我們多生一些人不就完了，非得造一個完全跟人一樣的人，所以這個的必要性本身不是很大。所以我非常同意王教授剛才講的，將來會是多種多樣的智能機器人出現，每一個機器人來完成一定的工作，或者一類工作。大概情況是這樣。

龔克：非常感謝張老師，果然清華教授給我們上一課，從定義開始非常嚴格講它的定義，講它的區別。對未來其實三位談到了，我聽下來，它都是要幫助人的，希望更好的幫助人。它的形態并不見得一定是什么樣的形態，而且也不見得非要走向通用。最重要的是幫助人完成好這項任務。

王老師，最近我看你講人機共融，剛才喬紅老師也提到人機共融，而且你也在講人機共融。所以我想人機共融現在是我們技術發展的一個非常重要的方面，這個是不是能請王老師談一談，為什么要人機共融？人機共融會面臨什么問題？這些問題怎么才能得到解決？交給您。

王天然：我說了兩次人機共融，剛才張老師說的我很同意，機器人是人造出來的機器，人造它干什么？為自己服務，這個是目標。造出來它會什么樣？需要什么樣？你能造出來它是什么樣就是什么樣？你可能需要這個但造不出來沒辦法，因為造機器不會非要一定是個什么樣，。但是對剛才喬紅院士的發言，我有一個觀點，將來不管這個機器人做成什么樣子，有一個問題肯定是共通的，它跟人到底是什么關系？現在機器人和人是主仆關系，我告訴你怎么做，你就怎么做，很簡單。將來機器人統治人類了，這個很危險了，我認為這個東西是過于科幻的，因為人造的機器不可能達到這個目標。另外現在有一種說法，機器人造出來就是為了取代人。某些環境下代替人做艱苦的勞動或者什么是對的，但是它的目的不是跟人爭奪同樣的資源。現在的目標就是機器換人，而人取代人，不是要故意把人和機器的矛盾挑起來。

過去我們有很多例子，人背肩扛，變成汽車，把人取代了，機器人是這樣的。所以人和機器到底應該是什么關系，是很重要的一個事情，我覺得從現在開始，就像剛才張老師和喬紅說，將來最好的辦法，它要能替你服務最好是伙伴關系，最好是它宛如同類，你是機器我是人，但是我們倆感覺好像是同類，不是一個人和一個機器在一起。雖然你是機器，但這樣你能更好為我服務，而不是統治我。

龔克：王老師描述了一下人機共融，剛才我如果沒聽錯“宛如同類”，用了一個很精巧的詞，但是還是在為人服務，只不過服務的更好，讓人感覺更親切，例如養老服務機器人更需要這樣。另外，可能它還需要有一定的智能，需要有比較精準的判斷感知，比較正確的決策等等。

喬老師你這幾年在講手、眼、腦融合這些方面，你看看將來這個機器人智能的發展會是一個什么樣子？

喬紅：你問的問題都很大，覺得不好回答。剛才王老師講的，我們原來做了一個科技部的重點項目，這個項目當時題目里有機器人發育，智能發育，但是“發育”這個詞我覺得有點超前，但是指南里寫到的，剛才王院士專門講，我們還是期望人和機更近一點。咱們國家現在的科研確實非常寬，所以對于機器人研究，我覺得從功能倒推問題，我這個功能怎么做？還有一種研究也給我們胡思亂想的機會，我是為了功能，但是我肯定想這個人有這個特點，它的機理是什么？這個機理能不能復制？張老師剛才也提到，這個機理很好，但是不能復制也有問題。這中間跳了一步，這個功能我覺得很好，它的機理是什么？這個宏觀和機理有一個關系。第二個這個機理能不能復制。我們當時考慮的發育有定義，發育是自主學習的不是我叫你學的，是一個自由運動的，會越來越復雜。第三個永遠的學習。這樣三個要求實際上挺難做到的，但是我自己原來一直感覺機器人和人的一個特別大區別是機器人沒有自己的目標。人怎么說，有意識有情感，都是有自己的目標，但機器人沒有。機器人沒有可能是好事，因為它要有挺麻煩。它沒有真實情緒，這個要不要復制？人有理性說這個怎么怎么，也有感性說這個喜歡，這個不喜歡，這個部分并沒有在機器人里面產生真正的復制，我覺得發育現在主要講的是肌肉發育，肌肉在人跑步跑多了之后也有發育，但是這種差別造成機器人永遠是人的“宛如伙伴”，還是服務于人的，所以這是我的理解。因為我們講發育，原來講軟的，后面也做一點硬的，是這樣，謝謝。

龔克：你們現在能做到什么程度？

喬紅：我們都模擬了，有的做不了，所以我們用計算機模擬，首先是前額葉在不同情況下多樣的變化，有的時候快，有的時候慢。它大量的融合，如果是慢了，就會慢慢搞，那時候前額葉和控制部分就多了。再一個人的運動比較稀疏，看到東西打過去，在這個過程當中我們加入了快和慢，但是肌肉做了一些多肌肉和單肌肉控制。

龔克：王老師。

王天然：我再補充幾句，人機共融。剛才我說這個問題是一個重要問題，原因在于不僅僅是我們理論上的探討，現在這個問題已經存在了，現在技術進步已經到了這個地步，工業機器人新出了一類，在統計學單獨統計叫協作機器人。原來工業機器人光裝在籠子里，跟人是分開的。為什么在籠子里，安全，它可能把人殺了。現在不方便，就把它從籠子里放出來，安全問題已經基本得到解決，就是防碰還解決不了。現在用了這種東西，應用當中解決了很多問題，比如定位比較簡單，可以手把手試教，張老師在863項目做專家，老早的時候我就看到手把手試教，為什么弄不了？不能手把手，太危險了，現在可以了。這個就變的很快，現在有人可以租機器人來做了，這樣的機器人現在仍然還有一定局限，但是它的發展目標就是希望有這樣的工業機器人，這樣的協作機器人，這樣的跟人的關系像師徒一樣的機器人，我跟著師傅學，幫助師傅干活，人是師傅，機器人是徒弟。

將來的一個重要問題是相互信任，還有一種現在醫療上幫人解決殘疾人問題的外骨骼機器人，給人助力，比人本事還大，但是人身上背著一個鋼鐵的東西，那個肯定相當不舒服，而且也不是很協調。最好是人怎么感覺，怎么希望，機器人都知道。機器人要怎么做，人也都能知道，這是現在的發展目標，所以現在定一個發展目標“宛如手足”將來最好是“宛如同類”。

龔克：說到這些，我們剛才更多談的都是機器本體，談的控制。張老師這兩年老講人工智能3.0，剛才說到了機器人幾部分，還是跟人工智能有關系，人工智能特別是智能機器人，與人工智能本身的能力，對機器人發展有很重要的影響。張老師能不能簡要談一談人工智能3.0的概念，以及3.0的人工智能對未來機器人的發展能夠起到什么樣的作用？

張鈸：這個問題跟剛剛兩位談的是一個問題。我們人和機器的關系，實際上可能性有三種。

一種機器是我們的奴隸，我們叫它干嘛它干嘛，目前我們跟機器是這樣的關系。但是我們希望進一步發展智能機器人，我們希望它能夠成為我們的兄弟。但是還存在另外一個可能性，就是它會不會成為我們的主人？我們反而變成他們的奴隸。要么它是master，要命它是slave，或者我們大家是brother，現在問題就是我們的愿望是成為兄弟，但是有沒有可能成為兄弟？存在不存在那種可能性？這個實際上是現在提出人工智能治理問題之后我們可能會討論的問題。我們大家越來越認識到這個可能性是存在的，因為當初提出來這個觀點，剛才王老師也提過了，包括阿西莫夫、霍金提出來這個觀點，這個問題在機器身上，如果機器發展到它的智能超過我們，我們就失去了對它的控制，因此應該對這樣的機器人加以限制，加以治理。

但是20世紀人工智能發展起來以后，大家發現這個問題不完全是這樣的，當機器人的智能還很低的時候，我們就處在危險狀態。為什么呢？就是我們處于不可控狀態，比如說現在用深度學習的方法來做一些事情，這個出來的人工智能律法是非常危險，是非常沒有可靠性保證的，所以如果我們用這種人工智能算法，必然會帶來對人類的傷害，所以它已經變成一個現實問題，也就是說，這個治理要不要去做。剛才講了，治理那個機器人，那種機器人還不知道什么時候出來，過去我們都認為這個不靠譜。現在大家認為靠譜了，首先要治人自己，你在做這個工作的時候一定要考慮到這種可能性。所以我們提出來第三代人工智能，就是要解決第二代人工智能的算法不安全，不可靠，不可信，不可控這種狀態，所以這個是必須要解決的。下面我們可能談到治理問題的時候涉及的更加深遠，所以這個擔心現在看起來是一個近憂，已經不是遠慮了。過去霍金比爾蓋茨提出來都是遠慮，大家覺得目前不可能面臨那樣的問題。但是現在人工智能的發展狀況告訴我們，這個問題目前要馬上著手解決，這是我們提出來第三代人工智能最重要的思想。

龔克：張老師能不能簡單說一下，因為我們現在理解人工智能2.0是利用深度神經網絡，利用大量數據的訓練，這樣來形成人工智能。您提出來這個3.0，簡單講一下跟2.0到底有什么不一樣？完全顛覆替代2.0，還是在2.0上的一個發展。

張鈸：雖然說是1.0、2.0的一個發展。法國專家說到這個，最后提出來的就是模型+端對端的學習。

龔克：跟您有點像。

張鈸：大家都認識到這個，純粹靠數據方法必然不可解釋，必然不可靠，這個是必然性。那么怎么來解決這樣問題呢？唯一可能性加上智能，辦法很簡單，但是這個還是很困難的，因為要加到數據里面去，這里面方法要有很多改變，所以這個是目前整體的趨勢。我們的基本辦法就是把第一代人工智能的主要方法靠知識驅動，第二代人工智能的主要方法靠數據驅動，我們說這兩個方法都有片面性，必須把這兩個方法加起來，才有可能發展安全的、可靠的、可信的智能機器人。

龔克：張老師把第一第第二代結合起來，形成一個更可靠第三代，這真是英雄所見略同，剛才約瑟夫得圖靈獎是因為模型檢驗，他也是提出來因為模型方法的發展有時候碰到非常復雜問題，就不如端對端，直接用數據簡單，但是端對端數據的辦法，由于存在不可解釋性不能進行處理嘗試，所以可以把月亮當成黃色交通燈這樣一些問題也是走融合。我們把這個話題先按下來，剛才喬老師談到了機器人已經出現倫理問題。其實我理解在技術領域，醫學以外的領域談倫理，機器人談的比較早，從阿西莫夫三定律就是一個倫理規范，特別是加上智能，加上很多工作代理給他，讓他完成更多任務的時候，我們再回到喬老師這，您認為它現在的倫理問題最突出的是什么？

喬紅：確實如你所說，倫理確實在機器人這頭講的比較早。剛才張老師講，現在事實上機器人，包括王老師講機器人，實際上它是不小心傷害人，人工智能算出來它不是有意的，機器人也沒有意識，但是有自學意識，或者有私心，在造機器人的時候會不會把這個搞壞，如果他自學，學歪了可能會有問題。我自己的想法，機器人成為我們的主人肯定不被允許的，因為機器人當時被定義不能傷害人類，機器人產生的時候就說好了。所以我覺得建立法律還是很重要的，因為對一個人的約束有兩種，一種是高端的，你要有道德有文化，低端的是要懲罰你。機器人作為一個個體，剛才老實說我們可以很近，親兄弟也要明算賬，所以應該有一個高端的道德約束和一個低端的法律約束，就把你從概念上又在籠子里框起來了。我們可以很近，但是我們得算清楚，所以什么樣的機器人當它違反了道德，什么樣的機器人當它違反了法律，我覺得就應該約束。這個道德的約束我覺得比較難，比如他們說車往前開撞誰，不往前開又撞誰，這個人的道德還有難度，應該提前約束，這樣后面應該是安全和健康，個人觀點，不一定對。

龔克：我接著你說一個例子，撞擊這個事，現在自動駕駛車，可以看成一個行走的機器人，我們AGV就是機器人。我其實到很多實驗室有自動駕駛，我自己做過嘗試。當它前面有過路的人、動物的時候，我曾經想嘗試一下用人工踩這個油門加速，去撞前面這個目標的時候，三年前的時候有的實驗室機器人就不動了，有的實驗室就撞上去了。這兩年我再做，幾乎所有實驗室都不撞，這就把一定的倫理植入到這個控制里面去了，這樣甚至防止人類殺手開著這個車去撞擊人。

喬紅：自動駕駛這里有個問題，如果機器不聽你的了，機器有一個更高的原則，你這個角度相當于人家道德比你高了，你想撞人家不讓，人和機器共融的時候，應該是人比機高，現在機有自己的判別，也會有一些困惑。

龔克：對。這是一個非常復雜問題，我看張老師要說。

張鈸：倫理的問題，現在變成非常重要的，我剛才說大家認知有兩個階段。

第一個階段，阿西莫夫認為說，機器人如果智能超過我們或者有意識以后，我們如何讓機器人能夠按照倫理的準則來做出行為這個問題。

第二個問題，人類如何按照倫理原則來設計和使用機器人。這個表面上看起來很簡單，大家就按照這個規則定好了，機器完全按照你這樣做，其實問題非常不簡單。為什么引起全世界關注，是因為這個領域有三大難題。

第一個標準和法規問題，什么是道德？什么是不道德？這個本身就有非常大的爭議，而且有很多道德的困惑。舉個例子，一個車剎車失靈，前面撞五個人，打舵就撞上另外一個，沒有辦法明確這個道德這個不道德，這是一個課題。而且還要把這個道德或者倫理形式化，這是頭一個難題。所以為什么全世界關注這個難題，因為這是法律道德倫理各界來共同研究的，我們給它什么準則，這是第一個問題。

第二個問題對機器來講，我們說給它一個道德的規范，我們假設道德規范有了，你不能撞人，它是不是一定不撞人，這就涉及到機器人的行為可控不可控。現在發現人工智能加上去，它就不可控，為什么呢？因為人工智能加上去，剛才喬紅老師說過了，他完全按照這個規則來執行，這就不是智能機器人，你給它一定靈活性，它才能有創造性，才能自主解決。我們希望它幫助我們克服人類的一些缺點，所以一定給它一定靈活性，你一給靈活性，我們現在怎么做？技術怎么做就有概率來描述。概率來描述可能做錯，可能做對，所以我們要給他靈活性，給他創造性，給他自主性，必然要付出一個代價，就是它可能要不可控，所以這個問題也不是那么簡單。你就是給它規則，使規則擱進去，那就不是智能機器人，還是受你控制，所以這是一個很大的問題，在理論上現在沒有解決。

第二個，對人類來講，我們說要求每個人在設計使用機器人的時候，都要遵守倫理的原則。這不用說，有的人根本不遵守，就是遵守的人其實我們對每一項技術，每一個機器，都有不可預測的。我們怎么知道我們這么做出來就是它會行善，非常明顯的例子，就是深度學習。深度學習來做模式識別，識別率提高非常多，大家沒有預計到這種辦法魯棒性非常差，引起很大的安全問題。這個是人家預計不到的，所以你對每個工作，即使你定了很嚴格的規律去做這個事，做出來很多東西你是預測不到的。

由于這三個困難，就造成人工智能或者智能機器人或者機器人治理會有非常大的困難，所以大家可以理解，為什么現在全世界都在關注這個問題，說明這個問題不是那么簡單，可以解決的。我就講這些。

王天然：我問張老師一個問題，現在這么關心倫理問題，是關心機器人倫理問題，還是關心設計機器人的倫理問題。

張鈸：這兩個整體是人，現在最主要關心人，第一個是不是會濫用誤用機器人，特別現在濫用機器人非常嚴重，機器人將來肯定會被濫用，你現在做機器人，殺死機器人就是一種濫用，所以這個方面首先考慮智能，最主要是智能。另外一個你在設計過程中，要做很好的評估和預測，不能隨便定一個規劃說這個怎么樣，必須對這個規劃，對這個智能機器人，做一個非常嚴格的評估，它會帶來正面影響是哪些？負面影響是哪些。因為你做一件事情負面影響肯定會有，不可能做一件事情完全是正面的，特別是復雜環境，所以現在主要是這個。當然在學術界更多討論機器人的問題，因為那個比較吸引人，大家比較認一點，但是我們看起來，全國的科學家，我們基本算工程師。

龔克：回到王老師，王老師提的問題不能算完，您得說觀點，關于治理。

王天然：我是覺得這個智能像剛才張老師講的，最早的時候人形容機器人有什么感知，有什么推理，有什么行為，這些都在發展，這些都在發展不一定都是用人工智能技術，有些可能是用其他方法。用其他方法仍然也有倫理問題，但是你用了人工智能技術，可能產生新的倫理問題，新的倫理問題是人工智能技術帶來的，還是機器人本身帶來的？我有點想推托責任，是人工智能。

龔克：剛才我們從大家的工作經歷出發，判斷我們機器人向哪發展，以及我們現在碰到各式各樣的問題，我想很多問題靠今后技術的發展，技術和治理的協同發展去解決。

喬紅：建個機器人法律出來，先約束住。

龔克：他需要有外部約束，需要有技術落地等等，這些最后要靠不斷研發去解決，在一個發展的過程中解決問題。今天我們在場的，還有在線上有很多年輕人，他們都是從事跟機器人研發、使用、維護、管理有關的，最后用點時間，請三位，先請張老師對年輕人，特別是從事智能機器人，從規劃到管理，提一個希望。

張鈸：因為這個是世界機器人大會，所以我認為我們剛才談的那些問題，都可以通過全世界團結起來，共同發展，合作創新，能夠讓人工智能，讓機器人健康發展，造福全人類。我補充點，剛才我雖然說治理很多難題，但是從技術上來講，很多人提出三方面工作，是可以解決這個問題的。

一個方面工作，研究新的分析工具，主要是形式邏輯加上叫做倫理的推理或者倫理的分析，這個問題目前因果分析，倫理分析，發展這套東西會有給我們做一些更好的倫理分析結果預測，這方面工作也在進行。第二方面工作，我們完全可以利用深度學習工作方法。剛才說什么叫道德，什么叫不道德？我們難以做出定義，但是我們可以給出樣本，給出哪些行為是不道德的，哪些行為是道德的，通過機器學習分析道德不道德，那些沒法定義的問題，還是可以通過標注數據學習做到。最后一個仿真模擬，我們現在的無人車就是這樣，你要大量做實驗讓他跑起來，通過實驗和模擬發現它的問題來解決。所以從技術層面來講，這三個工作是有可能來解決我們這個安全性問題和倫理問題。

龔克：另外張老師特別提到希望我們年輕一代合作創新，王老師。

王天然：我同意張老師觀點，現在我自己的工作體會是，上世紀2000年以前，工作的重點都在工業機器人的精度、可靠性，控制多少、怎么用的好。現在人們開始解決不是這個問題了，那個基本可以應用了。現在解決機器人不滿意的地方，現在新的領域不斷出來，相關技術也不斷支持，所以機器人變的前途非常燦爛而且多種多樣，很多地方在吸引你。醫用機器人應用非常廣，所以現在說是機器人發展的黃金時段，各科融合會在機器人身上體現。當年一個意大利學者，把機器人叫做Eat，什么技術都吃。所以我想其實機器人研究需要全世界各地人，尤其是我們中國青年，抓住這樣的機會去發現新的能解決的問題，創造出新的東西。

龔克：融合是一個點，多學科融合在機器人身上的體現非常豐富，多謝王老師。我們請年輕的院士給年輕人提點希望。

喬紅：剛才兩位院士講的特別好，我也講三句很抽象的話。第一句話，我覺得年輕的學者還是要保持宏觀率，這個宏觀率就是剛才兩位院士講的寬容度，就是社會對你的需要，他人對你的期望，還有不同領域不同聲音，這個還是需要的。因為如果沒有這種free spirit，你不能接住社會的期望和社會對你的支持。第二句話還是自強自立，就是執行力，怎么把這件事情一步一步堅定的執行下去，需要邏輯力、執行力、信心和堅定的意志。這兩個有點矛盾，一個是宏觀開放的，一個是強硬的。但是第三個我覺得很重要的是開放度，很多的年輕學者本身很強，但是它不能夠接納其他人介入他的小領域，這就造成他不能學習和成長，所以送給大家三個詞，宏觀力、執行力、開放度。

龔克：非常感謝大家。前面談了這么多，我們把智能機器人拆成三個詞：“智能、機器、人，我們在討論他們關系，他們的發展是在這三者的相互關系中發展，今天下午的第一個報告，李培根院士報告就是“智能—機器—人”，希望大家聽聽李先生意見，可能受到一定啟發，我們今天對話就到這兒，感謝大家參與，謝謝各位。