羅德尼布魯克斯 (Rodney Brooks) 是麻省理工學院松下機器人學教授（榮譽），曾擔任麻省理工學院人工智慧實驗室和 CSAIL 的主任。他是 iRobot、Rethink Robotics 和 Robust AI 的共同創辦人, 他目前擔任首席技術長。這篇文章是在他的部落格許可下分享的。

以下是我在該領域工作了近五年後所學到的有關機器人技術的一些知識。為了紀念我童年時期最喜歡的兩位科幻作家艾薩克·阿西莫夫和阿瑟·C·克拉克，我稱它們為我的機器人三大定律。

1. 機器人的視覺外觀預示著它能做什麼以及它有多聰明。它需要兌現或稍微超額兌現該承諾，否則將不會被接受。
2. 當機器人和人類共存於同一空間時，機器人絕不能剝奪人的代理權，特別是當機器人故障時，有時它們不可避免地會出現故障。
3. 機器人技術需要 10 多年的穩定改進，超越目標任務的實驗室演示，才能成熟到低成本，並充分描述其局限性，使其能夠在 99.9% 的時間內交付。每過 10 年，可靠性就會再提高 9 分。

下面我將更詳細地解釋每一條法律。但在一篇相關文章中，我介紹了我的人工智慧三大定律。

請注意，這些法律是從讓機器人在現實世界中工作的角度製定的，人們為機器人付費，人們希望獲得投資回報。這與在實驗室中演示機器人或機器人技術有很大不同。

實驗室裡有一群研究生，他們渴望展示他們辛勤工作的最新想法，以證明其合理性。他們的興趣在於證明他們開發的技術或技術是合理且有前途的。他們將盡一切努力透過演示來照顧機器人以表明這一點，並且他們將熱切地解釋有關他們已開發的內容以及下一步可能發生的一切。

在現實世界中，只有顧客、員工或顧客的親戚。機器人必須在沒有設計和建造人員的外部幹預的情況下工作。它需要為周圍的人提供良好的體驗，否則不會為這些客戶（也許還有其他客戶）帶來更多的銷售。

因此，這些法律並不是關於可能或可以做什麼。它們是關於部署在現實世界中的真實機器人。這些法律與研究論證無關。它們是關於日常生活中的機器人。

外表所給予的承諾

我的各個公司生產了各種機器人並大規模銷售。在設計機器人的視覺外觀時，我們花了很多心思，因為它告訴買家或用戶對它的期望。

iRobot Roomba 經過精心設計，將外觀與功能融為一體。股票

iRobot 的 Roomba 看起來像一個扁平的圓盤。它清潔地板。圓盤的形狀使得它可以在適當的位置轉動而不會撞到任何它尚未撞到的東西。圓盤的外形較低，這樣它就可以進入廚房的腳趾踢處，並清潔廚房櫥櫃稍微懸垂的地板。它看起來不像可以上下樓梯，甚至在房子裡也不能上下一步。它有一個把手，這使得它看起來像是可以被拿起，而且確實可以。與虛構的機器人羅西不同，它看起來不能清潔窗戶，而且也不能。它可以清潔地板，僅此而已。

同樣來自 iRobot 的 Packbot 是一款可遠端操作的軍用機器人，看起來確實非常不同。它有一個履帶輪，就像一輛微型坦克，這種外觀向任何看到它的人保證它可以穿越崎嶇的地形，並且不會被台階、岩石或地形中的掉落所阻擋。 2011 年福島災難發生時，Packbot 能夠在被海嘯摧毀和毀壞的反應器建築中運行，遠端控制打開門把手，駛上碎石覆蓋的樓梯，並將攝影機對準模擬壓力和壓力。安全保護核電廠的工作人員能夠獲得有關核電廠高放射性區域發生情況的一些數據。

iRobot PackBot 在巴格達勝利基地綜合體的聯合機器人維修分隊拾起一個示範物體。阿拉米

機器人學第一定律的重點是警告不要讓機器人看起來比實際情況更多。也許這將為你的公司帶來資金，讓投資者相信，隨著時間的推移，機器人將能夠完成其外觀所暗示的所有事情。但當它不能做那些看起來像它可以做的事情時，它就會讓客戶失望。美化機器人可能會過度承諾機器人作為產品的實際功能。這可能會讓客戶失望。失望的客戶不會成為您的產品/機器人的擁護者，也不會成為重複購買者。

維護人民能動性

人們接受機器人在工作場所可以做的最糟糕的事情就是不讓他們做他們需要做的事情，這讓他們的工作或生活變得更加困難。

在醫院工作的機器人將髒床單或盤子從病人地板帶到要清潔的地方，旨在讓護士的生活更輕鬆。但他們的做法常常恰恰相反。如果機器人不知道發生了什麼，並且在緊急情況下不閃開，它們最終可能會阻礙護士的一些救生工作，例如，將載有危重病人的輪床推到某個地方。 。這並不會讓醫院工作人員喜歡這樣的機器人。它幹擾了他們的主要工作職能，這是員工引以為傲的職能，也是他們從事這類工作的動力。

醫院中機器人的一個較小但仍然不可接受的行為是讓它們在電梯門前等待，中央，並阻擋人們。這使得人們在這種環境下更難做一些他們需要一直做的事情——進出電梯。

我們住在舊金山或德州奧斯汀的人，在過去幾年裡已經親眼目睹了機器人每天煩人的情況。所討論的機器人是自動駕駛汽車，在沒有人類乘坐的情況下在城市中行駛。每次我離開家時，無論是步行還是開車，我都會看到這些機器人。

有些車輛因堵塞十字路口而臭名昭著，其他駕駛、行人或警察絕對無能為力。我們只需要等到一些隱藏在部署它們的公司內部的遠端操作員決定專注於被困的車輛並將其移開。更糟的是，他們會走進火災現場，那裡有消防車、消防員和真正著火的建築物，他們會感到困惑，有時停在消防水龍帶上。

消防員無法移動車輛，也無法與車輛進行通訊。這與人類駕駛員駕駛的汽車形成鮮明對比。消防員可以利用正常的社交互動與駕駛員溝通，並利用他們作為前線響應者在社會中的特權地位，對人類駕駛員施加社會壓力，要求其與他們合作。自動駕駛汽車則不然。

自動駕駛汽車剝奪了人們在街上處理日常事務的權力，但更糟的是，剝奪了消防員的權力，而消防員的職責是保護其他人類。部署的機器人如果不尊重人們以及他們需要做的事情，就不會得到人們的尊重，機器人最終將被取消部署。

每次都能工作的強大機器人

製造在現實世界中可靠工作的機器人很困難。事實上，要製造任何能夠在現實世界中物理運作且可靠的東西都是非常困難的。

為了讓客戶對機器人感到滿意，它必須在每次嘗試任務時表現得都能工作，否則會讓使用者感到沮喪，以至於他們會質疑它是否讓他們的生活變得更好。

但有什麼作用 出現 意思是這裡？這意味著用戶可以假設它會起作用，作為他們對世界上將發生的事情的預設理解。

棘手的部分是機器人與真實的物理世界互動。

軟體程式與易於理解的抽象機器交互，因此它們往往不會因運行它們的硬體以一致的方式執行其中的指令而失敗。這些相同的程式還可以與物理世界交互，無論是人類、網路連接還是滑鼠等輸入設備。然後程式可能會失敗，因為其中的指令是基於現實世界中不滿足的假設。

機器人會受到現實世界中的力量的影響，受到物體相對於它們的確切位置的影響，並受到與行為變化很大的人類的互動的影響。沒有一個由研究生或初級工程師組成的團隊渴望讓機器人在第 8,354 次嘗試中取得成功，以完成以前多次成功的相同的事情。獲得能夠充分適應特定情況和特定時刻的世界不確定變化的軟體是機器人技術面臨的真正挑戰。

精美的影片與每次為客戶工作不同。我們在新聞中看到的有關機器人的大部分都是實驗室演示。沒有數據說明該解決方案的通用性，也沒有說明需要多少時間才能獲得所顯示的影片。更糟的是，有時視訊是遠端操作的或加速了很多倍。

我很少看到一項新技術在實驗室演示不到十年的時間內就被部署到了機器人。需要時間來了解該方法的效果如何，並充分錶徵它，以便在現實世界中自行工作的已部署機器人中不太可能失敗。即使那樣，也會出現故障，並且需要很多年的時間來消除問題區域，並以防禦方式將其建置到機器人產品中，以便故障不再發生。

大多數機器人都需要殺死按鈕或反言停止按鈕，以便人類可以將其關閉。如果客戶覺得有必要按下那個按鈕，那麼製造和銷售機器人的人就失敗了。他們沒有讓它運作得足夠好，以至於機器人永遠不會進入出問題的狀態。