在 2018 年夏威夷周圍的一次研究航行中，張月寧 SM ’19、PhD ’24 看到了保持一艘緊密的船是多麼困難。繪製水下地形所需的仔細協調有時可能會給團隊成員帶來壓力，他們可能對必須在自發性變化的條件下完成哪些任務有不同的理解。在這些旅行中，張思考了機器人伴侶如何幫助她和她的船員更有效地實現他們的目標。
六年後，作為麻省理工學院計算機科學與人工智慧實驗室（CSAIL）的研究助理，張開發了一個被認為是缺失的部分：一個人工智慧助手，可以與團隊成員進行溝通，以協調角色並實現共同目標。在國際機器人與自動化會議(ICRA) 上發表並於8 月8 日發表在IEEE Xplore 上的一篇論文中，她和她的同事提出了一個系統，可以監督人類和人工智慧代理團隊，在需要時進行幹預，以潛在地提高工作效率。
CSAIL 領導的小組開發了一種人工智慧代理的心理理論模型，該模型代表了人類在合作執行任務時如何思考和理解彼此可能的行動計劃。透過觀察其他特工的行為，這位新的團隊協調員可以從先前的信念中推斷出他們的計劃以及對彼此的理解。當他們的計劃不一致時，人工智慧助理會透過調整他們對彼此的信念、指導他們的行動以及在需要時提出問題來進行幹預。
例如，當一組救援人員在現場對受害者進行分類時，他們必須根據對彼此的角色和進展的信念做出決定。 CSAIL 的軟體可以改善這種類型的認知規劃，該軟體可以發送有關每個代理人打算做什麼或已經做什麼的訊息，以確保任務完成並避免重複工作。在這種情況下，人工智慧助理可能會進行幹預，告知特工已經前往某個房間，或者沒有特工覆蓋有潛在受害者的特定區域。
「我們的工作考慮到了這樣一種情緒：『我相信你相信別人所相信的，』」張說，他現在是 Mobi Systems 的研究科學家。 「想像一下，你正在一個團隊中工作，你會問自己，『那個人到底在做什麼？我要做什麼？他知道我要做什麼嗎？我們模擬不同的團隊成員如何理解總體計劃，並溝通他們需要完成什麼以幫助完成團隊的總體目標。
人工智慧來救援
即使有一個複雜的計劃，如果人類和機器人代理的角色不明確，他們也會遇到混亂，甚至犯錯。這種困境在搜救任務中尤其突出，其目標可能是在有限的時間和廣闊的掃描區域中找到處於危險中的人。值得慶幸的是，透過新的機器人助理增強的通訊技術可能會通知搜尋方每個小組正在做什麼以及他們正在尋找的地方。反過來，特工可以更有效地導航他們的地形。
這種類型的任務組織可以幫助完成手術等其他高風險情境。在這些情況下，護理師首先需要將病人帶到手術室，然後麻醉師讓病人入睡，然後外科醫師開始手術。在整個手術過程中，團隊必須持續監測患者的狀況，同時動態地回應每位同事的行動。為了確保程序中的每項活動都組織良好，如果對這些任務中的任何一項出現混淆，人工智慧團隊協調員可以進行監督和介入。
有效的團隊合作也是像《Valorant》這樣的電子遊戲不可或缺的一部分，玩家可以協作協調誰需要在線上攻擊和防禦另一個團隊。在這些情況下，人工智慧助理可能會出現在螢幕上，提醒個人用戶他們在哪裡誤解了需要完成的任務。
在領導模型的開發之前，張設計了 EPike，這是一種可以充當團隊成員的計算模型。在 3D 模擬程式中，演算法控制機器人代理，該代理需要將容器與人類選擇的飲料相匹配。儘管它們可能是理性和複雜的，但這些人工智慧模擬機器人由於對人類夥伴或任務的誤解而受到限制。新的人工智慧協調員可以在需要解決潛在問題時糾正代理人的信念，並且在這種情況下始終進行幹預。該系統向機器人發送有關人類真實意圖的訊息，以確保它正確匹配容器。
麻省理工學院航空航天學教授、CSAIL 成員和高級作者 Brian C. Williams 表示：「多年來，在我們的人機協作工作中，人類夥伴的流動性讓我們既感到謙卑，又受到啟發。」研究。 「看看一對帶著孩子的年輕夫婦，他們一起為孩子們準備早餐，然後一起去學校。如果其中一位家長看到自己的伴侶在準備早餐，但還穿著浴袍，家長就會知道趕快洗澡，然後拖著孩子去上學，無需多說一句話。好的合作夥伴彼此的信念和目標非常一致，我們在認知規劃方面的工作努力捕捉這種推理風格。
研究人員的方法將機率推理與代理的遞歸心理模型結合，使人工智慧助理能夠做出風險有限的決策。此外，他們還關注建模代理對計劃和行動的理解，這可以補充先前對當前世界或環境的信念進行建模的工作。人工智慧助理目前根據給定的可能信念先驗推斷智能體的信念，但麻省理工學院的團隊設想應用機器學習技術來動態產生新的假設。為了將此對應物應用到現實生活中的任務中，他們還致力於在工作中考慮更豐富的計劃表示並進一步降低計算成本。
動態物件語言實驗室主席 Paul Robertson、約翰霍普金斯大學助理教授 Tianmin Shu 以及前 CSAIL 附屬機構 Sungkweon Hong 博士 ’23 與張和 Williams 一起發表了這篇論文。他們的工作部分得到了美國國防高級研究計劃局 (DARPA) 成功團隊人工智慧社會智慧 (ASIST) 計劃的支持。
