機器人正變得更加智能、更具能力，也更加普及，這為新一輪增長奠定了基礎，這一增長將在未來幾十年觸及半導體和軟件行業的幾乎每一個部分。

機器人是物理 AI 的核心。物理 AI 是邊緣 AI 系統的一個廣泛分支，通過人工智能和傳感器與現實世界交互。這包括從類人機器人到無外觀的工業機器人、機器狗、無人機，以及越來越自主的車輛。未來，機器人將與人類并肩工作，無論是在工作場所、家庭中，還是在醫療保健環境中，作為陪伴者或助手。

直到最近，工業機器人周圍還設有很大的安全區域，以防止意外傷害人類。這種情況正在開始改變。更好的 AI 模型、機器學習、無線協議以及傳感器融合，使機器人能夠在靠近人的情況下工作。但錯誤仍然可能發生，就像自動駕駛車輛偶爾會誤判交通狀況并引發事故一樣。

Cadence 驗證軟件產品管理高級集團總監 Matthew Graham 表示：“如果物理 AI 系統完全不受約束，事故發生的可能性是存在的。這也是我不認為我們正處于 AI 完全取代人工參與邊緣的原因之一。AI 是當今價值所在，也是生產力提升的來源。但歸根結底，在自動駕駛車輛、自主機器人以及自主工業系統（包括機器人、無人機等）方面，要獲得所需的認證，你必須能夠向評估機構——無論是 TüV SüD、CSA 還是 UL——證明你已經充分驗證并認證該系統是安全的，而且仍然有人工簽字確認。”

特斯拉的 Robotaxi 和 Waymo 的自動駕駛汽車表明，自主物理 AI 是可行的。Keysight EDA 首席安全分析師 Rajesh Velegalati 表示：“然而，無人機和機器人在自由度、失效模式和功耗預算等方面與汽車系統不同。汽車與無人機/機器人的監管成熟度也不同。汽車的監管更加明確，而機器人則不然。這需要被解決。”

工程師必須確定物理 AI 系統在“車輛—機器人—吸塵器”這一連續譜中的位置，并采用相匹配的安全標準。

英飛凌科技電源與傳感系統事業部總裁 Adam White 表示：“我們已經受命在整個行業中調查并回答一個問題：‘功能安全的分區到底發生在哪里？’是否需要？如果需要，機器人或類人機器人中的哪些部分需要滿足功能安全法規？只是微控制器嗎？還是一直延伸到功率級？這些正是我們目前公開討論的問題。我在亞洲看到的是更快的節奏。他們沒有等待功能安全，而是構建他們能做的東西并迅速推出，以展示或證明這項技術。我同意這是顯而易見的，因為如果這些機器人或類人機器人與人類有任何交互，那么你就必須具備功能安全。我們的問題在于：‘需要多少？以及在哪里需要功能安全？’這有點類似于當今的車輛。有些部件遵循功能安全，但你的收音機、座艙、速度表或顯示器是否需要功能安全？”

隨著機器人越來越多地與人類互動，功能安全的根本在于評估最壞情況下可能發生什么。英飛凌 ADAS 戰略與營銷部門、移動出行領域總監 Paula Jones 表示：“你從最壞的情況開始分析，然后根據你認為的安全閾值來開發組件和系統。過去，工廠里的機器人要么與人類隔離，要么采取極端安全措施。現在我們看到越來越多的人機交互，功能安全標準正在向機器人行業遷移，網絡安全也是如此。”

汽車安全與安保標準組織（SSO）在標準化汽車微電子的防篡改安全特性方面處于領先地位。Rambus 硅安全產品高級總監 Scott Best 表示：“包括大量美國國防微電子供應商在內的所有人都在遵循他們的做法。原因多種多樣，但歸根結底是人身安全，因為汽車安全系統中的安全漏洞會帶來直接而明顯的人身傷害風險。重要的是，汽車 SSO 取得的進展可以直接轉化到機器人或物理 AI 系統中。畢竟，自動駕駛汽車就是一個有輪子的機器人，而帶有自主飛行專家系統的無人機就是一個會飛的機器人。”

汽車與機器人標準

在功能安全和 AI 應用方面，機器人與相鄰領域之間存在大量協同與相似之處。Imagination Technologies 系統與功能安全工程專家 Andrew Johnston 表示：“你可能會遇到‘標準癱瘓’，也就是說，你該看哪個標準？它們都在講類似但又不同的內容。機器人標準通常以事實上的功能安全標準 IEC 61508 為基礎發展，但同時也存在針對機械和其他所有自主系統（包括車輛）的相鄰標準。”

目前，一些標準明確排除了在高完整性功能中使用 AI。Johnston 指出：“新興標準正試圖找到一種可信的方法，將 AI 納入安全保證案例中，無論是在設計和開發生命周期中，還是作為產品本身的技術，或兩者兼有。隨著機器學習相關技術的發展，以及對 ML 在某些應用中益處的理解不斷加深，標準也必須隨之演進。有時這有點像‘先有雞還是先有蛋’的問題。”

對冗余、功能安全以及符合 ISO 26262 等標準的需求，正在影響物理 AI 的設計。Graham 表示：“我們的客戶正在推動我們確保工具獲得認證，能夠提供認證流程，并讓他們使用這些流程來認證自己的器件。”

無論是無人機、車輛還是機器人，物理 AI 都可能面臨來自高溫、低溫、天氣、濕度或環境毒素的嚴苛條件，這正是可選功能安全與可靠性交叉的地方。Synopsys 移動、汽車與消費 IP 產品管理執行總監 Hezi Saar 表示：“要么是 ASIL 用于安全，要么是 AEC-Q100 的 2 級（可在 -40°C 至 +105°C 的環境溫度范圍內可靠運行）。一些機器人開發者正在追求這些。有的在工廠中，有的面向市場中顯而易見會立即被接受的應用，例如幫助老年人，以及從事危險工作，如清潔摩天大樓外窗。”

機器人領域的標準與全球進展示例包括：

• ISO 13482：個人護理機器人

• ISO 13849：機械機器人安全

• ISO 10218：工業機器人，包括自主移動機器人（AMR）

• ANSI/RIA R15.08：自主移動機器人

• 區域性衍生標準，如日本的 JIS B 8445 和加拿大的 CSA Z434

• IEEE 機器人與自動化學會（RAS）安全、安全防護與救援機器人技術委員會（SSRR）

新興標準與研究包括：

• UL 4600：一個強調系統級危害評估的自主產品安全關鍵框架

• IEC 61508：關注電氣和電子系統的功能安全，為類人機器人傳感與控制系統提供參考

• BSI 8611：為公共空間中的機器人安全提供倫理指南，這對在工業環境之外運行的類人機器人至關重要

這些標準表明機器人行業正在考慮安全問題，但它們在全球范圍內會被多廣泛采用仍不清楚。Saar 表示：“至少在討論標準化以及系統層面和應用層面的安全問題。我不確定實施情況如何，但作為一名消費者、作為一個人類，我更擔心的是我們正在加速 AI 創新，而全球范圍內的法規卻尚未到位。有時教授 A、B、C 會警告說：‘你們打算怎么辦？我們必須確保所有人都遵循同樣的規則，而在這篇論文中，我們正在推進技術，并假設每個人都會守規矩。’”

圖 1： 展示機器人創新的示意圖，突出移動計算、安全特性以及各種技術規格。
來源：Synopsys

物理 AI 仿真與現實世界安全措施

對于軟件定義車輛和物理 AI 系統而言，安全必須從仿真階段一直考慮到原型階段。Siemens EDA 汽車與軍工航天混合物理與虛擬系統副總裁 David Fritz 表示：“為了讓軟件定義的方法論奏效，你要從一個純虛擬的東西開始。它必須是有價值的。軟件團隊和硬件團隊需要在數小時甚至數分鐘內快速迭代。他們不斷嘗試各種方案，試圖迭代到能夠證明滿足某些硬件要求的程度。這是純虛擬的，是最低保真度，但足以通過第一個關卡。接下來我們進入更高的保真度階段，我們不再只是建模硬件行為，而是直接建模硬件本身，在門級或信號級，同時仍然運行擬定的量產軟件。混合階段介于虛擬與物理之間。”

在這一過程的最后，是一個真正的物理實體原型。“它可能是一架飛機、一枚火箭或一輛汽車，”Fritz 說。“你之所以需要它，是因為你已經在虛擬環境中進行了數百萬次仿真，在混合環境中也進行了數百萬次測試，所有要求都通過了，但你仍然需要驗證在真實物理載體中是否能獲得相同結果，至少要驗證最佳情況、最壞情況和典型情況，以確保你沒有被某個仿真漏洞所誤導。這就是成功完成這些項目所需的完整保真度譜系。”

英偉達將其用于自動駕駛汽車的 Halos 安全計劃應用于機器人領域，其中包括仿真。英偉達 Omniverse 與仿真技術副總裁 Rev Lebaredian 表示：“安全必須貫穿整個技術棧，從最上層的軟件一直到底層芯片和系統級。我們在自動駕駛和機器人領域的軟硬件之間存在大量重疊，因此我們將其應用到機器人中。這是一項非常龐大的工作，涉及許多方面。功能安全有許多最佳實踐、指南和防護措施，用于評估和測試這些 AI。其中很大一部分是在將系統部署到現實世界之前，在仿真中進行大量測試。這就是為什么構建與現實世界盡可能匹配的物理精確仿真器如此關鍵。我們可以在各種環境中對這些機器人及其編隊進行數百萬小時的運行測試，然后再將它們投放到真實世界，賦予它們物理形態。”

無論是在汽車還是機器人領域，物理 AI 都可以通過訓練來建立環境感知能力，但仍然存在局限。Johnston 表示：“你可以用大量表面上看起來很好的數據來訓練車輛控制器，比如道路、路況、交通標志和溫度變化，并利用多種傳感輸入。但作為人類，當我們到了可以開車的年齡，我們已經在特定環境中成長，具備一定的價值觀、內在的道德和倫理理解以及社會責任。這些是非常難以訓練給計算機的。等你開始駕駛時，你已經在這個星球上生活了 16 或 18 年，經歷過各種社會環境，學會了人類如何互動，學會了風險管理和社會責任。其中有好的，也有不好的。你如何在僅有操作或環境態勢感知之上，再去訓練一個機器學習模型具備這些？如果你試圖建模一個人類，即便你能量化這些輸入數據，它們也會廣泛得多、復雜得多。這也是為什么我更傾向于使用‘機器學習’這個術語，因為很多模型并不是真正智能的。”

隨著機器人走出封閉的工業環境并進入現實世界，更多類型的安全控制正在出現。英偉達機器人與邊緣 AI 副總裁兼總經理 Deepu Talla 在 OktoberTech 上表示：“隨著我們發明新技術，安全要求已經很高，但當我們最終達到數十億甚至數百億類人機器人與我們共存、協同工作時，安全要求還會更高。安全方面還有大量工作要做，但令人興奮的是，我們不僅可以在機器人內部、機器人本體上實施安全，還可以構建類似空中交通管制的場景。每一架飛機都是自主的，或者有飛行員，但如果沒有空中交通管制員，它們無法獨立完成任務。”

例如，在中國，一家公司正在運營無人機配送。“他們面臨的額外復雜性在于高度，以及在城市區域中使用哪些飛行路徑，”White 表示。“你通過無人機訂購商品，它把貨物投放到指定位置，他們必須決定使用哪條飛行路徑起飛，并獲得當地機構的批準。這是下一個層級。”他還指出，最終車輛將能夠檢測道路是沙地、積雪、泥地或其他類型，并相應調整其行為。

提升物理 AI 安全性

高精度 GPS 以及超寬帶（UWB）等無線協議可以幫助提升移動中物理 AI 的安全性。White 表示：“在我們自己的設施以及后端設施和測試中，內部有非常精確的 GPS 定位，隨時知道機器人確切的位置。我們能夠在將要建立的某種基站頻譜內，以極高精度追蹤所有設備。這有點像空中交通管制，我們清楚知道每個對象的去向。”

企業可以通過利用工廠或制造設施中的所有傳感器來部署安全機制。“你可以看到工廠車間中每一個自主或半自主機器人，甚至類人機器人的運行情況，”Talla 表示。“無論是在機器人內部還是外部，安全方面都有大量工作需要完成。”

圖 2： 討論類人機器人未來的幻燈片，重點關注大腦功能、運動、感知和電源系統等先進技術。
來源：TSMC

汽車與物理 AI 的架構交叉

從架構角度看，汽車行業正在從遍布各處 ECU 的分布式架構，轉向集中式系統，物理 AI 似乎也將遵循這一趨勢。Jones 表示：“這帶來了許多好處。其中一個關鍵優勢是汽車 OEM 或分級供應商可以進行空中軟件更新。他們可以縮小模塊尺寸，并啟用許多其他功能，包括 AI。我們在機器人領域也看到了類似的活動，那里有一個集中式計算機，同時在機器人中還有一些較小的區域，例如機械臂區域。”

圖 3： 機器人開發中的區域計算示意圖。
來源：Infineon

其他人也認同物理 AI 將遵循與汽車類似的趨勢。Arteris 首席營銷官 Michal Siwinski 表示：“你將看到物理 AI 中出現類似區域化的架構，因為歸根結底，機器人和汽車有什么區別？它們都會移動。它們都需要是關鍵任務系統，只是移動方式不同。我們認為整個工業 4.0、物理 AI 及其演進，與自治和自主性高度相關，而這些主要是由汽車行業驅動的，因此汽車行業在這方面可能是最好的代理行業。”

此外，車輛、機器人和物理 AI 系統可以部署專為實時功能和可靠性設計、并內置安全機制的邊緣 AI 處理器。Synaptics 物聯網與邊緣 AI 處理器業務副總裁兼總經理 John Weil 表示：“你可以在制造線上部署基于視覺的系統，或用于機器人及其他應用，在這些場景中你需要高度可靠的執行路徑，但仍希望能夠運行當今現代的 AI 算法或模型。錦上添花的是，還能實現高度安全性。”

對于連接到大語言模型（LLM）的物理 AI 系統，其可能連接互聯網或數據中心，這也帶來了自身的風險。Weil 表示：“當你引入一種不再是緊耦合嵌入式模型的模型——不再只是輸入一個信號就輸出一個結果，而是一個隨時做出決策的模型——安全性就變得至關重要。”

中國速度

到目前為止，在機器人采用方面，中國處于領先地位。White 指出：“在機器人領域，中國已經列車出站，勢不可擋。”

此外，中國汽車行業的發展趨勢可能預示著物理 AI 發展的下一步。

Synaptics 高級副總裁兼首席戰略官 Satish Ganesan 表示：“目前增長最快的汽車市場在亞洲，尤其是中國。中國的汽車市場比世界其他地區更具消費屬性，而其他地區則面臨一定的放緩。汽車消費化將出現融合，電動車和自動駕駛車輛將獲得更多關注，很多事情會更快發生。這不會像過去那樣被法規拖慢。將會有兩個方面：車輛運行和自動駕駛將受到監管，而軟件方面的監管相對較少。我確實知道，汽車公司正在使用 AI 來進行開發。”

結論

總體而言，這是物理 AI 的重要時刻，它由大語言模型和小語言模型、多模態傳感器以及仿真技術的發展所推動，同時還受到勞動力短缺以及美國和歐洲等地區大規模再工業化的影響。Talla 表示：“如果將這三點結合起來，我們已經進入了機器人和物理 AI 的黃金時代，在未來 10 年的軌跡中，我們可以解決其中一些問題。即便自動化已經存在了 50 多年，幾乎沒有什么問題真正被解決。在過去 10 年里，即使有了深度學習、一些 Transformer 以及視覺 Transformer，今天部署的大多數 AI 仍然非常脆弱，且高度專用。我們需要邁向通用型。”