Trust AI@TUV SUD專欄：人工智能在工業(yè)4.0中的應(yīng)用及其安全問題

廣州2022年11月1日 /美通社/ -- 歐盟人工智能（Artificial Intelligence，簡(jiǎn)稱AI。）法案將于2024年強(qiáng)制執(zhí)行， 為協(xié)助中國(guó)人工智能相關(guān)企業(yè)提前應(yīng)對(duì)即將到來的國(guó)際監(jiān)管，TUV南德意志集團(tuán)（以下簡(jiǎn)稱"TUV南德"）已推出人工智能評(píng)估服務(wù)：AI質(zhì)量架構(gòu)評(píng)估方案。

本文為Trust AI@TUV SUD系列專欄的第八篇：人工智能在工業(yè)4.0中的應(yīng)用及其安全問題。

人工智能在工業(yè)4.0中的應(yīng)用

隨著電子商務(wù)的發(fā)展，傳統(tǒng)以產(chǎn)品為導(dǎo)向的工業(yè)生產(chǎn)形式正在被以解決方案和以客戶為導(dǎo)向的理念所取代。工廠收到的生產(chǎn)訂單批量越來越小，差異越來越大，直至完全的個(gè)性化生產(chǎn)。但是由于成本、速度、精度等因素，或者問題的解決超出人類能力范圍，完全的個(gè)性化生產(chǎn)需要生產(chǎn)過程具有更高水平的自主性，而這需要提升生產(chǎn)系統(tǒng)的認(rèn)知能力，只能通過AI技術(shù)來實(shí)現(xiàn)。以定制化的客戶需求為出發(fā)點(diǎn)，生產(chǎn)系統(tǒng)將從"自動(dòng)"轉(zhuǎn)為"自主"，生產(chǎn)和物流策略將在AI的幫助下進(jìn)行自我優(yōu)化。

AI的使用旨在提高工業(yè)流程的效率和有效性。從工業(yè)的角度來看，AI技術(shù)可以被理解為能夠幫助制造系統(tǒng)感知環(huán)境、處理所感知的事物、獨(dú)立解決問題、尋找解決問題的新方法、做出決策的方法和程序，尤其是從經(jīng)驗(yàn)中學(xué)習(xí)，以便制造系統(tǒng)更熟練地完成動(dòng)作和任務(wù)。過程中對(duì)人工干預(yù)的需求減少了。

在工業(yè)4.0的語(yǔ)境下，在工業(yè)流程中實(shí)施AI的關(guān)鍵是資產(chǎn)管理殼(Asset Administration Shell)，它可以連接數(shù)據(jù)源、學(xué)習(xí)機(jī)制、系統(tǒng)邊界和人工干預(yù)。工業(yè)4.0的參考模型架構(gòu) (RAMI 4.0) 的結(jié)構(gòu)化網(wǎng)絡(luò)組件和標(biāo)準(zhǔn)化功能接口也為將 AI技術(shù)集成到工業(yè)生產(chǎn)過程中提供了基礎(chǔ)。

AI在工業(yè)環(huán)境中廣泛應(yīng)用的一個(gè)領(lǐng)域是對(duì)傳感器數(shù)據(jù)的分析和解釋，這些數(shù)據(jù)分布在機(jī)器和生產(chǎn)設(shè)施中。 它記錄機(jī)器各個(gè)不同方面的狀態(tài)，并據(jù)此執(zhí)行動(dòng)作。其核心目的是識(shí)別不明顯的相關(guān)性，比如實(shí)現(xiàn)預(yù)測(cè)性維護(hù)工作。AI還可以用于工業(yè)生產(chǎn)過程中的流程、物流和能耗優(yōu)化，例如，為了響應(yīng)環(huán)境中的波動(dòng)，必須調(diào)整復(fù)雜的相互關(guān)聯(lián)的機(jī)械設(shè)定參數(shù)。"物聯(lián)網(wǎng)"，即分布式數(shù)據(jù)提供者和數(shù)據(jù)用戶的相互通信，是AI的基礎(chǔ)。

人類定義系統(tǒng)邊界

AI包括一系列應(yīng)用程序和技術(shù)。這些應(yīng)用程序和技術(shù)能夠使系統(tǒng)實(shí)現(xiàn)自主功能，并使資產(chǎn)增值。"自主"的能力必須控制在人類定義的系統(tǒng)邊界內(nèi)。由人類定義整體系統(tǒng)要達(dá)到哪一等級(jí)的自主能力，并決定允許AI運(yùn)行的區(qū)域和功能。一個(gè)系統(tǒng)的自主程度不一定由AI的技術(shù)限制決定，還可能受到法律框架、人類行為的預(yù)估或數(shù)據(jù)保護(hù)要求等方面的影響。

自主等級(jí)定義了所使用的AI技術(shù)的系統(tǒng)邊界，即允許執(zhí)行哪些任務(wù)。舉一個(gè)大眾更加熟悉的例子，自主等級(jí)3的自動(dòng)駕駛汽車可以獨(dú)立在高速公路上行駛，但不能獨(dú)立的離開高速公路。等級(jí)3以上的自主系統(tǒng)必須能夠獨(dú)立感知環(huán)境并在指定的系統(tǒng)邊界內(nèi)做出"真正的"自主決策，而無需進(jìn)一步的人工干預(yù)。這引發(fā)了重要的法律問題，例如關(guān)于決策的責(zé)任和可理解性。這些是整個(gè)社會(huì)需要討論的問題，超越了工業(yè)和政治領(lǐng)域，無論是自動(dòng)駕駛還是工業(yè)生產(chǎn)過程中AI的使用。

與簡(jiǎn)單自動(dòng)化過程的經(jīng)典程序相比，在流程更復(fù)雜、決策要求更高的情況下，AI的使用意味著不能每次都獲得完全相同的結(jié)果。這是因?yàn)閷W(xué)習(xí)過程使用了大量的數(shù)據(jù)和信息。 使用AI追求的是不斷優(yōu)化流程并在出現(xiàn)問題時(shí)做出"正確"的決策。 允許AI系統(tǒng)提出的并非完全符合預(yù)期的方案建議， 但是做出的決定必須始終是合理的，并且盡可能符合預(yù)期。

AI對(duì)工業(yè)過程的沖擊可以分為兩個(gè)階段：決策（規(guī)則創(chuàng)建/設(shè)計(jì)）和執(zhí)行（規(guī)則執(zhí)行），可以認(rèn)為分別是決策所需的技能（在編程時(shí)確定）和執(zhí)行決策的動(dòng)作（在執(zhí)行時(shí)產(chǎn)生影響）。在采用了AI輔助技術(shù)的工業(yè)系統(tǒng)設(shè)計(jì)中，系統(tǒng)通過初始學(xué)習(xí)過程進(jìn)行訓(xùn)練，并與部分經(jīng)典編程一起執(zhí)行工業(yè)過程。在初始"設(shè)計(jì)"階段，扮演"監(jiān)督者"角色的人類需要提前決定學(xué)習(xí)過程的許可程度，即哪些數(shù)據(jù)可以用于第一個(gè)學(xué)習(xí)階段。以及允許AI系統(tǒng)在過程控制期間接收哪些數(shù)據(jù)以進(jìn)行進(jìn)一步的學(xué)習(xí)。盡管優(yōu)化過程需要數(shù)據(jù)，但必須避免過擬合。這是因?yàn)閿?shù)據(jù)分析的過擬合會(huì)對(duì)現(xiàn)有的問題解決模型產(chǎn)生負(fù)面影響。規(guī)則的執(zhí)行可以按自主等級(jí)分類。如下圖所示。

人工智能在工業(yè)應(yīng)用中的倫理討論

工業(yè)生產(chǎn)，特別是工業(yè)4.0中使用AI，有很多倫理方面的問題，但是一般來說"強(qiáng)人工智能"不在討論范圍?？梢砸话阈缘恼J(rèn)為，用于工業(yè)過程的AI旨在通過自動(dòng)化流程擴(kuò)展人類的能力。工業(yè)AI應(yīng)用在本質(zhì)上主要是技術(shù)性的應(yīng)用程序，不會(huì)對(duì)人類生活產(chǎn)生重大沖擊。然而，這并不意味著這些應(yīng)用程序不用受制于工業(yè)法規(guī)，例如職業(yè)安全法規(guī)或功能安全法規(guī)。這些法規(guī)，無論是在歐洲或世界各地，都是基于人類社會(huì)長(zhǎng)期發(fā)展而來的基本的倫理原則。

關(guān)于"自主原則"，值得一提的是，機(jī)器的決策傳統(tǒng)上是基于預(yù)先編程的算法做出的，因而是確定性的。但是盡管深度神經(jīng)網(wǎng)絡(luò)可以被人類將參數(shù)設(shè)定在非常狹小的范圍內(nèi)，仍然可能以不確定的方式行動(dòng)。因此，現(xiàn)代AI研究人員將"可解釋性"視為人類增強(qiáng)對(duì)自主AI的信任的重要領(lǐng)域之一。

人工智能對(duì)機(jī)械安全的沖擊

隨著AI，物聯(lián)網(wǎng)和機(jī)器人技術(shù)的發(fā)展，越來越多的不依賴于人類操作員的先進(jìn)機(jī)械投放市場(chǎng)。特別是協(xié)作機(jī)器人，由于可以在環(huán)境中學(xué)習(xí)新的動(dòng)作而變得更加自主。這些先進(jìn)機(jī)械可以實(shí)時(shí)處理信息，自學(xué)習(xí)，自主規(guī)劃移動(dòng)路線，根據(jù)環(huán)境動(dòng)態(tài)調(diào)整或改進(jìn)動(dòng)作，因此給傳統(tǒng)的基于考慮"最壞可能"的風(fēng)險(xiǎn)評(píng)估并固定安全保護(hù)設(shè)置的機(jī)械安全理念提出了新的挑戰(zhàn)。

新版機(jī)械指令草案對(duì)于采用AI的機(jī)械產(chǎn)品及其控制系統(tǒng)增加了很多具體的要求:例如：

在核心職業(yè)健康安全要求(EHSR)中，制造商或其歐盟代理需要執(zhí)行的風(fēng)險(xiǎn)分析和風(fēng)險(xiǎn)降低流程的c)條修改如下:

確定機(jī)械產(chǎn)品生命周期內(nèi)可能產(chǎn)生的危險(xiǎn)及其關(guān)聯(lián)的危險(xiǎn)場(chǎng)景，包括在機(jī)器投放市場(chǎng)的時(shí)刻起可以預(yù)見的，機(jī)器設(shè)計(jì)達(dá)到的自主等級(jí)決定的，全部或部分介入的行為或邏輯可能產(chǎn)生危險(xiǎn)。就此而言，當(dāng)機(jī)械產(chǎn)品集成了AI系統(tǒng)，機(jī)械產(chǎn)品的風(fēng)險(xiǎn)評(píng)估必須考慮為滿足歐洲議會(huì)和歐盟理事會(huì)提出的AI法案所執(zhí)行的風(fēng)險(xiǎn)評(píng)估。

高風(fēng)險(xiǎn)機(jī)械產(chǎn)品清單中增加了兩項(xiàng)與AI相關(guān)的產(chǎn)品(軟件):

24.保證安全功能的軟件，包括AI系統(tǒng) 

25.嵌入了保證安全功能的AI系統(tǒng)的機(jī)械 

人工智能在工業(yè)4.0中的信息安全

• 人工智能與邊緣計(jì)算

由于電子產(chǎn)業(yè)的飛速發(fā)展，AI的應(yīng)用也逐漸邊緣化（邊緣計(jì)算）。大部分AI只有在訓(xùn)練的時(shí)候需要大量計(jì)算能力，而在使用時(shí)，小型設(shè)備即可滿足其運(yùn)算要求，比如手機(jī)。在工業(yè)4.0中，AI的應(yīng)用也逐漸從云中轉(zhuǎn)移到公司內(nèi)部運(yùn)行維護(hù)，這樣也可減少遠(yuǎn)程的成本和風(fēng)險(xiǎn)。但是，雖然在邊緣計(jì)算中的AI應(yīng)用可以極大地提高產(chǎn)業(yè)效率和智能化，但同時(shí)其本身也存在信息安全風(fēng)險(xiǎn)，需要以最新的標(biāo)準(zhǔn)來創(chuàng)建和維護(hù)基于AI的產(chǎn)品可信度。

"Zero Trust Concept"--零信任理念的提出和使用是為了構(gòu)建可信任的、安全的AI系統(tǒng)應(yīng)用。這一理念是在大量迅速且不斷變化的數(shù)據(jù)通信中，這些參與者最初應(yīng)被分配零信任值，隨后在信任評(píng)分系統(tǒng)中"贏得"其他參與者的信任，任何組件都將在數(shù)據(jù)訪問之前先檢查所涉及的身份認(rèn)證和授權(quán)。

同時(shí)，AI的設(shè)計(jì)也應(yīng)提高互操作性，這樣在整個(gè)工業(yè)4.0的流程中獲得更快的速度和更高的穩(wěn)定性。

• 人工智能與工業(yè)4.0價(jià)值鏈

AI也可以為公司價(jià)值鏈提供重要貢獻(xiàn)，可以評(píng)估價(jià)值鏈參與者的各方面，如交付可靠性，支付行為，公司狀態(tài)，產(chǎn)品質(zhì)量，市場(chǎng)定位，定價(jià)策略，經(jīng)濟(jì)形勢(shì)，環(huán)境保護(hù)，等等。在所有生產(chǎn)參與者運(yùn)行期間，杜絕任何異常情況，迅速采取行動(dòng)并更換參與者。但在此類大數(shù)據(jù)互聯(lián)互通的過程中，各數(shù)據(jù)鏈參與者的數(shù)據(jù)訪問以及數(shù)據(jù)保護(hù)的問題便顯露出來。嚴(yán)格的數(shù)據(jù)分離才可以提高此部分的安全性：嚴(yán)格的設(shè)置權(quán)限，只有確切相關(guān)方才可以訪問或修改數(shù)據(jù)。

• 安全數(shù)字身份

在工業(yè)4.0中，會(huì)有大量分布式的智能設(shè)備參與共建整體智能制造的生產(chǎn)流程。也由于這些去中心化的架構(gòu)，設(shè)備數(shù)字身份的分配和管理也變得復(fù)雜。在大規(guī)模生產(chǎn)中，出于成本原因，可能很難要求每個(gè)產(chǎn)品或組件在整個(gè)價(jià)值鏈中都有唯一不可偽造的身份證明。但是AI可以通過一些其他的數(shù)據(jù)來評(píng)估安全身份，如：使用軟硬件、工牌、生物特征來確認(rèn)身份真實(shí)性；要求通信參與者的安全通信屬性（如加密和通信的方式和級(jí)別）；數(shù)據(jù)的可審查性和可追溯性。AI也可以通過學(xué)習(xí)行為模式來檢測(cè)偽造身份的攻擊，如：溝通頻率的變化，通信時(shí)的安全屬性區(qū)別，響應(yīng)速度的區(qū)別，網(wǎng)絡(luò)地址的異常，數(shù)據(jù)非常規(guī)變化等。

• 信任基礎(chǔ)設(shè)施

目前工業(yè)4.0相關(guān)工作組仍在討論應(yīng)如何建造全球AI信任基礎(chǔ)設(shè)施（Trust infrastructure）。但這個(gè)信任基礎(chǔ)設(shè)施是對(duì)全球價(jià)值鏈安全運(yùn)行的先決條件，可以提供必要的安全功能從而使各價(jià)值鏈來建立安全的身份認(rèn)證和通信，同時(shí)保護(hù)網(wǎng)絡(luò)攻擊。在現(xiàn)有設(shè)施，如PKI（Public Key Infrastructures）和CA（Certificate Authorities）中，AI可以通過識(shí)別異常通信來保護(hù)此類設(shè)施，如：非常規(guī)通信路徑，異常證書組合，首次認(rèn)證后的異常行為等。

• 基于特性的訪問控制

可以對(duì)每個(gè)組件設(shè)置在不同生產(chǎn)狀態(tài)下基于不同條件的規(guī)則集（如時(shí)間、數(shù)據(jù)類型、天氣、溫濕度、功耗轉(zhuǎn)速、依賴關(guān)系等）。對(duì)于如此龐大的規(guī)則集，使用AI可以對(duì)其模擬進(jìn)行復(fù)雜測(cè)試，并在使用過程中迭代更新，而且可以實(shí)時(shí)監(jiān)控分析出現(xiàn)的任何異常情況。

• 協(xié)同狀態(tài)監(jiān)控

協(xié)同狀態(tài)監(jiān)控(Collaborative Condition Monitoring)可以應(yīng)用在以上組件的協(xié)作場(chǎng)景。在一條價(jià)值鏈中，兩個(gè)安全組件通過安全通信相互溝通，基于信任基礎(chǔ)設(shè)施確保認(rèn)證安全，并通過基于特性的訪問控制讀取數(shù)據(jù)。AI可以在其中檢測(cè)未經(jīng)授權(quán)或異常的訪問和任何異常數(shù)據(jù)流，監(jiān)控人員也可以通過AI的匯總報(bào)告檢索所有信息。

• 資產(chǎn)管理殼

資產(chǎn)管理殼在工業(yè)4.0中的應(yīng)用是極其重要的，不只因?yàn)槠湄?fù)責(zé)了整體系統(tǒng)的信息安全，更因?yàn)樗烁鞣N生產(chǎn)數(shù)據(jù)和商業(yè)機(jī)密。AI在監(jiān)控?cái)?shù)據(jù)間諜活動(dòng)和數(shù)據(jù)篡改操縱方面非常有用，而人類很難對(duì)這些不同屬性的龐大數(shù)據(jù)進(jìn)行實(shí)時(shí)分析和管理。但AI的分析結(jié)果很難用同一AI軟件進(jìn)行解釋，因此也同時(shí)需要輔助工具，以便人類對(duì)其警報(bào)進(jìn)行最終分析和做出決定。

結(jié)語(yǔ)

AI的應(yīng)用可以極大的提高工廠的智能化程度，如：自動(dòng)化、驅(qū)動(dòng)控制、生產(chǎn)維護(hù)、生產(chǎn)優(yōu)化、異常及殘次品檢測(cè)。但同時(shí)AI方案在工廠的應(yīng)用中也有很多局限性因素：不能達(dá)到100%的覆蓋率，很難分析錯(cuò)誤原因，數(shù)據(jù)質(zhì)量難以保證，在實(shí)施中太過專業(yè)性，先進(jìn)機(jī)械日益提升的自主性和協(xié)作性給機(jī)械安全帶來的挑戰(zhàn)，邊緣計(jì)算帶來的信息安全等問題。

在選擇適合工業(yè)4.0的AI應(yīng)著重考慮以下屬性：基于產(chǎn)線機(jī)械及傳感器數(shù)據(jù)的應(yīng)用；使用遷移學(xué)習(xí)的方法以更容易適應(yīng)新工廠環(huán)境；適用復(fù)雜的傳感器數(shù)據(jù)網(wǎng)絡(luò)；易用性；信息安全。

對(duì)于日益采用AI實(shí)現(xiàn)自主和協(xié)作功能的智能機(jī)械設(shè)備，其制造商，系統(tǒng)集成商和終端業(yè)主都必須執(zhí)行全面的，覆蓋機(jī)械安全和信息安全的風(fēng)險(xiǎn)評(píng)估，并向歐盟公告機(jī)構(gòu)申請(qǐng)合規(guī)性評(píng)定。