當前，諸如圖像識別、語音識別、自然語言翻譯等AI技術已經(jīng)在移動互聯(lián)網(wǎng)、新型產(chǎn)業(yè)甚至眾多傳統(tǒng)產(chǎn)業(yè)領域得到普遍部署和廣泛應用。以機器學習、深度學習為核心的第二次人工智能的加速成熟，終于迎來了人工智能技術的高光時刻。

       無論是國家、科研機構，還是科技企業(yè)和各個產(chǎn)業(yè)，也都在以滿懷憧憬的熱情來推動著AI從科研學術成果走向產(chǎn)業(yè)落地。

       AI技術的普及速度確實遠超歷次新技術革命帶來的產(chǎn)業(yè)速度，其應用的規(guī)模和深度也正在像電力、石油、互聯(lián)網(wǎng)一樣，被看作新的生產(chǎn)生活的基礎設施。

       在備受AI技術廣闊前景的鼓舞之時，人們也開始意識到AI技術本身也是一把雙刃劍。

       AI既能推動生產(chǎn)效率的提升和產(chǎn)業(yè)的數(shù)字化智能化水平的提升，同時又能帶來全新的技術風險和隱私倫理問題，成為新型詐騙犯罪、黑產(chǎn)牟利的趁手工具。

        更重要的是，AI技術本身也存在一大隱憂。當前主流的深度神經(jīng)網(wǎng)絡等技術具有的“黑箱屬性”，導致AI算法存在不可解釋性。這也就意味著AI技術在算法安全性上存在著不確定因素，可能會在產(chǎn)業(yè)應用落地中出現(xiàn)各種安全隱患和風險。

       正如隨著計算機技術和互聯(lián)網(wǎng)的誕生，計算機病毒、網(wǎng)絡攻擊等危害網(wǎng)絡安全的技術便如影隨形，AI技術的出現(xiàn)和發(fā)展也將始終伴隨著AI安全的種種問題相伴而行。

        AI技術帶給產(chǎn)業(yè)的革命性變革的規(guī)模、價值越大，那么，其安全問題所導致的嚴重后果的影響也就越大。

        當身處數(shù)字化轉(zhuǎn)型升級的各個產(chǎn)業(yè)正在享受這一波新的智能化技術紅利的時候，AI安全問題，就如同網(wǎng)絡安全、信息安全一樣，被提上產(chǎn)業(yè)數(shù)字化建設的日程表了。

        提及AI安全問題，很多人第一反應可能是，通過AI技術進行人臉造假、AI仿聲、AI仿寫假新聞、圖像及視頻造假等帶來的欺詐、隱私安全問題。

        確實，當人們驚嘆于AI技術幾乎快要無所不能的時候，也能很直觀地意識到AI造假帶來的這類安全問題。畢竟AI造假既有輿論話題，又與大眾息息相關。但是對于AI技術本身所蘊藏的算法安全風險，大眾則可能沒有非常直觀的理解。而這一AI安全風險，則是因為這些算法被當做“成熟”技術，廣泛應用在產(chǎn)業(yè)的各個生產(chǎn)場景當中，因而造成更為隱蔽但同樣后果非常嚴重的次生安全問題。

       首先，AI算法本身存在安全漏洞。因為各類機器學習的高度復雜，帶來的“黑箱問題”使得算法不可解釋。這就如同我們乘坐在一架不知道由什么原理制造的發(fā)動機驅(qū)動的飛船上，看似效果還不錯，但是一旦出現(xiàn)問題，發(fā)明者也只能從“發(fā)動機”外部進行各種“嘗試性”修正。

       其次，算法的“黑箱問題”會引發(fā)各類AI系統(tǒng)安全風險，比如惡意機器學習的產(chǎn)生。攻擊者可以利用AI技術漏洞進行“對抗樣本攻擊”和“數(shù)據(jù)污染攻擊”等種種手段，使得AI系統(tǒng)出現(xiàn)判斷失準等問題。

       最后，當這些AI系統(tǒng)應用于某些安全性要求極高的領域，比如安防監(jiān)控、工業(yè)質(zhì)檢、自動駕駛、金融風控以及醫(yī)療診斷上面，一旦AI出現(xiàn)判斷偏差，將會帶來直接的經(jīng)濟財產(chǎn)損失，甚至是人身安全與健康風險等嚴重后果。

       原本要應用于提升生產(chǎn)效率和安全性的AI技術，卻有可能走向自身的反面。AI算法安全問題必須引起這些積極投入智能化的產(chǎn)業(yè)決策者的重視，同樣這一問題也需要得到來自AI技術研究者的積極回應。

       在2018年，信通院發(fā)布的《人工智能安全白皮書》就將“算法安全風險”列為AI領域的六大安全風險之一，指出AI算法當中存在的五種風險：算法黑箱、算法設計缺陷、數(shù)據(jù)依賴、對抗樣本攻擊、算法歧視。

        針對這些算法安全風險，提供AI算法的安全評估檢測成為未來的AI安全的重要發(fā)展方向。

         當前，AI算法模型，由于算法黑箱和算法漏洞的存在，面對攻擊者惡意攻擊難以被檢測。因此，建立可解釋、可溯源、魯棒性強的AI模型成為AI應用落地的根本任務。

         而對抗樣本攻擊又是造成當前AI安全風險中的主要手段 。攻擊者可以在判斷階段對樣本加入少量噪音，誘導算法識別出現(xiàn)誤判，影響判斷結(jié)果。提升對抗樣本攻擊的防御手段，提供算法漏洞檢測技術，也成為AI安全的當務之急。

        隨著產(chǎn)業(yè)智能化落地的加速，AI算法安全已經(jīng)成為一個產(chǎn)業(yè)現(xiàn)實的需求。

         正如技術發(fā)展呈現(xiàn)的“矛與盾”的復雜關系，AI安全也同樣呈現(xiàn)出一種持續(xù)攻防的過程。新的攻擊手段出來，也必然要求有新的防御方法去應對。

         隨著AI技術不斷地成熟，以及在工業(yè)、金融、安防、交通、醫(yī)療教育等領域的實際應用，這場AI安全的攻防賽就會以一種更加復雜和多變的競對狀態(tài)呈現(xiàn)出來。

        目前，大量的AI安全風險已經(jīng)出現(xiàn)，而且很多以常人難以直觀理解的方式出現(xiàn)在AI的應用場景當中。
如果將產(chǎn)業(yè)智能化升級看作一條蓄勢向前的河流，那么，AI算法的豐富拓展了產(chǎn)業(yè)智能化場景的廣度，其成熟和升級決定了產(chǎn)業(yè)智能化的深度，而AI算法的安全可靠，則決定了產(chǎn)業(yè)智能化的長度。
（本文轉(zhuǎn)載自電子發(fā)燒網(wǎng)，如有侵權，請聯(lián)系刪除）