以大腦為模型研究人員開發出更強大的人工智能

2023-09-19 11:05:13來源：蓋世汽車關鍵詞：人工智能系統神經網絡閱讀量：24758

導讀：研究人員針對此類攻擊設計過一些防御技術，但存在一定的局限性。據外媒報道，東京大學醫學系研究科的應屆畢業生Jumpei Ukita和Kenichi Ohki教授設計并測試了一種改善ANN防御機制的新方法。

　　大多數人工智能系統都基于神經網絡，其算法受到大腦中生物神經元的啟發。然而，某些人類可以理解的視覺輸入等信息，可能被人工神經網絡(ANN)解釋為完全不同的東西，比如圖像分類系統將貓誤認為是狗，甚至是無人駕駛汽車可能將停車信號誤認為是優先通行標志。

　　由于不一定總是視覺性輸入，看一眼就分析出系統出錯的原因并不那么容易。攻擊者可能利用這一點來破壞基于人工神經網絡的系統，例如巧妙地改變預期輸入模式，使其被誤解。這樣系統將出現錯誤行為，甚至可能出現問題。

　　研究人員針對此類攻擊設計過一些防御技術，但存在一定的局限性。據外媒報道，東京大學醫學系研究科(University of Tokyo Graduate School of Medicine)的應屆畢業生Jumpei Ukita和Kenichi Ohki教授設計并測試了一種改善ANN防御機制的新方法。

　　Ohki表示：“神經網絡通常由虛擬神經元層組成。第一層通常負責通過識別與特定輸入相對應的元素來分析輸入信息。攻擊者可能提供一些帶有偽影(artifact)的圖像，欺騙網絡對其進行錯誤分類。針對這種攻擊的常見防御措施，可能是故意在第一層中引入一些噪聲，從而更好地適應視覺場景或其他輸入集，但是這種方法并不總是有效。研究人員認為，可以通過超越輸入層，深入到網絡內部來改善這個問題。”

　　除了計算機，Ukita和Ohki還研究了人類的大腦，因此在人工神經網絡中使用他們所知道的現象，不僅要在輸入層中添加噪聲，還要在更深的層中添加噪聲。這種做法通常是避免采用的，因為在正常情況下可能影響網絡的有效性。然而，結果正好相反，噪聲提高了他們測試的人工神經網絡的適應性，從而降低了其對模擬對抗性攻擊的敏感性。

　　Ukita表示：“第一步是設計一種假設的攻擊方法，使其攻擊深度超過輸入層。這種攻擊需要承受輸入層上具有標準噪聲防御的網絡的回彈(resilience)。這些被稱為特征空間對抗示例。這些攻擊的工作原理是，故意提供超出(而不是接近)ANN可以正確分類的輸入。其訣竅是向更深層呈現微妙的誤導性偽影。一旦這樣的攻擊表現出危險性，研究人員就會將隨機噪聲注入網絡中更深的隱藏層，以提高它們的適應性，從而提高防御能力。結果證明這是有效的。”

　　該團隊希望進一步開發這項技術，使其能夠更有效地抵御預期攻擊，以及尚未測試過的其他攻擊類型。目前的防御僅針對特定類型攻擊。Ukita表示：“未來的攻擊者可能會考慮避開這項研究中提到的特征空間噪聲。事實上，進攻和防御是同一枚硬幣的兩面，是一場雙方都不會退縮的競賽。因此，研究人員需要不斷迭代、改進和推出創新想法，以保護大家日常都在使用的系統。”

上一篇：116億！又一儲能系統項目開工！

下一篇：真有“外星人”？一顆“超級地球”有無生命亟待太空望遠鏡證實

我要評論

昵稱

匿名

文明上網，理性發言。（您還可以輸入200個字符)

表情

所有評論僅代表網友意見，與本站立場無關。

一周趣評：Meta用AI接管90%產品風險評估；榮耀官宣進軍機器人業務
2025年5月26日-6月1日，人工智能系統、光子計數CT、超級計算機、機器人等領域都呈現出了哪些有趣動態和精彩故事呢？我們一起來看一看吧！
人工智能系統光子計數CT超級計算機
2025-06-03 17:34:41
蘋果開發出新款AI：可“看懂”屏幕內容并語音回復
ReALM系統通過運用大語言模型技術，巧妙地將識別屏幕視覺元素這一復雜任務轉化為純語言處理問題。
蘋果AI人工智能系統
2024-04-04 08:30:50
全球首個！歐洲議會正式批準歐盟《人工智能法案》
歐洲議會正式投票通過并批準歐盟《人工智能法案》，內容包括將嚴格禁止“對人類安全造成不可接受風險的人工智能系統”。
人工智能法案人工智能系統
2024-03-14 09:16:49
行業觀點：新一代人工智能為智能數字進步的新時代鋪平了道路
預計到2030年，人工智能將為全球經濟貢獻15.7萬億美元，帶動全球GDP增長14%。
人工智能人工智能系統
2024-03-08 14:02:32
邊緣人工智能在實時數據分析和決策中的作用
展望2024年及以后，GPT-4及更高版本、創意人工智能等是需要關注的五大生成式人工智能趨勢。
邊緣人工智能人工智能系統
2023-10-25 09:11:26
人工智能 (AI) 為綜合物流提供動力的關鍵方式
人工智能有可能成為物流領域的下一個根本性技術變革，就像互聯網和移動技術改變我們的生活和工作方式一樣。
人工智能系統綜合物流
2023-09-26 08:56:48

版權與免責聲明：

凡本站注明“來源：智能制造網”的所有作品，均為浙江興旺寶明通網絡有限公司-智能制造網合法擁有版權或有權使用的作品，未經本站授權不得轉載、摘編或利用其它方式使用上述作品。已經本網授權使用作品的，應在授權范圍內使用，并注明“來源：智能制造網”。違反上述聲明者，本站將追究其相關法律責任。

本站轉載并注明自其它來源（非智能制造網）的作品，目的在于傳遞更多信息，并不代表本站贊同其觀點或和對其真實性負責，不承擔此類作品侵權行為的直接責任及連帶責任。如其他媒體、平臺或個人從本站轉載時，必須保留本站注明的作品第一來源，并自負版權等法律責任。如擅自篡改為“稿件來源：智能制造網”，本站將依法追究責任。

鑒于本站稿件來源廣泛、數量較多，如涉及作品內容、版權等問題，請與本站聯系并提供相關證明材料：聯系電話：0571-89719789；郵箱：1271141964@qq.com。