機(jī)器學(xué)習(xí)模型受到攻擊將產(chǎn)生嚴(yán)重的后果，但如果對這一情形提前預(yù)防呢?就像人類針對即將到來的病毒去接種疫苗一樣。據(jù)澳大利亞聯(lián)邦科學(xué)與工業(yè)研究組織(CSIRO)官方網(wǎng)站消息，該機(jī)構(gòu)的一個研究團(tuán)隊(duì)，日前開發(fā)了一套人工智能(AI)最新算法，可幫助機(jī)器學(xué)習(xí)抵御可能遇到的干擾。
機(jī)器學(xué)習(xí)是人工智能的核心，也是使計(jì)算機(jī)具有智能的根本途徑。機(jī)器學(xué)習(xí)主旨是讓計(jì)算機(jī)去模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識或技能，并重新組織已有的知識結(jié)構(gòu)，使之不斷改善自身的性能。
機(jī)器學(xué)習(xí)雖然可以在大數(shù)據(jù)訓(xùn)練中學(xué)到正確的工作方法，但它也很容易受到惡意干擾。通常攻擊者是通過輸入惡意數(shù)據(jù)來“欺騙”機(jī)器學(xué)習(xí)模型，導(dǎo)致其出現(xiàn)嚴(yán)重故障。
此次，開發(fā)出新算法的研究團(tuán)隊(duì)——“Data61”機(jī)器學(xué)習(xí)小組領(lǐng)導(dǎo)者理查德·諾克表示，攻擊者會在進(jìn)行圖像識別時，在圖像上添加一層干擾波，達(dá)到“欺騙”的目的，從而讓機(jī)器學(xué)習(xí)模型產(chǎn)生錯誤的圖像分類。
諾克及其團(tuán)隊(duì)成員研發(fā)的新算法，通過一種類似疫苗接種的思路，可以幫助機(jī)器學(xué)習(xí)“修煉”出抗干擾能力。這是針對機(jī)器學(xué)習(xí)模型打造的防干擾訓(xùn)練，譬如，在圖片識別領(lǐng)域，該算法能夠?qū)D片集合進(jìn)行微小的修改或使其失真，激發(fā)出機(jī)器學(xué)習(xí)模型“領(lǐng)會”到越來越強(qiáng)的抗干擾能力，并形成相關(guān)的自我抗干擾訓(xùn)練模型。
經(jīng)過此類小規(guī)模的失真訓(xùn)練后，最終的抗干擾訓(xùn)練模型將更加強(qiáng)大，當(dāng)真正的攻擊到來之時，機(jī)器學(xué)習(xí)模型將具備“免疫”功能。
總編輯圈點(diǎn)
用小伎倆干擾機(jī)器對圖像的識別，這種手段已經(jīng)應(yīng)用在網(wǎng)絡(luò)黑產(chǎn)中。人眼看起來并無明顯區(qū)別的圖片，覆上一層專門針對機(jī)器的干擾波，就能讓機(jī)器的判斷大失水準(zhǔn)。所謂接種疫苗，其實(shí)也就是“以毒攻毒”，讓機(jī)器先見識已經(jīng)被微小修改的圖片，并在訓(xùn)練中自我學(xué)習(xí)，從而最終能識破這層惡意干擾，揭開圖片的廬山真面目。機(jī)器的學(xué)習(xí)功能是強(qiáng)大的，教會它應(yīng)對方法，它便能自我完善。但攻擊與防御總是相伴相生，這是一場沒有盡頭的技術(shù)博弈。
關(guān)鍵詞： 人工智能
凡本網(wǎng)注明“XXX（非中國微山網(wǎng)）提供”的作品，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和其真實(shí)性負(fù)責(zé)。
大眾網(wǎng)·海報新聞記者張穩(wěn)呂樂田陽孫震泰安報道時值深秋，泰安市邱家店鎮(zhèn)姚家坡村迎來了一年中最忙碌的時節(jié)——作為全國最大的“秋褲村”，每
2022-10-29 18:34
在中國，每12秒有1人發(fā)生卒中，每21秒有1人死于卒中，腦血管病已成為中國居民第一位的死亡原因，早期預(yù)防顯得尤為重要。每年10月29日是“世界
2022-10-29 18:39
10月28日上午，全國首個航運(yùn)企業(yè)集成化審批服務(wù)平臺在青島自貿(mào)片區(qū)啟動。該平臺運(yùn)用數(shù)據(jù)中臺、AI人工智能、電子簽名等技術(shù)，將涉及水路運(yùn)輸、
2022-10-29 18:37
海報評論員朱延魯10月28日，山東公布了2022年前三季度全省經(jīng)濟(jì)運(yùn)行數(shù)據(jù)。根據(jù)地區(qū)生產(chǎn)總值統(tǒng)一核算結(jié)果，前三季度，全省生產(chǎn)總值為64409億元，
2022-10-29 18:31
作為正規(guī)醫(yī)院，南昌豐益肛腸醫(yī)院在改善就醫(yī)環(huán)境、降低就醫(yī)費(fèi)用、優(yōu)化就醫(yī)流程方面下功夫;實(shí)行的無假日醫(yī)院制度，為上班族看病提供便利;通過
2022-10-29 17:53
10月28日，山東發(fā)布了前三季度的全省經(jīng)濟(jì)運(yùn)行情況。前三季度全省生產(chǎn)總值64409億元，同比增長4 0%。跑贏3 0%的全國大盤，經(jīng)濟(jì)大省山東交出了一
2022-10-29 15:41
大眾網(wǎng)·海報新聞記者解強(qiáng)民通訊員姜雁群濟(jì)南報道10月28日，濟(jì)南軌道交通3號線二期設(shè)備工程開工活動在稻香站舉行，標(biāo)志著濟(jì)南軌道交通3號線二
2022-10-29 15:32
大眾網(wǎng)·海報新聞記者梁雯濟(jì)南報道11月9日至10日，2022全國中小企業(yè)數(shù)字化轉(zhuǎn)型大會將于山東國際會展中心舉行。本次大會主題為“創(chuàng)新引領(lǐng)發(fā)展數(shù)
2022-10-29 15:36
大眾網(wǎng)·海報新聞記者孫杰濟(jì)南報道10月28日，由中國聯(lián)合國協(xié)會主辦、外交部國際司支持、山東大學(xué)承辦的第十八屆中國模擬聯(lián)合國大會開幕。此次
2022-10-29 15:42
測評每天護(hù)膚一小步變美就更進(jìn)一步啦，因?yàn)閷τ诤眉∧w，我們不管是化妝還是素顏都會顯得好看，今天想和大家分享一下本人親自測評護(hù)膚品--鄭
2022-10-29 14:12
