澳科研團隊用新演算法幫助“機器學習”抗干擾

2019年07月01日 11:28:42 來源: 新華社
  【列印】 【糾錯】

    新華社堪培拉6月30日電(記者白旭 姜晨怡)澳大利亞聯邦科學與工業研究組織(CSIRO)日前發佈消息説,該機構的一個科研團隊開發了一套人工智慧新演算法,可幫助抵禦“機器學習”可能遇到的干擾。

    “機器學習”可以在大數據訓練中“學習”正確的工作方法,但它也容易受到惡意干擾。攻擊者一般通過輸入惡意數據來欺騙“機器學習”模型,導致其出現故障。開發新演算法的Data61機器學習小組負責人理查德·諾克博士舉例説,在進行圖像識別時,攻擊者通過在圖像上添加一層“干擾波”,可以欺騙“機器學習”模型進行錯誤的圖像分類。

    “我們的新演算法通過一種類似疫苗接種的思路來抗干擾。”諾克博士説,他們的新演算法可對“機器學習”模型進行防干擾訓練,比如在圖片識別領域,對圖片集合進行小的修改或使其失真,可激發出“機器學習”模型越來越強的抗干擾能力,並形成相關的自我抗干擾訓練模型。當經過小規模的失真訓練後,最終的抗干擾訓練模型將更加強大,在干擾真的到來時,“機器學習”模型將具備“免疫”功能。

關閉