• <dd id="4a949"></dd>

    1. <th id="4a949"><pre id="4a949"><dl id="4a949"></dl></pre></th>

      1. <em id="4a949"><acronym id="4a949"></acronym></em>
        <em id="4a949"></em>

        <button id="4a949"><acronym id="4a949"></acronym></button>
      2. <dd id="4a949"></dd>

        “隱身衣”讓隱私更安全
        來源:中國科學報 更新時間:2020-08-13

        隨著人臉識別技術的發展,面部考勤機、手機面部解鎖、面部識別支付等一系列代表性應用鋪開。與此同時,人臉識別竊取用戶隱私的聲音也越來越多,不少地區因此對人臉識別技術和相關應用發布了禁令。

        “利用社交網絡上的海量圖像,深度學習模型可以自動識別、分析、獲取大量用戶的隱私信息,比如位置、喜好等,具有嚴重的隱私泄露風險?!蔽錆h大學國家網絡安全學院教授王志波告訴《中國科學報》。

        近日,王志波課題組等提出了適用于任意壓縮方式的抗壓縮對抗性圖像生成方案,顯著增強了圖像的抗壓縮能力,讓用戶在社交平臺上更安全地分享生活點滴成為可能。

        思索抗“壓”計劃

        為了避免被惡意收集個人圖像信息,研究人員提出對圖像添加對抗性噪聲,使其變成對抗性圖像,從而躲過深度學習模型的抓取?!斑@種方法就像給圖像穿上了‘隱身衣’?!蓖踔静ㄕf。

        王志波解釋,“隱身衣”的原理是在原始圖像上添加微小擾動,即對圖像像素進行細微的修改。這些修改人眼難以察覺,但卻能夠改變模型的“認知”,使其識別完全出錯。

        但是,這種方法在現實中分享圖像時卻會失靈。通常,社交平臺為了節約通信資源和提高訪問效率會對上傳的圖像進行壓縮,而壓縮會破壞“隱身衣”,其對抗性也大大削弱,無法誤導深度學習模型來保護隱私。

        王志波課題組希望研究新方法保護社交網絡中用戶分享的圖像。

        然而,社交平臺多采用自定義、不公開的壓縮算法,他人無法獲取算法細節。這令研究人員頭疼。

        “在壓縮算法未知或不可微的情況下,生成抗壓縮的對抗性圖像具有很大挑戰?!蓖踔静ń榻B,現有的常用于生成對抗性圖像的算法往往通過求取梯度來優化擾動。為了生成抗壓縮的對抗性圖像,研究人員需要將圖像壓縮加入到優化過程中,但壓縮算法往往是不可微的,這就意味著研究人員無法求取梯度來優化擾動。

        為了解決這些問題,課題組希望采用近似算法模擬圖片壓縮的過程。研究人員采用當下使用較普遍的深度卷積網絡模型訓練包含用戶原圖和相應壓縮圖的數據集,達到近似壓縮的目的。訓練完成后,該近似模型便可作為壓縮算法的可微近似形式加入到優化過程中,從而保證生成的對抗性圖像能夠抵御壓縮。

        打造“隱身衣”

        課題組成員、武漢大學國家網絡安全學院研究生郭恒昌介紹,為了取得較好的近似效果,該模型借鑒了Unet、Resnet網絡的設計理念,引入了跳躍式傳遞等結構來增強模型的學習能力。

        首先,利用包含原圖和相應壓縮圖的訓練數據集對模型進行訓練。而后,分別用原始圖像試驗該模型與普通壓縮算法的區別。研究發現,兩者平均每個像素值相差小于3.5。這意味著設計的模型達到了較好的近似效果。

        另外,為了生成抗壓縮的對抗性圖像,研究人員構建了相應的優化目標,將模型融入到優化過程中,并使用基于動量的迭代方法進行優化,最終使得生成的對抗性圖像具有較好的抗壓縮能力。

        王志波表示,無論是針對WEBP、JPEG2000、JPEG等標準的壓縮算法,還是社交平臺上未知的壓縮算法,該模型均能生成相應的抗壓縮對抗性圖像,可有效誤導圖像識別模型,實現對社交網絡的圖像隱私保護。

        實際應用效果不俗

        目前,該模型已在常用社交平臺,比如Facebook、微博、豆瓣上進行測試。結果表明,該模型構造的對抗性圖像上傳到社交平臺并被壓縮后,依舊能保持圖像的對抗性,在誤導圖像識別模型方面表現不俗,在微博上甚至達到90%以上的成功率。目前,該研究成果的相關論文已被ACM MobiHoc2020錄用。

        “我們認為這項技術可以被所有社交網絡用戶采用來防止分享圖像被非法濫用、識別?!惫悴f。

        某位不具名的同行專家也認為,該研究是首次考慮社交網絡中各種圖像壓縮算法的隱私保護措施,提出的方案更貼合真實場景,具有很大的可行性,是一項非常有意思且實用的工作。

        “盡管該模型已在不同的社交平臺上取得不俗的表現,但為了促進其更廣泛地現實應用,抗壓縮能力仍需進一步提高,因此我們團隊接下來會對此進行更深入的研究?!蓖踔静ㄕf。(記者 卜葉)



        抢庄牛牛下载