亚洲小说图片区综合在线,日本公厕撒尿高清视频,国产又黄又湿又刺激网站,少妇自慰毛多水多

AI安全攻防戰(zhàn)
來(lái)源:中國(guó)經(jīng)營(yíng)報(bào)作者:蔣牧云 何莎莎2024-11-25 13:25

AI在掀起科技浪潮的同時(shí),也帶來(lái)了網(wǎng)絡(luò)安全、數(shù)據(jù)安全的挑戰(zhàn)。

《中國(guó)經(jīng)營(yíng)報(bào)》記者注意到,在2024年世界互聯(lián)網(wǎng)大會(huì)烏鎮(zhèn)峰會(huì)(以下簡(jiǎn)稱“烏鎮(zhèn)峰會(huì)”)上,AI安全挑戰(zhàn)成為各方關(guān)注的焦點(diǎn)之一,比如會(huì)上設(shè)置了網(wǎng)絡(luò)安全技術(shù)發(fā)展與國(guó)際合作論壇、國(guó)內(nèi)首個(gè)AI大模型攻防賽等。

多位業(yè)內(nèi)人士向記者表示,隨著AI技術(shù)不斷深入場(chǎng)景,安全事件也愈演愈烈。大模型訓(xùn)練數(shù)據(jù)泄露、訓(xùn)練遭“投毒”、AI換臉詐騙等問(wèn)題層出不窮。針對(duì)這些現(xiàn)象,不少企業(yè)選擇通過(guò)AI技術(shù)解決AI安全問(wèn)題,通過(guò)安全大模型、AI自動(dòng)化檢測(cè)、深度鑒偽技術(shù)等,提升風(fēng)險(xiǎn)檢測(cè)反應(yīng)能力、確保安全防線的牢固。

安全攻防新形勢(shì)

隨著AI技術(shù)不斷深入場(chǎng)景,安全事件也愈演愈烈。

在烏鎮(zhèn)峰會(huì)的開(kāi)幕式上,中共中央政治局常委、國(guó)務(wù)院副總理丁薛祥發(fā)表主旨講話強(qiáng)調(diào),當(dāng)前互聯(lián)網(wǎng)、大數(shù)據(jù)、云計(jì)算、人工智能、區(qū)塊鏈等技術(shù)不斷取得突破,正在全面賦能經(jīng)濟(jì)社會(huì)發(fā)展,但數(shù)字鴻溝仍在擴(kuò)大,網(wǎng)絡(luò)安全形勢(shì)更加嚴(yán)峻。

那么,AI帶來(lái)的安全挑戰(zhàn)具體有哪些?全國(guó)政協(xié)委員、全國(guó)工商聯(lián)副主席、奇安信集團(tuán)董事長(zhǎng)齊向東向記者表示,AI正在黑客攻擊、社會(huì)操縱和戰(zhàn)略規(guī)劃等關(guān)鍵領(lǐng)域飛速取得進(jìn)展,并帶來(lái)前所未有的挑戰(zhàn),安全已經(jīng)來(lái)到臨界點(diǎn)。

在齊向東看來(lái),AI帶來(lái)的安全危機(jī)可以總結(jié)為“三化”,即黑箱化、黑產(chǎn)化、武器化。具體而言,AI黑箱化將導(dǎo)致內(nèi)容生成良莠不齊?!霸谏葾I大模型的過(guò)程中,數(shù)據(jù)和模型在黑箱內(nèi)部,現(xiàn)實(shí)世界和數(shù)字世界之間有一道天然隔閡,這不僅使得我們難以洞悉具體使用了哪些數(shù)據(jù)集和算法,也模糊了攻擊者可能采取的具體破壞手段,從而導(dǎo)致有害內(nèi)容及錯(cuò)誤信息的泛濫?!?/p>

齊向東談道:“在今年的實(shí)網(wǎng)攻防演練中,奇安信攻擊隊(duì)就成功攻破了某AI大模型,并總結(jié)出針對(duì)大模型的攻擊途徑。通過(guò)多種手法,篡改了大模型輸出內(nèi)容、讓模型出現(xiàn)預(yù)料之外或者有害結(jié)果,甚至直接癱瘓了大模型?!?/p>

AI黑產(chǎn)化則會(huì)導(dǎo)致深度偽造泛濫成災(zāi)。齊向東表示,不法分子借助AI技術(shù)對(duì)圖像、音視頻等內(nèi)容進(jìn)行深度偽造,以達(dá)到不可告人的目的。無(wú)論是公眾還是企業(yè),都逃不脫深偽詐騙的陷阱。而AI武器化將導(dǎo)致黑客攻擊愈演愈烈。人工智能可以生成惡意軟件、釣魚(yú)郵件,也可以快速發(fā)現(xiàn)目標(biāo)系統(tǒng)中的漏洞,大幅降低網(wǎng)絡(luò)攻擊門檻,讓不懂代碼、不懂技術(shù)的普通人也能成為黑客,攻擊數(shù)量大幅增加。目標(biāo)處于無(wú)法應(yīng)對(duì)的飽和狀態(tài),網(wǎng)絡(luò)空間“易攻難守”成常態(tài)。

烏鎮(zhèn)峰會(huì)期間,由中國(guó)圖象圖形學(xué)學(xué)會(huì)、螞蟻集團(tuán)、云安全聯(lián)盟(CSA)大中華區(qū)聯(lián)合主辦的國(guó)內(nèi)首個(gè)AI大模型攻防賽亦聚焦于深度偽造的安全問(wèn)題。螞蟻集團(tuán)相關(guān)負(fù)責(zé)人告訴記者:“只需10秒,大模型就能克隆聲音、復(fù)刻照片,甚至能生成‘你’的視頻,從而引發(fā)深偽欺詐、色情影像偽造、假新聞等社會(huì)事件;大模型‘越獄’問(wèn)題頻發(fā),誘騙AI聽(tīng)從不懷好意的指令,生成血腥、暴力、歧視、仇恨的圖片、視頻,危害網(wǎng)絡(luò)空間安全。”

安恒信息相關(guān)負(fù)責(zé)人也告訴記者:“隨著AI技術(shù)不斷深入場(chǎng)景,安全事件也愈演愈烈。大模型訓(xùn)練數(shù)據(jù)泄露、訓(xùn)練遭‘投毒’、AI換臉詐騙等問(wèn)題層出不窮。從訓(xùn)練到應(yīng)用,大模型的安全風(fēng)險(xiǎn)無(wú)處不在。比如數(shù)據(jù)隱私和安全問(wèn)題,AI系統(tǒng)通常需要大量的數(shù)據(jù)來(lái)訓(xùn)練模型,這可能涉及敏感的個(gè)人信息。如果這些數(shù)據(jù)被不當(dāng)使用或泄露,將對(duì)個(gè)人隱私造成威脅。還有內(nèi)容安全問(wèn)題,如何確保AI不生成錯(cuò)誤內(nèi)容、違規(guī)內(nèi)容和惡意代碼?如何確保大模型生成的代碼或內(nèi)容不被用于執(zhí)行安全攻擊?這都是AI帶來(lái)的新的安全挑戰(zhàn)。”

以AI治理AI

“以AI治理AI”模式已經(jīng)成為解決安全風(fēng)險(xiǎn)的一大趨勢(shì)。

中國(guó)工程院院士、中國(guó)圖象圖形學(xué)學(xué)會(huì)理事長(zhǎng)王耀南指出:“加強(qiáng)大模型安全保護(hù),構(gòu)建完善的安全防護(hù)體系,是確保人工智能技術(shù)持續(xù)、穩(wěn)定、健康發(fā)展的關(guān)鍵所在,也是我們?cè)谶@個(gè)充滿機(jī)遇與挑戰(zhàn)的時(shí)代必須肩負(fù)起的重要使命。”

記者在烏鎮(zhèn)峰會(huì)會(huì)場(chǎng)了解到,針對(duì)AI技術(shù)帶來(lái)的深度偽造風(fēng)險(xiǎn),螞蟻集團(tuán)正通過(guò)蟻天鑒和ZOLOZ等安全技術(shù)產(chǎn)品加強(qiáng)對(duì)圖像、視頻的鑒真能力。據(jù)介紹,蟻天鑒不僅支持圖像、視頻等多模態(tài)內(nèi)容真實(shí)性及深度偽造的監(jiān)測(cè),還支持大模型X光、大模型基礎(chǔ)設(shè)施測(cè)評(píng)、應(yīng)用安全測(cè)評(píng)、圍欄防御等技術(shù)能力。記者現(xiàn)場(chǎng)從圖庫(kù)中選擇了數(shù)張照片,僅用幾秒,蟻天鑒就可以準(zhǔn)確識(shí)別圖片或視頻片段的真?zhèn)巍?/p>

而ZOLOZ則更專注于攻克AI換臉難題,其人臉識(shí)別準(zhǔn)確率達(dá)99.9%。在現(xiàn)場(chǎng),觀眾可以上傳一張個(gè)人照片,由AI基于照片合成新的人臉圖像來(lái)試圖突破ZOLOZ防御系統(tǒng)。工作人員告訴記者,目前ZOLOZ已為中國(guó)、印度尼西亞、馬來(lái)西亞、菲律賓等24個(gè)國(guó)家和地區(qū)提供技術(shù)服務(wù),涵蓋金融、保險(xiǎn)、證券、信貸、電信、公共服務(wù)等多個(gè)領(lǐng)域,累計(jì)服務(wù)用戶超12億。

齊向東告訴記者,未來(lái)強(qiáng)化人工智能安全治理,需要重點(diǎn)采用三大技術(shù)策略。第一個(gè)策略是結(jié)合大模型基礎(chǔ)運(yùn)行環(huán)境、訓(xùn)練環(huán)境、API接口以及數(shù)據(jù)安全進(jìn)行多維度、體系化防護(hù)。大模型生命周期的每個(gè)環(huán)節(jié)都存在大量不確定性,無(wú)論是數(shù)據(jù)安全、算法開(kāi)發(fā)和模型安全、內(nèi)容還是應(yīng)用安全等方面,都要做到合規(guī)。

第二個(gè)策略是用“鑒偽”“防偽”技術(shù)有效遏制深度偽造。針對(duì)正在野蠻生長(zhǎng)的生成式偽造語(yǔ)音技術(shù)、生成式偽造視頻技術(shù),應(yīng)該盡快發(fā)展相關(guān)檢測(cè)技術(shù)。比如,奇安信自研的深度鑒偽模型能夠準(zhǔn)確識(shí)別多種前沿AI偽造技術(shù)生成的虛假圖片視頻;洛基平臺(tái)可以通過(guò)內(nèi)網(wǎng)在線訪問(wèn),上傳圖片、視頻開(kāi)展深度鑒偽。

第三個(gè)策略是用安全大模型反哺安全能力大提升。建立體系化的安全防護(hù)系統(tǒng),是AI安全大模型驅(qū)動(dòng)安全的重要前提。奇安信的內(nèi)生安全體系,把網(wǎng)絡(luò)安全設(shè)備和業(yè)務(wù)流轉(zhuǎn)、不同層次的信息系統(tǒng)有機(jī)結(jié)合起來(lái),做到安全能力的無(wú)死角,確保多道網(wǎng)絡(luò)安全防線有效協(xié)同,實(shí)現(xiàn)從宏觀管控到微觀檢測(cè)的全面防護(hù)。記者了解到,奇安信在內(nèi)生安全體系之上,部署了自研的QAX-GPT安全大模型,這樣不僅讓大模型更懂客戶業(yè)務(wù),同時(shí)也讓安全體系效率更高、能力更強(qiáng)。經(jīng)過(guò)反復(fù)訓(xùn)練打磨,AI安全大模型的研判效率已經(jīng)提到了人工的60多倍。

事實(shí)上,類似的“以AI治理AI”模式已經(jīng)成為解決安全風(fēng)險(xiǎn)的一大趨勢(shì)。安恒信息相關(guān)負(fù)責(zé)人告訴記者,公司正從對(duì)抗性訓(xùn)練、自動(dòng)化檢測(cè)、大模型風(fēng)險(xiǎn)檢測(cè)、聯(lián)邦學(xué)習(xí)和隱私保護(hù)、AI輔助威脅情報(bào)等5大方向進(jìn)行探索。其中,對(duì)抗性訓(xùn)練通過(guò)在模型訓(xùn)練過(guò)程中引入對(duì)抗性樣本,目前“恒腦”利用該技術(shù)來(lái)微調(diào)訓(xùn)練模型,使“恒腦”能夠更好地抵御對(duì)抗性攻擊。這種方法提高了AI系統(tǒng)對(duì)惡意輸入的魯棒性。

大模型風(fēng)險(xiǎn)檢測(cè)方面,安恒則通過(guò)恒腦智鑒針對(duì)大模型風(fēng)險(xiǎn)評(píng)估采用精細(xì)化風(fēng)險(xiǎn)評(píng)估方法,覆蓋12大內(nèi)容安全風(fēng)險(xiǎn)領(lǐng)域,細(xì)分為40余種小類,確保無(wú)遺漏。同時(shí),配備20余種檢測(cè)手段和超過(guò)25000個(gè)測(cè)試用例,提供詳盡的數(shù)據(jù)分析和安全報(bào)告,能夠幫助政企監(jiān)管機(jī)構(gòu)快速、精準(zhǔn)地發(fā)現(xiàn)潛在問(wèn)題并采取相應(yīng)措施。“這些探索和實(shí)踐表明,‘以AI治理AI’不僅是技術(shù)上的需要,也是在確保AI系統(tǒng)安全性和可靠性方面的重要戰(zhàn)略。隨著AI技術(shù)的不斷發(fā)展,這一領(lǐng)域?qū)⒗^續(xù)演進(jìn)和擴(kuò)展。”該負(fù)責(zé)人表示。

未來(lái),AI攻防還有哪些深化的方向?安恒信息相關(guān)負(fù)責(zé)人告訴記者,過(guò)往業(yè)內(nèi)比較關(guān)注數(shù)據(jù)投毒,但安恒信息研究發(fā)現(xiàn),相比數(shù)據(jù)投毒,大模型權(quán)重文件投毒后門的適用性更廣,危害性更大。通過(guò)模型權(quán)重文件投毒方式,模型可被控制會(huì)遵從惡意控制者行動(dòng),平時(shí)是一個(gè)常規(guī)大模型,當(dāng)惡意控制者在任意時(shí)候發(fā)送指令,即可馬上讓它變成惡意大模型,如何在任何時(shí)候讓模型可控、不越界是安恒接下來(lái)要研究和探索的方向。

責(zé)任編輯: 胡青
聲明:證券時(shí)報(bào)力求信息真實(shí)、準(zhǔn)確,文章提及內(nèi)容僅供參考,不構(gòu)成實(shí)質(zhì)性投資建議,據(jù)此操作風(fēng)險(xiǎn)自擔(dān)
下載“證券時(shí)報(bào)”官方APP,或關(guān)注官方微信公眾號(hào),即可隨時(shí)了解股市動(dòng)態(tài),洞察政策信息,把握財(cái)富機(jī)會(huì)。
網(wǎng)友評(píng)論
登錄后可以發(fā)言
發(fā)送
網(wǎng)友評(píng)論僅供其表達(dá)個(gè)人看法,并不表明證券時(shí)報(bào)立場(chǎng)
暫無(wú)評(píng)論
為你推薦
時(shí)報(bào)熱榜
換一換
    熱點(diǎn)視頻
    換一換