近日，CCS2024成都網(wǎng)絡(luò)安全系列活動在成都舉行?！按竽Ｐ桶踩c產(chǎn)業(yè)應(yīng)用創(chuàng)新研討活動”同期舉辦，本場活動由百度安全、成都無糖信息聯(lián)合承辦，特邀云安全聯(lián)盟CSA大中華區(qū)合作舉辦。本次活動聚焦大模型安全以及大模型產(chǎn)業(yè)創(chuàng)新應(yīng)用兩大主題，旨在為大模型技術(shù)的健康發(fā)展和產(chǎn)業(yè)應(yīng)用創(chuàng)新落地提供一套切實可行的思路與方案，攜手各界生態(tài)合作伙伴，探索人工智能與數(shù)字安全的融合之路，引領(lǐng)大模型時代下的安全行業(yè)創(chuàng)新變革。

CCS2024 大模型安全與產(chǎn)業(yè)應(yīng)用創(chuàng)新研討活動

百度副總裁陳洋在開場致辭中表示，大模型技術(shù)在加速產(chǎn)業(yè)升級的同時，也帶來了全新的機(jī)遇與挑戰(zhàn)。面對這些挑戰(zhàn)與機(jī)遇，我們需要探索出一套行之有效的解決方案，讓蓬勃發(fā)展的大模型產(chǎn)業(yè)能夠健康穩(wěn)定地發(fā)展。百度將攜手生態(tài)合作伙伴，共同構(gòu)建大模型安全防線，引領(lǐng)安全行業(yè)在大模型時代的創(chuàng)新變革。

云安全聯(lián)盟CSA大中華區(qū)主席李雨航在致辭中介紹了CSA在AI安全領(lǐng)域的最新進(jìn)展。CSA致力于構(gòu)建一個多方參與、共同治理的AI安全生態(tài)系統(tǒng)，推動云安全、AI安全和生成式人工智能應(yīng)用安全、大語言模型安全以及大模型供應(yīng)鏈安全的標(biāo)準(zhǔn)化工作，與海內(nèi)外科技巨頭共同推動全球AI安全治理體系的建設(shè)。

多模態(tài)大模型是近年來大模型領(lǐng)域中備受矚目的焦點，會上，百度安全副總經(jīng)理馮景輝聚焦《多模態(tài)大模型的安全挑戰(zhàn)與應(yīng)對》發(fā)表主題演講。他指出，多模態(tài)風(fēng)險不僅僅是視覺風(fēng)險，更是跨模態(tài)風(fēng)險，對多模態(tài)模型的風(fēng)險評估要覆蓋認(rèn)知安全、生成安全、模態(tài)安全和對抗性安全多個方面。與會，馮景輝正式發(fā)布百度多模態(tài)內(nèi)容安全解決方案，方案基于模態(tài)對齊、視覺理解以及魯棒性提升等核心技術(shù)，用多模態(tài)對齊實現(xiàn)跨模態(tài)一體化安全，用圖像分割與信息抽取技術(shù)，補(bǔ)充安全性，旨在解決第三方大模型的生成式內(nèi)容合規(guī)、內(nèi)生安全提升、運營常態(tài)化風(fēng)險收斂等關(guān)鍵問題，助力客戶和生態(tài)合作伙伴實現(xiàn)了大模型的安全升級。

在《大模型數(shù)據(jù)安全創(chuàng)新與實踐》的主題演講中，百度數(shù)管平臺負(fù)責(zé)人季石磊分享了百度在保護(hù)大模型核心資產(chǎn)、確保數(shù)據(jù)安全與隱私方面的最新技術(shù)與方法。他詳細(xì)說明了大模型全生命周期數(shù)據(jù)安全與模型保護(hù)機(jī)制，覆蓋了從語料數(shù)據(jù)管理、模型訓(xùn)練到模型流轉(zhuǎn)、使用和私有化交付等各個環(huán)節(jié)；并表示基于BaiduAIRealm的數(shù)據(jù)保險箱產(chǎn)品解決方案，為大模型等高價值數(shù)據(jù)資產(chǎn)提供全方位防護(hù)。此外，季石磊特別列舉了智能數(shù)據(jù)分類分級、模型資產(chǎn)防護(hù)以及端云協(xié)同構(gòu)建端到端安全可信鏈路等創(chuàng)新技術(shù)在大模型數(shù)據(jù)安全中的應(yīng)用。

盈科全球數(shù)據(jù)合規(guī)服務(wù)中心主任郭衛(wèi)紅介紹了《大模型在數(shù)據(jù)合規(guī)的應(yīng)用》。她從法律和實務(wù)的角度，深入分析了如何利用大模型技術(shù)來提升數(shù)據(jù)合規(guī)管理的效率與效果。郭衛(wèi)紅介紹了盈科在個人信息保護(hù)合規(guī)審計項目中應(yīng)用大模型的實踐，通過智能合規(guī)問答、自檢、評估和審計等功能，大幅提升了數(shù)據(jù)合規(guī)管理的效率。她特別強(qiáng)調(diào)了大模型在解決法律信息不對稱問題上的重要作用，以及在合規(guī)檢查、評估和審計等環(huán)節(jié)的具體應(yīng)用。郭衛(wèi)紅還分享了盈科AI律所智能空間站等創(chuàng)新應(yīng)用，展示了大模型在法律服務(wù)領(lǐng)域的廣闊應(yīng)用前景。

百度研發(fā)安全負(fù)責(zé)人陳長林帶來了《"文心快碼"智能代碼助手安全實踐》的分享。生成式人工智能正在為軟件研發(fā)領(lǐng)域帶來前所未有的機(jī)遇，生成式智能編碼提效工具在幫助工程師代碼提效的同時，其自身的安全性、可靠性需要予以特別關(guān)注，其中的典型風(fēng)險包括大模型生成代碼的安全性、調(diào)用大模型服務(wù)時可能存在的代碼敏感信息泄露、網(wǎng)絡(luò)傳輸鏈路劫持、數(shù)據(jù)跨境傳輸?shù)鹊?。陳長林介紹了百度通過智能編碼提效工具"文心快碼"實現(xiàn)安全左移的最佳實踐，通過安全漏洞掃描、一鍵自動修復(fù)、安全增強(qiáng)模式，助力文心快碼在提高開發(fā)效率的同時，確保代碼安全。

新華三信息安全研發(fā)副總裁劉忠良分享了《AIGC趨勢下安全大模型在網(wǎng)絡(luò)安全運維與運營的落地實踐》，重點介紹了新華三的靈犀大模型在威脅輔助研判、攻防滲透測試、自動風(fēng)險處置、智能運營分析和智能可視化等場景的應(yīng)用。他詳細(xì)闡述了如何利用大模型提升安全事件研判效率、加速風(fēng)險響應(yīng)處置、實現(xiàn)智能安全策略生成等創(chuàng)新應(yīng)用。新華三在安全運維、攻防實戰(zhàn)和安全運營等方面的場景化應(yīng)用，展示了大模型在網(wǎng)絡(luò)安全領(lǐng)域帶來的效率提升。

百度安全車與終端安全架構(gòu)師林道正帶來了《見微知著：TARA視角下大模型在汽車合規(guī)的潛力探索》的主題演講。他從威脅分析與風(fēng)險評估(TARA)的視角，深入探討了如何利用大模型技術(shù)來提升智能網(wǎng)聯(lián)汽車的安全合規(guī)水平。林道正以TARA場景為例子，結(jié)合快思考系統(tǒng)和慢思考系統(tǒng)的系統(tǒng)設(shè)計，探討了如何構(gòu)建企業(yè)級安全知識管理體系。他詳細(xì)闡述了如何組織運營過程中的安全數(shù)據(jù)，并利用大模型技術(shù)解決TARA過程中的復(fù)雜性、合規(guī)標(biāo)準(zhǔn)、演變威脅和人才缺口等挑戰(zhàn)。林道正還介紹了百度在智能網(wǎng)聯(lián)汽車安全合規(guī)領(lǐng)域的創(chuàng)新實踐，展示了大模型在汽車安全領(lǐng)域的應(yīng)用前景。

會上，云安全聯(lián)盟CSA大中華區(qū)與百度安全重磅發(fā)布了《AI安全產(chǎn)業(yè)圖譜(2024)》，全面呈現(xiàn)了AI安全領(lǐng)域的最新發(fā)展態(tài)勢和未來趨勢。云安全聯(lián)盟CSA大中華區(qū)主席李雨航與百度安全副總裁陳洋共同啟動了圖譜的發(fā)布儀式。

云安全聯(lián)盟CSA大中華區(qū)《AI安全產(chǎn)業(yè)圖譜(2024)》

通過本次活動，百度安全攜手產(chǎn)業(yè)生態(tài)共同探討了大模型安全與產(chǎn)業(yè)應(yīng)用創(chuàng)新的前沿話題，旨在為大模型技術(shù)的健康發(fā)展和產(chǎn)業(yè)應(yīng)用創(chuàng)新落地提供了切實可行的思路與方案，為推動大模型技術(shù)在安全領(lǐng)域的創(chuàng)新應(yīng)用，構(gòu)建更安全、更可信的數(shù)字世界奠定了堅實基礎(chǔ)。（李妍）