中國消費(fèi)者報(bào)福州訊（記者武曉莉）4月29日，第八屆數(shù)字中國建設(shè)峰會(huì)數(shù)字經(jīng)濟(jì)分論壇在福州舉行。奇安信集團(tuán)董事長齊向東在主題演講中表示，新技術(shù)是把雙刃劍，大模型應(yīng)用一端連著機(jī)遇，一端連著挑戰(zhàn)，面對(duì)大模型應(yīng)用的三重挑戰(zhàn)，需抓住五個(gè)關(guān)鍵，筑牢人工智能的安全底線，為千行百業(yè)抓住人工智能新機(jī)遇吃下一顆“定心丸”。
當(dāng)前，人工智能大模型應(yīng)用大爆發(fā)也帶來諸多安全挑戰(zhàn)。齊向東認(rèn)為，這些挑戰(zhàn)有三重?！靶?shù)據(jù)”一失萬無。借助人工智能大模型，企業(yè)通過對(duì)設(shè)計(jì)、生產(chǎn)等數(shù)據(jù)進(jìn)行加工處理，形成的精華“小數(shù)據(jù)”是企業(yè)核心競爭力所在，一旦被竊取、泄露或篡改，則優(yōu)勢盡失；大模型融通百業(yè)，“裸奔”上線極有可能引發(fā)業(yè)務(wù)停擺的鏈?zhǔn)轿C(jī)；對(duì)AI過度依賴，善惡真?zhèn)坞y辨別，一旦大模型決策失準(zhǔn)會(huì)引發(fā)“蝴蝶效應(yīng)”。
面對(duì)挑戰(zhàn)，齊向東提出了筑牢AI安全的“五個(gè)關(guān)鍵”：接入放心用，構(gòu)建大模型安全“紅域”形成多維度邊界隔離；權(quán)限強(qiáng)管控，以用戶身份為新邊界開展網(wǎng)絡(luò)和數(shù)據(jù)安全防護(hù)。通過堡壘機(jī)、“零信任”等技術(shù)措施，對(duì)開發(fā)、訓(xùn)練等相關(guān)特殊人員和終端進(jìn)行增強(qiáng)式安全管控，杜絕“內(nèi)鬼”隱患；嚴(yán)把內(nèi)容關(guān)，構(gòu)建貫穿大模型全生命周期的內(nèi)容安全治理機(jī)制；杜絕新隱患，以實(shí)戰(zhàn)為導(dǎo)向加強(qiáng)大模型應(yīng)用安全評(píng)估；運(yùn)營可閉環(huán)，做到對(duì)安全威脅的實(shí)時(shí)監(jiān)測和應(yīng)急處置。
齊向東表示，“未來網(wǎng)絡(luò)安全得AI者得天下?！逼姘残怕氏忍岢觥癆I驅(qū)動(dòng)安全”理念，推出AISOC，把AI的能力嵌入到研判、調(diào)查、響應(yīng)、報(bào)告、狩獵、策略創(chuàng)建等安全運(yùn)營工作中，實(shí)現(xiàn)大運(yùn)營與AI的有機(jī)結(jié)合。面對(duì)人工智能落地應(yīng)用帶來的多重安全挑戰(zhàn)，要用AI對(duì)抗AI，形成安全運(yùn)營的閉環(huán)。
官方微信公眾號(hào)
官方微博
