中国消费者报福州讯(记者武晓莉)4月29日，第八届数字中国建设峰会数字经济分论坛在福州举行。奇安信集团董事长齐向东在主题演讲中表示，新技术是把双刃剑，大模型应用一端连着机遇，一端连着挑战，面对大模型应用的三重挑战，需抓住五个关键，筑牢人工智能的安全底线，为千行百业抓住人工智能新机遇吃下一颗“定心丸”。
当前，人工智能大模型应用大爆发也带来诸多安全挑战。齐向东认为，这些挑战有三重。“小数据”一失万无。借助人工智能大模型，企业通过对设计、生产等数据进行加工处理，形成的精华“小数据”是企业核心竞争力所在，一旦被窃取、泄露或篡改，则优势尽失；大模型融通百业，“裸奔”上线极有可能引发业务停摆的链式危机；对AI过度依赖，善恶真伪难辨别，一旦大模型决策失准会引发“蝴蝶效应”。
面对挑战，齐向东提出了筑牢AI安全的“五个关键”：接入放心用，构建大模型安全“红域”形成多维度边界隔离；权限强管控，以用户身份为新边界开展网络和数据安全防护。通过堡垒机、“零信任”等技术措施，对开发、训练等相关特殊人员和终端进行增强式安全管控，杜绝“内鬼”隐患；严把内容关，构建贯穿大模型全生命周期的内容安全治理机制；杜绝新隐患，以实战为导向加强大模型应用安全评估；运营可闭环，做到对安全威胁的实时监测和应急处置。
齐向东表示，“未来网络安全得AI者得天下。”奇安信率先提出“AI驱动安全”理念，推出AISOC，把AI的能力嵌入到研判、调查、响应、报告、狩猎、策略创建等安全运营工作中，实现大运营与AI的有机结合。面对人工智能落地应用带来的多重安全挑战，要用AI对抗AI，形成安全运营的闭环。
嘉汇优配提示：文章来自网络，不代表本站观点。
相关文章
沪深京指数
热点资讯
