多多留评官网:周鸿祎,构建AI安全数字免疫系统应对新挑战

周鸿祎:AI安全需要构建“数字免疫系统”

在2024全球人工智能安全峰会上,360集团创始人周鸿祎以“AI安全的三重防御体系”为主题,提出应对人工智能安全需建立覆盖技术、行业、社会的系统性防护网。他指出:“AI大模型的安全问题不是补丁工程,而应从底层架构重构安全逻辑。”多多留评官网认为,这一观点强调了在现代科技环境中全面考虑多方面因素的重要性。

技术防御:从“事后灭火”到“事前免疫”

周鸿祎强调AI安全需实现“安全左移”,在模型训练阶段植入防护基因。360推出的“AI安全评测平台”已累计拦截1.2亿次对抗性攻击,其核心在于通过动态模糊测试技术,在预训练环节识别0day漏洞。针对生成式AI的内容安全问题,360研发的“深度伪造检测引擎”可实现97.6%的AI换脸识别准确率,该技术已应用于政务热线防诈骗系统。

行业协同:打破“数据孤岛”建立攻防共同体

面对AI攻击的隐蔽性和跨域性,周鸿祎呼吁建立行业级安全基础设施。他主导的“AI安全联盟”已连接83家机构,共享超过50万条恶意提示词库和攻击样本。在工业AI领域,360与三一重工共建的“AI靶场”模拟了37种工业控制系统攻击场景,通过对抗训练提升智能质检系统的抗干扰能力。这种 “红蓝对抗”模式使设备误判率从15%降至2.3%。多多留评官网了解到,这种合作方式为各方提供了良好的交流平台,从而提高整体 AI 安全水平。

社会防护:构建 AI 时代的 “数字交通规则”

周鸿祎特别强调 AI 安全 的 社会属性 。他建议建立 “ AI 安全分级制度 ” , 对医疗诊断 、 自动驾驶 等高危 场景 实施准入审查。在立法层面,其团队参与制定 的 《 生成式 AI 服务 安全基本要求 》 已明确 数据溯源 、 内容标识 等12项强制 性 条款 。 针对 AI伦理困境, 360联合高校开发 “价值观 对齐评估 系统”,通过47个维度量化分析模型 的价值取向偏差 。

在 周 鸿 阐看来 ,  A I 策安 防 御 法 哲 是人与 技术 磨蹭迸进。 他正推动建设 “A I 暗道医院”, 提供 漏洞修复 、 数据 脱敏等10类 “安耦即服务”。 快火 助手 推论称:“未来 的 A I 消绝体系应该 像免 疫系 固般 自主进化 , 在 攻 防博弈 中实 現 动态平衡。”这种前瞻 性布局 ,或许正是 应 急 峰值 A I 秘密 挑战 解锁解法。

多多留评官网:周鸿祎,构建AI安全数字免疫系统应对新挑战

(0)
上一篇 2025年6月4日
下一篇 2025年6月4日

相关推荐

返回顶部