首页 > 关于我们 > 安恒动态 > 2025 > 正文

西湖论剑丨AI智能体论剑：在创新发展与风险管控中实现动态平衡

阅读量：次 文章来源：安恒信息

“AI 智能体论剑”圆桌对话

5月10日下午，2025中国数谷·西湖论剑—AI智能体应用与安全治理论坛在杭州成功举办。论坛以推动 AI 智能体可信发展与敏捷治理为宗旨，一场精彩纷呈的“AI 智能体论剑”圆桌对话拉开帷幕，围绕AI智能体的发展前沿、行业变革与安全治理三大核心议题展开深入对话。

本次圆桌对话由中国网络空间安全协会人工智能安全治理专委会生态治理工作组执行组长潘彭丹主持，北京邮电大学网络安全学院教授、科学技术研究院副院长南国顺，浙江大学滨江研究院数智融合研究中心副主任林昶廷，上海人工智能实验室青年研究员孟令宇，深圳市和讯华谷信息技术有限公司副总裁殷浩，安恒信息研究院副院长税雪飞等嘉宾受邀参与，共同为 AI 智能体发展建言献策。

前沿突破：大模型与智能体技术的创新浪潮

作为人工智能领域的前沿方向，智能体技术正引领新一轮技术创新变革。南国顺指出，当前智能体技术正从单点通信向多智能体协同演进，MCP（多智能体通信协议）和 A2A（智能体协同协议）成为推动这一发展的关键技术。大模型与智能体已走出理论探索阶段，加速向实际应用转化，为初创企业带来新机遇，切实解决用户需求，驱动行业革新。

林昶廷聚焦技术生态短板，强调国产算力生态自主可控的紧迫性。他建议通过政府主导建设共享计算平台，缓解算力供需矛盾。在智能体协议标准构建过程中，中国应将安全治理理念深度融入，打造技术规则与伦理规范并重的“协议护城河”，避免被动跟随国际技术框架中陷入被动。

殷浩从市场需求视角剖析，指出智能体的核心价值在于“降低使用门槛”与“解决最后一公里问题”，其优势在于能够直接输出结果。他展望智能体未来三大发展方向：一是满足个性化需求的“千人千面”智能体，二是软硬件融合的具身智能，三是通过本地化部署解决数据隐私问题。

行业变革：智能体驱动下的产业重构

智能体技术的蓬勃发展，正重塑各行业发展格局。南国顺表示，智能体正在重构人类认知与协作模式。未来，人类竞争焦点将从知识记忆转向问题定义能力，提示词设计将成为决定成果质量的关键。在组织层面，智能体将推动安全工程师从“体力劳动”转向策略设计，类似“马车夫变赛车手”的职业升级。

殷浩系统阐释了AI四大落地场景优势：智能客服、企业知识中枢、金融决策及智能外呼，以及创新性突破三大领域：宠物语义识别、教育心理干预及家庭教育。系统论证AI智能体引发的多维产业变革，驱动效率跃迁、成本重构与体验升级，充分展现AI技术穿透力与社会普惠价值的双重释放。

安全治理：创新发展与风险管控的动态平衡

面对 AI 智能体快速发展带来的安全挑战，林昶廷指出人工智能安全威胁呈现多层次风险体系：对抗攻击方面，从传统对抗样本演进至大模型越狱攻击；智能体系统放大单体模型风险，形成链式传播效应。数据层面存在训练投毒与后门植入隐患，内容生成面临AIGC溯源鉴别难题。框架安全涉及开源组件漏洞及容器化部署攻击面。治理需技术防御、标准建设与体系构建三维并进。

税雪飞介绍了安恒信息针对大模型及智能体系统全链路风险的防范思路。一方面，升级传统安全能力，适配新兴大模型网络建设需求；另一方面，研发 MAF 大模型内容防火墙等新型安全产品，构建全方位防护体系。

孟令宇则指出传统路径"先发展后治理"的补丁式安全架构已难以适配AI能力指数级跃迁所衍生的动态风险敞口，由此提出从"Make AI safe"向"Make Safe AI"的范式跃迁，主张将安全嵌入AI技术基座，通过构建具有安全能力的原生系统架构，实现安全防护机制与智能进化轨迹的同频共振。