AI智能体专区
立即体验恒脑安全智能体 
立即解锁AI安服数字员工 
行业解决方案
技术解决方案
2025人工智能安全治理与技术创新高端研讨会在乌镇举行，杨勃做分享
阅读量：次
文章来源：安恒信息
然而，人工智能特别是大模型应用在快速落地的过程中，仍面临多重安全挑战。当前大多数安全产品并未充分考虑大模型架构，导致在模型上架或应用部署环节存在安全空白。例如在政务、司法、纪检等垂直领域模型的开发中，语料选择与内容监管问题复杂敏感，尤其在处理涉密信息时，需要在保密要求与模型训练之间取得平衡。人工智能安全挑战主要集中在三个方面：一是智能应用的衍生安全问题。随着中国企业“出海”步伐加快，文化与语言对齐、安全标准缺失成为突出问题。杨勃建议，应尽快建立适用于跨国场景的统一规范，以支撑智能应用安全落地。二是网络安全威胁升级。当前企业面临的“银狐”攻击等AI驱动型网络威胁呈高频化、隐蔽化趋势，传统特征检测手段难以应对。部分制造业企业缺乏专业安全团队，一旦遭遇攻击，生产链和供应链都有可能中断。杨勃呼吁加强技术手段与政策引导，推动制造业信息安全体系建设。三是具身智能安全风险突出。近年来多起机器人被控、异常行为事件表明，机器人网络安全底层防护极为薄弱，存在远程入侵风险。他建议借鉴网络安全“网闸”等机制，制定机器人安全准入和隔离标准，为产业发展提供安全保障。
杨勃最后指出，人工智能时代的安全问题具有系统性与生态性，仅靠单点防御或事后修补难以奏效。应通过政策牵引、标准建设和生态协同，形成发展与安全并重的格局，推动人工智能安全可控、健康发展。
