近日,天融信(002212)发布教育行业AI智能体安全方案。据介绍,该方案全环节植入安全能力,兼顾AI应用防护,同时可兼容学校原有网络、主机、数据与安全运营体系。
近年来,多起智能体安全事件陆续暴露新型风险隐患,攻击场景已延伸至教育等重点行业。今年5月,第三方机构监测到利用OpenAI智能体发起的入侵尝试,攻击对象包含高校与政府网站。
伴随风险凸显,监管政策同步跟进。教育部等五部门联合印发《“人工智能+教育”行动计划》,其中专门要求筑牢“人工智能+教育”安全屏障,要求构建人工智能教育应用安全防护体系、落实分类分级防护标准,从严开展教育大模型安全审核,保障算法、数据与基础设施安全,规范AI进校园流程,健全评估备案、监测预警、应急响应机制,遏制伪造诈骗、学术造假、隐私泄露等问题。分析人士指出,对于教育智能体落地而言,安全合规不再是差异化加分项,而是规模化落地必须满足的硬性要求。
在此背景下,天融信面向教育行业落地“先体检、再守护、后运营”AI智能体安全方案,划分为安全评估、安全防护、运营治理三大类别,提供八款可自由组合的产品服务,在用户请求、智能体推理、知识库检索、MCP/API调用、业务系统、终端执行全环节植入安全能力,兼顾AI应用防护,同时可兼容学校原有网络、主机、数据与安全运营体系。
具体来看,在安全评估环节,该方案依托大模型安全评估系统,调用38万余道内容合规题库与2100余个AI应用及智能体漏洞库,在应用上线前完成全量检测,解决“上线前心里没底”的问题。同时,在安全防护环节架设师生与大模型之间的“AI防火墙”,拦截提示词注入、违规内容与数据外泄,并对未纳管接口、未登记智能体进行识别。此外,在运营环节,该方案重点解决“长期用得好不好”的问题,依托智能体安全管理系统完成告警降噪与漏洞闭环处置,AI网关则统一接管多模型接口,按部门、个人设置Token预算。
业内人士指出,教育场景覆盖高校、中小学、教培机构等多元主体,同时承载师生个人信息、科研数据、教学资源等多类敏感资产,叠加AI进校园带来智能体、大模型等新型应用,因此教育行业的网络安全防护存在显著差异化诉求。天融信表示,面向人工智能与教育场景深度融合的发展趋势,公司将依托全栈 AI 安全能力,支撑《“人工智能 + 教育”行动计划》落地实施,保障教育智能体在边界清晰、风险可控、责任可追溯的基础上安全部署、可靠运行。