详情

近日,在“众人数字经济大会—云智算安全论坛暨2025第三届SecGo安全会议”上,中国信息通讯商量院负责授牌诞生“云上大模子安全股东方阵”,发布“2025年着实安全最新评估效果”。凭借在东谈主工智能安全界限深厚蕴蓄与翻新实行,启明星辰当选方阵副理事长单元;启明星辰天清MAF大模子哄骗防火墙首批通过中国信通院“大模子内容安全严防居品才气评估”。

本次评估严格依据《大模子内容安全严防居品才气评估方针》,聚焦用户爱护与本体出产场景中的中枢风险与胁迫,重心遮盖高回击攻防测试、违纪内容识别、端到端安全才气闭环、生态集成、严防性能等八类重要方针,全面涵盖内容风险识别、检测分析、安全严防及安全管制等维度。在此泰斗评估中,启明星辰天清MAF大模子哄骗防火墙线路优异,充分展现了迥殊的详细实力。

为有用搪塞大模子安全挑战,启明星辰聚焦前沿趋势商量、推动设施体系完善、探索行业最好实行、促进产业生态协同,积极了构建全面的大模子安全才气体系。其中,面向DeepSeek等企业级大模子工作商,启明星辰推出业内首个大模子安全严防居品 —— 天清MAF大模子哄骗防火墙。

该居品旨在保护使用大模子或由大模子动手的哄骗步地免受胁迫或镌汰其风险,为大模子推理工作、智能体及MCP工作提供及时安全严防,在模子安全、数据安全、哄骗安全、内容安全等界限提供一体化管制有研讨。

模子安全:全面遮盖OWASP LLM TOP10大模子有关风险,有用注释请示词注入膺惩、过度代理、算力拒却工作膺惩、不当输出等胁迫。

数据安全:对大模子/智能体输出内容进行全面检测和过滤,已毕敏锐个东谈主数据过滤、系统请示词严防、数据表示严防。

哄骗安全: 一站式提供大模子哄骗层严防,包括组件缝隙严防、Web膺惩严防、BOT流量管制、API安全严防等。

内容安全:遮盖《生成式东谈主工智能工作安全基本条目》、《生成式东谈主工智能工作管制暂行方针》等公安、网信合规条目。

针对大模子业务场景的内容级、哄骗级新式胁迫,天清MAF翻新性选择“大模子手艺”回击“大模子胁迫”旅途,有用管制传统安全居品难以搪塞大模子当然言语交互风险场景的痛点;通过大小模子鸠合的当然语义检测,交融神经收集语义相识与智脑对决手艺,全面保险大模子工作安全;基于多项算法优化及动态注释矩阵手艺,已毕毫秒级反应的高性能内容检测。

跟着生成式东谈主工智能手艺在企业级哄骗的爆发式增长,其带来的内容安全、数据表示、模子花费等新式安全风险日益突显。启明星辰将捏续深耕大模子安全界限开云体育,全力推动大模子安全哄骗落地实行,促进大模子安全居品工作水平进步,为产业健康发展添砖加瓦。