奇安信入局大模型发布大模型卫士防护GPT“泄密”风险

来源：互联网　2023-08-25 19:40:06

新京报讯（记者罗亦丹）奇安信终于入局大模型了，值得注意的是，作为安全企业，奇安信还推出了能够适配主流大模型应用的安全防护产品。

8月25日，奇安信集团在京发布了Q-GPT（奇安信大模型）安全机器人和大模型卫士。Q-GPT安全机器人是基于奇安信大模型的“虚拟安全专家”，可以全天候工作，一台机器人等于60多位安全专家，可产生约2000万元的运营效益，提升生产力。大模型卫士集安全风险发现、大模型访问控制、数据泄露管控、违法违规行为溯源、大模型应用分析等为一体，帮助企业更安全地向大模型要生产力。

“从我们开始训练自己的GPT安全大模型开始，就制定了明确的目标：一定要让客户在使用奇安信的GPT产品时就像是雇佣了一个高级安全专家队伍，把产品领回去就能变成自己的力量。所以这个产品的形态一定不会是一个问答对话框，而是一个聪明的机器人，它能帮助或者替代安全专家执行复杂任务，能全天候工作，成为真正的生产力。”奇安信集团董事长齐向东表示。

【资料图】

实时自动研判“全部告警” 安全机器人承担专家角色

“大模型是不是聪明，要取决于知识数据的质量。比如，GPT写代码，生成代码质量最高的并不是OpenAI、谷歌、Meta等巨头，而是GitHub推出的Copilot，因为GitHub有全球9400万的开发者为其贡献高质量代码和注释;同样,大模型做安全分析师，分析质量最高的也不是巨头们的GPT，而是奇安信本次推出的Q-GPT，因为奇安信拥有业内最大规模的安全专家团队、海量的安全知识数据，以及在历年实战攻防演习中锤炼出来的最强攻击能力、防守能力，而且在预训练数据层面，奇安信具有百万亿级的安全日志、文档、知识库、情报类数据，存储体量达数百PB。”奇安信科技集团股份有限公司副总裁左文建表示。

在现场演示中，奇安信安全机器人展现了强大的智能分析和自动研判能力。某客户安全分析平台收到了海量告警，但安全专家的极限，只能对其中1%的重要告警进行分析研判，99%的告警被无奈抛弃，导致大量隐蔽攻击被忽视掉，增加了系统安全风险。通过安全机器人，可以实时、自动为客户研判“全部告警”，将需要响应处置的告警过滤出来，解决日常分析安全工程师的“告警疲劳”、“研判疲劳”问题，避免“漏报”和“误报”。

安全大模型是机器人的核心基础，Q-GPT基于奇安信多项业内领先的自研技术，例如预训练阶段tokenizer采用QPiece算法,以高效支持中英文和各种编程语言；在模型中使用分组注意力机制代替传统多头注意力机制，以获取更好的训练和解码速度。同时，在推理阶段，也使用了高效加速框架，加速比达6.5倍。

据了解，一个3000人的数字化企业每天平均大约有10亿条日志, 产生约10 万条告警。一个安全分析专家一天最多能处理480条，要想把10万条全部处理完，需要200多个专家，按每人每年30万成本计算，需要6000多万元，这对于绝大多数企业显然难以承受。但如果选择奇安信安全机器人，每台机器人效率相当于60多位专家，可以产生约2000万元的运营效益。

适配主流大模型解决“想用不敢用”难题

“ChatGPT等大模型，会泄露企业的商业秘密，已经引起广泛关注。据统计，在使用ChatGPT的员工中大多数会泄露数据，其中11%的数据为企业敏感数据。而越来越多的办公产品如Microsoft 365 Copilot、WPS AI、通义听悟等都集成了大模型，就意味着将有更多的员工使用大模型，这会加剧企业敏感数据的泄露风险。解决大模型数据泄露难题，迫在眉捷。”奇安信集团副总裁张卓表示。

此次发布会，奇安信正式推出业内首款大模型卫士产品，解决广大企业客户对于大模型“想用不敢用”的顾虑，让他们能够用好大模型提升核心竞争力。

张卓认为，数据泄露带来的直接结果，就是企业核心竞争力的逐步丧失。以某行业龙头企业A为例，该企业拥有大量核心技术专利，形成了强大的技术壁垒，然而，由于员工大量使用大模型应用处理日常工作，且缺乏监管，最终数据投喂过程中公司敏感技术信息不断泄露，时而久之，这些重要技术信息变成GPT知识库的一部分，又通过GPT传授给同行对手企业，导致企业的核心竞争力逐步丧失。

针对这些情形，奇安信发布了大模型卫士，为企业在使用大模型过程中提供四重防护，包括防止数据投喂造成的敏感数据泄露，建立身份识别与溯源机制，避免触发数据跨境安全监管红线，对企业内部大模型应用状况全面分析。

目前，大模型卫士能够适配主流大模型应用，并在终端侧和网络侧，通过检测审计平台、安全代理网关（SWG）等工具，对GPT实现精准管控，全面降低数据安全风险。

“针对汹涌而来的大模型浪潮，促进发展和防范风险需要两者并重。”奇安信科技集团股份有限公司副总裁张卓表示，大模型卫士能帮助企业发现大模型使用过程中的安全风险、实时管控大模型访问和数据投喂过程、提升企业的大模型应用能力、溯源违法违规行为，最终让企业更放心地使用大模型技术，更安全地提升生产力，为大模型健康发展保驾护航。

编辑陈莉校对柳宝庆

推荐DIY文章