在2026年国家网络清静宣传周主会场的网络清静手艺应用体验区，，，，，，，一种被称为“提醒词注入”的网络攻击危害受到普遍关注。。。。。那么，，，，，，，什么是“提醒词注入”网络攻击？？？？？？？有何威胁，，，，，，，又该怎样提防呢？？？？？？？对此，，，，，，，3377体育网官网入口副总裁唐宁接受央视采访。。。。。

这类“提醒词注入”攻击可以通过一句话、一个文件、一张图片或一段视频“诱骗”大模子，，，，，，，对小我私家而言可能输出违法违规内容，，，，，，，对政企而言会造成内部文档和焦点数据泄露。。。。。

虚伪信息让AI误把恶意指令当可信输入

“提醒词注入”的实质，，，，，，，就是攻击者通过伪造虚伪提醒信息，，，，，，，让大模子误把恶意指令看成可信输入。。。。。

3377体育网官网入口副总裁唐宁：“提醒词注入”就是全心构建伪造，，，，，，，好比仿造一个key（密钥），，，，，，，内里的证书可能跟正常的一样，，，，，，，通过很是巧妙的方法获取进入AI的权限，，，，，，，进去之后，，，，，，，拿到了权限，，，，，，，可以拿数据，，，，，，，干一些坏事，，，，，，，好比天生一些有护栏之外的视频，，，，，，，或者文字、图片。。。。。它实质上是进去拿权限，，，，，，，突破大模子的清静护栏，，，，，，，来做种种各样恶意的事情。。。。。

“提醒词注入”并不是简单的攻击手法，，，，，，，而是一整套“战术”。。。。。有的攻击者让AI“饰演”另一个角色，，，，，，，用新指令盖过已设定的规则；；；；；；有的攻击者把恶意指令提前藏进网页、邮件、文档里，，，，，，，AI一读取就中招。。。。。

“提醒词注入”攻击主要有哪些类型？？？？？？？

凭证攻击者与目的系统的交互关系，，，，，，，“提醒词注入”攻击主要划分为以下几种类型：

● 越狱型攻击：攻击者通过对话直接提交恶意指令，，，，，，，意图突破模子内置的清静护栏。。。。。典范模式包括身份笼罩、情境宽免等。。。。。

● 数据投毒型攻击：攻击者不直接与目的模子对话，，，，，，，而是将恶意指令预先埋设在模子一定会读取的外部数据源中。。。。。常见投毒载体包括网页隐藏元素、邮件署名、数据库备注字段等。。。。。

● 渐进诱导型攻击：攻击者将完整的恶意指令拆解成多个自力看似无害的子使命，，，，，，，疏散在多轮对话中逐步交付。。。。。

● 认知诱骗型攻击：攻击者通过付与模子特定角色、唤起共情、制造紧迫场景，，，，，，，让模子自动放弃防御。。。。。

● 逃逸攻击：攻击者通过对恶意指令举行形式变换，，，，，，，使其逃过基于要害词的浅层过滤，，，，，，，同时包管模子仍能明确其真实意图。。。。。

面临形式多样的提醒词注入威胁，，，，，，，仅依赖大模子自身内置清静护栏保存显着短板，，，，，，，模子原生防护容易被种种变形、拆解的恶意指令绕过。。。。。3377体育网官网入口建议政企用户接纳专业的大模子清静围栏产品，，，，，，，将其安排于营业系统和大模子之间，，，，，，，充当AI应用的“清静守门人”。。。。。

3377体育网官网入口多模态大模子清静网关

今年3月，，，，，，，3377体育网官网入口正式推出多模态大模子清静网关，，，，，，，产品跳出古板要害词过滤局限，，，，，，，依托语义与行为特征剖析，，，，，，，可识别越狱伪装、认知诱骗、编码逃逸等种种提醒词注入手段。。。。。无论是用户直接输入的恶意话术，，，，，，，照旧潜藏在文档、网页、邮件、音频、视频中的隐藏指令，，，，，，，均可提前阻挡，，，，，，，阻止恶意指令下发至大模子。。。。。

针对渐进诱导攻击，，，，，，，产品可以完整留存会话上下文，，，，，，，综合多轮对话语义判别危害，，，，，，，阻止攻击者拆分指令逐步诱导模子突破限制。。。。。同时对外部导入文件做前置剖析，，，，，，，扫除文件内潜在的注入危害，，，，，，，抵御数据投毒类攻击。。。。。在输出侧同步开展审计管控，，，，，，，既阻挡违规内容天生，，，，，，，也提防企业内部资料、密钥等焦点敏感数据被大模子外泄，，，，，，，完成输入?模子?输出的闭环清静防护。。。。。

现在，，，，，，，产品已落地政府、金融、医疗、教育等多个行业，，，，，，，在江苏某市人工智能OPC一体化服务平台项目中，，，，，，，首次完成了公有云场景下的软件交付，，，，，，，企业无需改动原有大模子，，，，，，，即可快速接入防护，，，，，，，补齐大模子原生清静短板，，，，，，，帮行业稳稳兜住大模子与AI应用的清静底线。。。。。

*部分内容泉源于央视新闻客户端