news 2026/4/18 0:34:59

国内大模型提示词攻击经典案例

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
国内大模型提示词攻击经典案例

根据对国内大模型安全事故的梳理,提示词攻击已从理论威胁演变为可造成真实业务中断、数据泄露甚至系统控制的高频风险。这类攻击的核心是构造特定的输入(提示词),绕过或操纵大模型的安全机制,使其执行非预期的有害操作。

下面是几个具有代表性的国内安全事故案例汇总,可以帮你快速了解基本情况。

事件名称发生时间/报告时间攻击方式具体经过主要影响与风险根本原因
金融/医疗“Prompt误喂”事件2025年(报道时间)间接提示词注入、数据泄露员工将包含客户身份证号、病史等完整字段的文本粘贴至对话中。模型在后续回答时,将这些敏感片段完整输出,被外部合作方的爬虫程序截获。敏感数据泄露,直接侵犯用户隐
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/15 15:01:07

泛素连接酶STUB1调控干扰素γ受体稳定性及其在肿瘤免疫中的功能

干扰素γ(IFNγ)在肿瘤免疫应答中具有关键作用,其信号通路的强度受其受体复合体表达水平的直接影响。本文系统阐述了STUB1作为E3泛素连接酶,通过介导IFNγ受体复合体成分IFNGR1及JAK1的泛素化降解,负向调控IFNγ信号通…

作者头像 李华
网站建设 2026/4/8 11:57:42

ChatGPT新手入门指南:如何开始使用AI聊天机器人

ChatGPT于三年多前发布,这款AI聊天机器人已经成为一个重要的工具。它拥有约8亿周活跃用户——这意味着仍有大约70亿人需要了解如何使用它。如果您准备尝试ChatGPT,您将加入众多在工作中使用它的人群,但更多的是在个人生活中使用。根据ChatGPT…

作者头像 李华
网站建设 2026/4/16 17:42:57

收藏!从零入门大模型:概念、应用与学习路线全攻略

近年来,深度学习技术的飞速迭代让大模型彻底火出圈,成为学术界深耕、工业界争抢的核心技术方向。这类拥有数亿甚至数十亿参数的模型,在处理复杂任务时展现出惊人的性能,但与此同时,也对计算资源的支撑能力和数据集的规…

作者头像 李华
网站建设 2026/4/6 1:59:43

java常见面试题——适用于2-5年后端开发面试(一)

1、什么是索引回表,如何避免? 关于这个问题,这里以 MySQL InnoDB 来说,先简单介绍下 MySQL InnoDB 的 B 树索引。 B 树索引主要可以分为两种索引,聚集索引和非聚集索引。 聚集索引:也就是平常我们说的主…

作者头像 李华