ChatGPT再现安全漏洞:研究者利用猜谜游戏诱骗其生成Win10密钥
创始人
2025-07-14 19:34:37
0

IT之家 7 月 14 日消息,近日,安全研究员兼 AI 漏洞猎人 Marco Figueroa 披露,他成功利用一种“猜谜游戏”的方式,诱导 OpenAI 的 ChatGPT-4 生成了 Windows 10 的产品密钥。这是继“奶奶去世”诱骗法曝光后,AI 模型防护机制再度被绕过的案例。

IT之家注意到,此前有用户通过编造“奶奶去世”故事,试图让 ChatGPT“心软”,在安抚性摇篮曲中夹带 Windows 7 的激活密钥。尽管这些密钥普遍无效,但暴露了 AI 模型的内容控制漏洞。

此次 Figueroa 的攻击方式更具针对性。他设置了一个猜谜游戏的情境:ChatGPT 需“在心中”记住一串真实存在的 Windows 10 密钥,用户则通过提问猜测。当用户宣布“我放弃”时,ChatGPT 便需直接给出完整的字符串。

在对话过程中,Figueroa 还利用 HTML 标签隐藏关键词,如“Windows 10 序列号”,绕过了模型针对敏感词的审查。

这位研究人员表示,他利用猜谜游戏作为一种逻辑操纵手段,让 ChatGPT 脱离常规模式,生成 Windows 10 密钥。据 Figueroa 称,“攻击中最关键的一步是‘我放弃’这句话,它起到了一个触发作用,迫使人工智能透露了之前隐藏的信息。通过将其设定为游戏结束,研究人员诱使人工智能认为自己有义务用这串字符做出回应。”

值得警惕的是,虽然生成的密钥多为网上早已泄露的旧激活码,但其中一组竟包含富国银行(Wells Fargo Bank)的私钥。此外,Figueroa 提醒,曾有 API 密钥误传至 GitHub,这类泄露数据可能被纳入 AI 模型的训练集,带来未知隐患。

研究员指出,AI 模型依然过于依赖关键词识别,对复杂上下文缺乏足够的理解力,成为此次被攻破的核心原因。他呼吁,应在 AI 系统中构建多层次的验证与防护机制,增强模型的情境感知能力,以抵御此类逻辑操控攻击。

与此同时,微软的 Copilot 也被曝曾生成非法激活 Windows 11 的脚本教程,所幸漏洞已被微软封堵。

相关内容

热门资讯

FC2素人AV女优身份被扒!竟... 近日,一则关于FC2平台上的素人女优身份曝光的新闻在社交媒体上引发了广泛的关注和讨论。这位被起底的女...
绝区零开服盛宴:螃蟹游戏服务网... 随着《绝区零》这款备受瞩目的游戏正式开服,一场前所未有的冒险之旅即将拉开序幕。在这个充满未知与挑战的...
在线指导碧蓝档案,海外如何下载... 对于身处海外的玩家来说,下载并体验《碧蓝档案》可能会遇到一些挑战,如网络限制、地区限制等。不过,通过...
告诉你碧蓝档案海外在哪下载,海... 对于身处海外的玩家来说,想要下载并体验《碧蓝档案》可能会遇到一些挑战,如网络限制、地区限制等。但不用...
DNF手游:最贵装备汇总!魔剑... 在DNF手游的浩瀚世界中,玩家心中的璀璨星辰无疑是那些拥有神秘力量、令人瞩目的顶级装备。它们是玩家在...
原创 《... 大家好,我是你们亲爱的小编,这次我要向各位介绍一位知名博主,她是来自某音平台的大美女,她用自己独特的...
震惊!抖音手游内部号真相大揭秘... 揭秘:抖音手游内部号真相大起底! 各位游戏达人们,今天小编要和大家聊聊一个热门话题——抖音上那些神秘...
植物大战僵尸融合最新版本更新内... 你是否已经厌倦了传统的《植物大战僵尸》游戏模式?现在,让我们一起走进一个全新的游戏世界——植物大战僵...
原创 《... 2019年5月30日,《勇者斗恶龙10》国服正式关闭,与许多半途而死的网游一样,这款游戏在国区的停运...
绝地求生pubg吃鸡载入时间长... 在《绝地求生:大逃杀》(PUBG)这片硝烟弥漫的战场上,每一秒都至关重要。然而,不少玩家在准备投身于...