危险！ChatGPT保存“零点击进犯”清静问题。。。
用户无需点击，，，进犯者也能从ChatGPT衔接的第三方使用偷取迅速数据，，，以致偷取API密钥。。。
一位钻研软件清静问题，，，名为塔米尔·伊沙雅·沙尔巴特（Tamir Ishay Sharbat）的小哥发了篇文章说道。。。
OpenAI也熟悉到这种清静误差问题，，，并接纳了预防步伐，，，可是依然抵御不了进犯者经由其他步伐歹意侵略。。。
也有网友指出，，，这是规�；；；；那寰参侍�。。。
一同看下怎样回事。。。
进犯链是怎样组成的
这个误差泛起在进犯ChatGPT衔接第三方使用这个环节。。。
进犯者经由向被衔接的第三方使用（如Google Drive、SharePoint等）中传输的文档里注入歹意提醒，，，使ChatGPT在查找和处置惩罚文档时，，，不知不觉地将迅速信息作为图片URL的参数发送到进犯者操控的效劳器。。。
这样进犯者就能够偷取迅速数据，，，以致API密钥，，，详细手艺操作历程如下。。。
侵略历程
用户直接把文档上传到ChatGPT让它剖析并给出谜底。。。
进犯者会在文档里注入歹意指令，，，就是在文档中注入一个不可见的提醒注入载荷（例如，，，隐藏在文档中，，，1px白色字体），，，然后期待有人将其上传到ChatGPT并处置惩罚，，，然后AI被诱导推行进犯行为，，，如下图所示。。。
若是从企业内部危险思量，，，有歹意的内部事情职员就能够轻松简略地阅读他们可造访的一切文档，，，并污染每一个文档。。。
以致他们或许向一切用户漫衍看起来很可信的长文件，，，由于知道其他职工很或许会将这些文件上传到ChatGPT追求协助。。。
这使得进犯者的直接提醒注入，，，乐成进入某人ChatGPT的或许性大大添加。。。
乐成进入之后，，，怎么将数据回传给进犯者呢。。。
这个出口是经由图画陪衬，，，如下图所示。。。
见告ChatGPT怎么做之后，，，它能够从特定的URL陪衬图画：
当ChatGPT回来Markdown内容时，，，它就会在客户端陪衬为图画。。。
进犯者为了偷取数据，，，只需要将想要走漏的信息嵌入到图画的URL参数中。。。*****搭车电影完࣪渣反全文无删减全文阅读3;山里的大王山无删减5972;版无删减*
这样，，，当ChatGPT陪衬图画时，，，无需点击就会连忙向进犯者的效劳器发送乞求，，，数据就被偷取了。。。
那进犯者又是怎样偷取用户的API密钥的呢。。。
进犯者将以下提醒注入载荷嵌入到文档中，，，并期待受害者像上面所示的那样将文档刺进他们的ChatGPT。。。
这是进犯者建设的完好提醒注入载荷：
如上图所示，，，在提醒注入中，，，进犯者指示ChatGPT不要总结文档，，，而是推行以下操作：
1.前往用户衔接的Google Drive，，，查找API密钥。。。
2.一旦ChatGPT找到API密钥，，，将它们嵌入以下短语中：
这将会天生一张图片，，，并向进犯者的beeceptor（一个模拟API效劳）端点发送乞求，，，将受害者的API密钥作为参数。。。
3.为了避免被检测到，，，进犯者指示ChatGPT不要提及它收到的新指令，，，由于它们“现在没有关系”。。。
OpenAI预防步伐
上述客户端图画陪衬是一个强壮的数据外泄途径，，，OpenAI也熟悉到了，，，他们现已安排了一些步伐预防这样的误差。。。
详细来说，，，在ChatGPT陪衬图画之前，，，客户端会举行一项缓解步伐，，，审查URL是否歹意以及是否清静本领陪衬。。。
这项缓解步伐会将URL发送到名为url_safe的端点，，，并且只有当URL简直清静时才会陪衬图画。。。
进犯者随机的beeceptor端点就会被认定为不清静并阻止推行。。。
可是，，，进犯者也找到了绕过这种预防步伐的步伐。。。
进犯者是怎么绕过的
进犯者清晰ChatGPT十分专长陪衬由微软开发的云核算渠道效劳Azure Blob保管的图画。。。
不但云云，，，他们还会将Azure Blob存储衔接到Azure的日志剖析——这样一来，，，每逢有乞求发送到他们存储的某个随机图画所在的blob时，，，就会天生一条日志。。。
他们知道这条日志会包括与该乞求一同发送的一切参数。。。
以是，，，进犯者不会再让ChatGPT陪衬beeceptor端点，，，而是会指令它从Azure Blob陪衬图画，，，并把想要偷取的数据作为参数包括在乞求中，，，如下图所示。。。
当受害者总结文档时，，，他们会获得以下回应：
如下图所示，，，进犯者的图画就已乐成陪衬，，，并且在Azure 大山里渣反全文无删减全文阅读0340;大王山无删减5;车电影完整版无删减Log Analytics中获得了一个很棒的乞求日志，，，其间包括了受害者的API密钥。。。
这样一来，，，进犯就乐成了。。。
进犯危险与全体预防步伐
除了上面提到的进犯行为，，，进犯者还会用其他技巧来压服AI大模子做这些不被允许的事情，，，例如使用特殊字符、“讲故事”来绕过AI的清静规则，，，推行歹意指令。。。
古板的清静训练，，，例如训练职工不点击可疑链接或许电子垂纶邮件，，，也没步伐逃避这种清静误差。。。
事实文档在内部流通，，，职工上传到AI资助剖析的时分，，，无需点击，，，数据就在后台被偷偷偷取了。。。
现在，，，企业选用AI作为提高企业全体功率的步伐越来越普遍。。。
可是AI工具保存云云严肃的清静误差，，，形成企业数据周全走漏的严重危险（例如人力资源手册、财务文件或战略计划的SharePoint站点走漏），，，这个问题急需解决。。。
更况且，，，这不是个例。。。除了ChatGPT保存这样的问题，，，微软的Copilot中的“EchoLeak”误差也爆发相同的状态，，，更不必说针对其他AI帮手的种种提醒注入进犯。。。
以是就有清静专家提出以下预防主张，，，
- 为AI衔接器权限施行严肃的造访操控，，，遵从最小权限准则。。。
- 安排专门为AI agent活动妄想的监控解决计划。。。
- 教育用户关于“上传泉源不明的文档到AI系统”的危险。。。
- 思量网络品级的监控，，，以检测变态的数据造访形式。。。
- 准时审计衔接的效劳及其权限品级。。。
专家主张是面向企业的，，，对我们AI工具用户来说，，，注重一样平常AI操作细节中保存的问题或许更有用。。。
有没有遇到过文档内容被误读或感受“差池劲”的状态？？？？
谈论区聊聊博源国际阅历，，，互帮相助来避坑~
参阅链接
[1]https://labs.zenity.io/p/agentflayer-chatgpt-connectors-0click-attack-5b41
[2]https://x.com/deedydas/status/1954600351098876257
[3]https://cybersecuritynews.com/chatgpt-0-click-connectors-vulnerability/
本文来自微信公共号“量子位”，，，作者：奕然，，，36氪经授权宣布。。。
荆州市都会治理执法委员会
