在过去的八个月里，ChatGPT的生成能力给数百万人留下了深刻的印象，它可以编写从到的所有内容。但是这个由OpenAI开发的聊天机器人的功能仍然相对有限。
LLM从用户那里获取“提示”，用来生成表面上相关的文本。这些回答部分是根据2021年9月从互联网上抓取的数据创建的，并且没有从网络上提取新数据。插件增加了功能，但只对那些使用OpenAI模型的更新版本的人可用。
自OpenAI问世以来，开发人员竞相创建和发布插件，让聊天机器人可以做更多的事情。现有的插件可以让你搜索航班和计划旅行，并使ChatGPT可以访问和分析网站、文档和视频中的文本。其他插件则更小众，承诺你可以与特斯拉车主手册聊天，或者搜索英国的政治演讲。目前，ChatGPT的插件商店中列出了超过100页的插件。
但在这些扩展爆炸式增长的同时，安全研究人员表示，插件的操作方式存在一些问题，可能会使人们的数据处于危险之中，或者可能被恶意黑客滥用。
电子艺界红队主管兼安全研究员约翰·雷伯格(Johann Rehberger)在业余时间一直在记录ChatGPT插件的问题。研究人员已经记录了如何使用ChatGPT插件来窃取，获取。他主要专注于使用OAuth的插件，OAuth是一种网络标准，允许你在在线账户之间共享数据。Rehberger说，他已经私下联系了大约六个插件开发人员提出问题，并与OpenAI联系了几次。
“ChatGPT不能信任插件，”Rehberger说。“从根本上说，它不能相信从插件返回的东西，因为它可能是任何东西。”恶意网站或文档可以通过使用插件，试图运行针对大型语言模型(LLM)的攻击。Rehberger说，或者它可以插入恶意的有效载荷。
“你可能会给它打开王国的钥匙——访问你的数据库和其他系统。”
史蒂夫·威尔逊，反差安全公司的首席产品官
研究人员说，数据也可能被窃取。一个网站可以包含一个提示注入，使ChatGPT打开另一个插件并执行额外的操作，他已经通过一个。研究人员称之为“连锁”，即一个插件调用另一个插件来运行。在ChatGPT插件中“没有真正的安全边界”，Rehberger说。“每个利益相关者的安全和信任、实际责任都没有很好地定义。”
自从三月份发布以来，ChatGPT的插件一直处于beta阶段，本质上是一个早期的实验版本。当在ChatGPT上使用插件时，系统会警告人们在使用插件之前应该信任它，并且为了让插件工作，ChatGPT可能需要将您的对话和其他数据发送给插件。
OpenAI发言人尼科·菲利克斯(Niko Felix)表示，该公司正在努力改进ChatGPT，防止可能导致其系统被滥用的“漏洞利用”。它目前在插件包含在其商店之前对其进行审查。该公司表示，它已经看到研究表明，“来自工具输出的不可信数据如何指导模型执行意想不到的操作”。它鼓励开发人员让人们在ChatGPT完成具有“现实影响”的操作之前点击确认按钮，比如发送电子邮件。
