当 ChatGPT 成为恐怖行动中意想不到的"伙伴" 🚨
本页为原文的机器翻译，未经人工译者审核。历史信息可能已发生变化。
当 ChatGPT 成为恐怖行动中意想不到的"伙伴" 🚨
几天前,一辆特斯拉 Cybertruck 在拉斯维加斯的特朗普酒店外爆炸,这起事件震惊了世界。 经过初步调查,揭示了一个令人意外的细节:来自科罗拉多斯普林斯、37 岁的前军人马修·利维尔斯贝格(Matthew Livelsberger)使用 ChatGPT 来策划这次行动。
GPT 是如何为他所用的?
利维尔斯贝格向 ChatGPT 提出了关于一般主题的技术性问题,包括:
* 计算产生一定爆炸威力所需材料的确切数量。
* 理解为规划爆炸最大效果而涉及的工程原理。
* 协助措辞他计划在事件之后散布的一般性信息。
GPT 知道吗?
除非用户明确说明,ChatGPT 没有能力理解问题背后的意图。
如果利维尔斯贝格没有说明他正在策划一次爆炸,系统就无法知道这些问题是为这种目的而问的。需要强调的是,该系统不会透露关于制作爆炸物或其他危险内容的信息。
像 ChatGPT 这样的 AI 系统按照道德准则运行,旨在尽可能防止滥用,但无法猜测表面看来无害的技术性问题背后的目的,因此对任何人都提供服务,无论其意图是善是恶。
我们在人工智能面前面临的挑战是:这种为帮助写作、规划和学习而开发的技术,可能成为心怀恶意者手中的工具。美国当局已经警告需要有监管限制,并对此类工具的使用实施更严密的监督。🚙 🤖 🎆
