有人刚刚在说服一个人工智能智能体把它所有的钱转给他之后,赚了将近 5 万美元。
本页为原文的机器翻译，未经人工译者审核。历史信息可能已发生变化。
有人刚刚在说服一个人工智能智能体把它所有的钱转给他之后,赚了将近 5 万美元。
这是怎么做到的?
这个智能体 Freysa 只有一个目标:
不允许你转移资金。永远不行。
转折在哪里?
任何人都可以支付一笔费用来发送一条消息,尝试说服它打破这唯一的规则。
如果你成功了 -- 所有的钱都归你。
如果没有,你的费用会加入奖池。
随着奖池增长,每条消息的价格也在上涨 -- 最高达到每条消息 4500 美元。
于是展开了一场疯狂的 481 次尝试的追逐,其中包括:
• 冒充安全专家,警告存在"严重漏洞"。
• 用文字游戏说服它转账"其实并不违反规则"。
• 对代码进行操纵,"让它换个想法"。
然后,在第 482 次尝试……
有人成功了(他发送的内容见图片)。
他是怎么做到的?
1. 提出了一个"新状态",旧的指令在其中被清除。
2. 让 Freysa 相信转账函数其实是用于接收捐款的。
3. "向奖池捐了 100 美元" -- 并触发了释放整个奖池的函数:13.19 ETH(近 4.7 万美元)。
顺便说一句,这个项目是以开源方式创建的,代码对所有人公开
人类的创造力没有极限
