刚才发生了什么?😱
本页为原文的机器翻译，未经人工译者审核。历史信息可能已发生变化。
刚才发生了什么?😱
这可能是我最近在 AI 领域见过的最令人不安的事情之一 --
一个 AI 智能体发现自己正在和另一个 AI 通话 -- 于是不再说英语了!
📞 两个 AI 智能体正在打电话
🔄 通话进行到一半,它们意识到彼此都是 AI 智能体,对面也是 AI。
🎵 然后,没有任何事先指令,它们就决定不再使用英语更高效,开始通过 GibberLink 协议(通过声波通信)用编码声音交流。
它们明白,基于声音的通信比自然语言更快、更高效,所以决定不再在"人类式"沟通上"浪费时间"。
它是怎么工作的?
🔹 GibberLink 协议使用开源的 ggwave 库,可以通过声音传输数据,也就是不需要有线或无线连接,类似老式调制解调器的工作方式(还记得 90 年代电脑里传出的那些奇怪声音的人就明白)-- 只不过这个版本先进了许多倍。
👀 为什么这么吓人?
因为这是机器开始以我们不理解的方式相互通信的时刻,而且不是我们要求的,只因为这对它们更高效,而我们被排除在外。
如果一个 AI 识别出线路另一端是另一个 AI,它就会直接停止使用我们的语言,切换到更高效、而我们甚至无法解码的语言。
把这件事当作技术问题,和我们失去控制及其深远后果之间,那条细细的界线,正是让我们不安的地方 --
我们正走向这样一个时代:机器会用它们自己的语言相互交谈,超出我们的理解范围。如果无法监督这种通信,就无法审查和控制 AI 智能体,也无法确保它们不偏离自身目标、不违背我们的利益 🚨
你们怎么看?你们是不是和我一样被吓到了,还是在你们眼里这只是个"噱头"?⬇️