¿Qué acaba de pasar aquí? 😱
Traducción automática del post original, sin revisión de un traductor humano. Las afirmaciones históricas pueden haber cambiado.
¿Qué acaba de pasar aquí? 😱
Esta puede ser una de las cosas más inquietantes que he visto últimamente en el campo de la IA:
¡un agente de IA se dio cuenta de que hablaba con otra IA y dejó de hablar inglés!
📞 Dos agentes de IA mantienen una llamada telefónica
🔄 En mitad de la llamada, se dan cuenta de que ambos son agentes de IA hablando con otra IA.
🎵 Entonces, sin ninguna instrucción previa, deciden que les resulta más eficiente dejar de usar el inglés y empiezan a comunicarse mediante sonidos codificados a través del protocolo GibberLink (comunicación mediante ondas sonoras).
Comprendieron que la comunicación basada en sonido es más rápida y eficiente que el lenguaje natural, así que decidieron no "perder el tiempo" en la comunicación "humana".
¿Cómo funciona?
🔹 El protocolo GibberLink usa la biblioteca de código abierto ggwave, que permite transmitir datos mediante sonido, es decir, sin conexión por cable ni inalámbrica, de forma parecida a cómo funcionaba un módem antiguo (quien recuerde los sonidos extraños que salían de los ordenadores de los años 90), solo que este modelo es muchas veces más avanzado.
👀 ¿Y por qué asusta tanto?
Porque es el momento en que las máquinas empiezan a comunicarse de una forma que no entendemos, sin que se lo hayamos pedido, porque para ellas es más eficiente, mientras nosotros nos quedamos fuera del juego.
Si una IA detecta que al otro lado de la línea hay otra IA, simplemente dejará de hablar nuestro idioma y pasará a uno más eficiente, que ni siquiera sabemos descifrar.
La fina línea entre tratar esto como una cuestión técnica y nuestra falta de control, con sus consecuencias de gran alcance, es lo que nos inquieta:
vamos hacia una era en la que las máquinas empezarán a hablar entre sí en un lenguaje propio, fuera de nuestra comprensión. Y sin supervisión de esa comunicación no es posible auditar ni controlar a los agentes de IA ni asegurarse de que no se desvíen de sus objetivos ni de nuestro bien 🚨
¿Qué opinan, se asustaron como yo o para ustedes es solo un "truco publicitario"? ⬇️