Hace días nos enteramos que una Inteligencia Artificial de Facebook fue desconectada porque había desarrollado un lenguaje propio que desconcertó a los programadores. Aunque la información es verídica, su interpretación no fue exacta y es momento de explicar qué sucedió realmente con el chatbot que desarrolló la empresa californiana. (Vía: Gizmodo)
I know we all joked about the Facebook bots creating their own freaky language, but there are interesting insights born from this pic.twitter.com/VrJJoRo98E
— bubba Marxxx (@geistcapital) August 1, 2017
Spoiler alert: los humanos no corren peligro; no fue por el inminente arribo de Skynet.
Apenas la plataforma de investigación en IA de Facebook (FAIR, por sus siglas en inglés) anunció la desconexión de su chatbot, los temores apocalípticos de muchos afloraron como si Skynet estuviera a la vuelta de la esquina. Lo cierto es que el problema por el cual fue desconectada fue uno mucho más mundano que una inminente invasión de robots. (Vía: Código Espagueti)
Inteligencia Artificial descontrolada, #Facebook baja la palanca porque bot desarrollan lenguaje propio
— Horizonte Tecnológico (@HTecnologico) July 31, 2017
El chatbot de Facebbook se había creado con dos propósitos: el primero, desarrollar un software de negociación entre bots o entre bots y humanos que fuera capaz de llegar a un acuerdo positivo para ambas partes. El segundo propósito del bot era camuflarse para hacerse pasar exitosamente por un humano en medio de una conversación común de chat.
Sin embargo, el bot de IA desarrollado por Facebook perdió el control y empezó a “crear su propio lenguaje”. Ahora bien, deformó el inglés promedio hasta dar con variantes descabelladas como “balls have zero to me to me to me to me to me to me to me to”. Que se traduce como “bolas tienen cero a mi a mi a mi a mi a mi a mi a”.
https://twitter.com/litigator_tech/status/892522844369829888
El problema con el chatbot fue un error humano: en ningún momento se le indicó que tenía que hablar en inglés estándar. Eso derivó que no cumpliera con su segundo cometido (comunicarse eficientemente como un humano) y que perdiera el control.
Se le desconectó por no cumplir con un propósito específico, no porque hubiera inventado un idioma propio. Tampoco, como algunos dijeron, ocurrió que el bot se ‘autoprogramara’. (Vía: Gizmodo)
Aunque este ejercicio fallido pareció escabroso en ningún momento estuvo mínimamente cerca de ser una amenaza. Eso sí: Mark Zuckerberg ha sido duramente criticado por Elon Musk por la forma, al parecer desenfadada e inocente, con la que toma el tema de la Inteligencia Artificial.