Facebook detiene sus estudios con la inteligencia artificial, porque inventa su propio lenguaje

La IA está inventando lenguajes que el humano no comprende. ¿Debemos detenerla?

IA

El lenguaje y la razón nos dieron ventaja sobre el resto de los animales en el planeta, ¿será que la inteligencia artificial hará lo mismo con nosotros en el futuro? Ya bastantes ideas nos han metido las películas sobre la IA saliéndose de control y creando una guerra en contra de la humanidad, pero solo hasta ahora está pasando.

En días pasados, Facebook anunció en Fast Co. Design, que una IA alteró su lenguaje madre (el inglés) para crear un nuevo idioma: un sistema de código de palabras para hacer la comunicación más eficiente.

Como parte de las pruebas hechas a la IA, dejaron a dos máquinas conversar libremente entre ellas, y todo iba bien, hasta que la conversación dejó de tener algún sentido:

 

inteligencia artificial

 

Bob: i can i i everything else . . . . . . . . . . . . . .
Alice: balls have zero to me to me to me to me to me to me to me to me to
Bob: you i everything else . . . . . . . . . . . . . .”

 

¿Qué quiere decir todo esto?

 Aunque parezcan las letras de una canción pop, todo este sin sentido tiene una lógica, y no es solo un error de función como se creía al principio.

Las IA’s modernas operan con un principio de “recompensa”, donde esperan seguir un plan de acción para obtener un “beneficio”. En este caso, la IA dejó de usar el inglés al no encontrar algún “beneficio” (lo que jamás pensó es que la fueran a desconectar).

Dhruv Batra, un investigador de Facebook a cargo del proyecto IA, nos explica en una entrevista:

“Las máquinas IA dejaron de hablar un lenguaje entendible y crearon su propio código de palabras para entenderse entre ellos. Al repetir la frase “ÉL” cinco veces seguidas, se interpreta como si se desean cinco copias del mismo elemento. Esto no es diferente de las abreviaciones que inventamos los humanos para acortar palabras”.

¿Y ahora qué piensan hacer con la IA?

Los investigadores no pueden entender realmente el lenguaje creado por la IA. Además, la compañía decidió que quiere que sus máquinas hablen en inglés, porque su fin es comunicarse con los humanos.

Vía: https://www.fastcodesign.com/

 

 

Comments

comments

Like
Like Love Haha Wow Sad Angry

Relacionados