La ‘panda de los chatbots’ toma el mando en Facebook

¿Es el lector de este post padre o madre de adolescentes, que se comunican con sus amigos a través de redes sociales, utilizando un lenguaje que es absolutamente ininteligible? Entonces comprenderá qué es lo que debieron sentir los ingenieros del departamento de inteligencia artificial de Facebook cuando descubrieron, para su sorpresa, que dos robots (el nombre técnico es chatbots), a los que estaban enseñando a negociar, habían desarrollado un lenguaje propio que les era totalmente incomprensible.

 

De forma espontánea, mientras se les enseñaban técnicas de negociación, las máquinas desarrollaron su propio lenguaje.

 

La historia fue como sigue. Según se ha informado desde Facebook, ingenieros de la empresa estaban enseñando a los chatbots a negociar entre sí, utilizando lenguaje humano, cuando se les dejó sin supervisión.

Como parte del proceso de aprendizaje, los técnicos estaban enseñando a los dos ordenadores a utilizar el habla humana empleando algoritmos de aprendizaje automático. Fue entonces cuando desarrollaron un lenguaje propio de forma espontánea que, pese a ser más eficiente para la comunicación entre los bots que aquel con el que habían sido programados, no resultaba útil para completar el entrenamiento en negociación. La tarea que inicialmente se les había asignado a las dos máquinas.

Sin sentido…solo en apariencia

Aunque aparentemente, los dos bots parecían estar comunicándose en un galimatías de términos sin sentido, los técnicos no tardaron en descubrir que, tal aparente incoherencia en las formas de comunicación de los bots, tan sólo era eso: una apariencia. Y es que, después de analizar los diálogos, los expertos descubrieron que no había falta de coherencia ni de astucia negociadora.

O sea, que, aunque a simple vista, las máquinas se comunicaban en un lenguaje que parecía ser una corrupción del inglés, en concreto en una extraña mezcla de pronombres y artículos determinados, al analizar las frases los investigadores descubrieron algo realmente sorprendente: dentro del aparente desorden, las máquinas habían sido capaces de crear una estructura lógica coherente. Dicha arquitectura lingüística permitía, a los bots, utilizando su propia inteligencia artificial, negociar entre distintos agentes utilizando no sólo menos palabras, sino, también, reduciendo el riesgo de errores y equivocaciones. Lo consiguieron favoreciendo el uso de abreviaturas, y creando nuevas expresiones, que hacían más rápida y sencilla la ejecución de las tareas asignadas.

mano robot y mano humanaLos investigadores creen que, los mecanismos empleados por los bots, serían similares a los que favorecen la aparición de abreviaturas y jergas en diferentes grupos humanos, sólo que a una velocidad mucho mayor y sin necesidad de supervisión ni control alguno.

Tal debió de ser el desconcierto, que a los técnicos no les quedó otra alternativa que detener la conversación, apagar los equipos (en definitiva, la técnica a la que recurren todos los informáticos cuando no encuentran explicación a algo que sucede dentro del ordenador) y cambiar el modelo que estaban utilizando en dicha prueba, puesto que les era imposible seguir el sentido de la conversación que estaban manteniendo las computadoras.

 

Los técnicos de Facebook apagaron las máquinas, pese a que el lenguaje que estas habían construido era más eficaz.

 

Este hecho, que al final ha quedado en una simple anécdota -pero que, eso si, ha saltado a los medios de comunicación de todo el planeta), demuestra no solo que el desarrollo de la inteligencia artificial ya ha llegado a un estado de desarrollo suficiente como para negociar con seres humanos. También indica lo mucho que, aún, queda por desarrollar en este campo, particularmente en la exploración de distintas técnicas de razonamiento.

¿A dónde nos llevaría el camino abierto por los bots?

Desde que la noticia de la rebelión de los bots de Facebook se hizo pública, muchas han sido las teorías aparecidas sobre las futuras aplicaciones y desarrollos de las capacidades, ahora recién descubiertas, en el campo de la inteligencia artificial. Siendo unas hipótesis más peregrinas que otras, como suele ser normal en estos casos, una cosa parece cierta. Y es que, salvo que se limite su capacidad de optimatización, es probable que las máquinas pudieran acabar desarrollando, a partir de sus propias rutinas, formas de comunicación tan eficientes entre si como alejadas del lenguaje humano.

 

En las redes sociales se ha abierto un debate sobre la conveniencia, o no, de permitir a las formas de inteligencia artificial desarrollar sus propias estructuras de lenguaje.

 

¿Qué hacemos?, ¿dejamos que las máquinas desarrollen inteligencias artificiales multipropósito, que igualen o excedan las capacidades de la inteligencia humana? ¿Ponemos límites a ese desarrollo, pese a los evidentes beneficios de tener inteligencias cada vez más eficaces y desarrolladas, por la prevención de evitar posibles efectos no deseados? Sobre esta última posibilidad pensemos, por ejemplo, en el uso militar o en el transporte, medicina o aplicaciones educativas de estas tecnologías. El debate está abierto. ¿Dejamos que las máquinas nos den su opinión -cuando la tengan- o les practicamos una suerte de lobotomía para tenerlas bajo control, a costa de reducir su rendimiento, ventajas y aplicaciones?

Pepe Varela

Periodista y community manager

www.pepevarela.es

Dejar respuesta

Please enter your comment!
Please enter your name here