Las IA más avanzadas no buscan cooperar con los humanos

Para medir el trabajo en equipo de las IA se realizó un experimento en el que participaron decenas de jugadores expertos de Hanabi.

El Laboratorio MIT Lincoln ha realizado un nuevo estudio en donde se revela que las personas no trabajan bien en colaboración con inteligencias artificiales avanzadas, mientras que su relación de trabajo es mejor con las IA más sencillas.

Para medir el trabajo en equipo de las IA se realizó un experimento en el que participaron decenas de jugadores expertos de Hanabi un juego de cartas que consiste en comunicarse con tu compañero de equipo. Además, no puedes ver tu mano de cartas, sino la de tu compañero, por lo que cooperar es esencial para ganar.

IA en contra

Los expertos de Hanabi jugaron en colaboración con una IA avanzada y la IA sencilla, sin embargo, no se les explicó cual era cual. Se esperaría que los resultados con la IA avanzada fueran superiores, pero no fue el caso. En la mayoría de los casos los resultados fueron iguales desde un punto de vista objetivo y muy diferentes en el subjetivo.

Es decir que los expertos ganaron el mismo número de partidas con cada IA, pero se sintieron mucho mejor con la IA “menos inteligente”. Esta era la que sólo puede actuar de una manera predeterminada y no “aprende” de lo que sucede, ya que al menos la consideraban “confiable”. Todo lo contrario que la IA “inteligente”, que incluso a veces parecía que hacía jugadas contraproducentes para el objetivo de ganar.

De esta manera, los humanos describieron a esta última como “impredecible” y “poco confiable”. Nunca pudo haber una colaboración directa con esta y la mayoría se rindió después de varios intentos. Para los investigadores hay varios problemas relacionados, y uno de ellos es la imposibilidad de la IA para comunicarse y nuestra imposibilidad para comprenderla.

Problemas de coordinación

El problema con las jugadas de la IA avanzada era que sus movimientos eran tan “inteligentes” que el humano no podía comprender lo que intentó hacer. De esta manera, la calificaron de “poco confiable”, lo cual es normal dado que en primera instancia sus movimientos parecían malas jugadas.

Los resultados han sorprendido a los investigadores que ya habían puesto a colaborar a dos IAs distintas y estas dieron los mejores resultados de todo el experimento. Por lo que las IA pueden trabajar juntas, pero no con humanos. Lo cual es un problema si se planea aplicar las inteligencias artificiales a tareas más delicadas.

Te podría interesar: Desarrollan cubrebocas que se adapta al lugar donde te encuentras

Noticias Relacionadas

TE PUEDE INTERESAR

MÁS NOTICIAS

MÁS NOTICIAS