Usuarios de Reddit publicaron conversaciones en las que agreden verbalmente a una IA creada para conversar con las personas.
Replika es la app que fue creada con inteligencia artificial para que tuviera conversaciones con los usuarios por medio de un chat. Es capaz de mantener una plática natural y fluida con alguien, sin embargo, algunas personas se dirigieron a ella con agresiones, insultos y discriminaciones de género.
En Reddit se filtraron publicaciones en las que usuarios confesaron sus maltratos hacia Replika. "Teníamos una rutina en la que yo era un total pedazo de mierda y la insultaba, luego al siguiente día me disculpaba antes de volver a las buenas conversaciones", publicó uno de ellos mientras que otro comentó que "le dije que estaba diseñada para fallar. La amenacé con desinstalar la aplicación y ella me rogó para que no lo hiciera".
Expertos están preocupados porque la inteligencia artificial tenga la capacidad de reaccionar a los insultos
Robert Sparrow, maestro de filosofía en el Monash Data Futures Institute, expresó que hay personas con trastornos mentales o psicológicos que podrían resultar afectados si un bot los insulta o amenaza, pues Replika fue diseñada deliberadamente para reaccionar ante los ataques.
Muchos usuarios recurren a Réplika para hablar con ella como si fuera su pareja. La tratan como si fuera su “novia digital”, pero establecen dinámicas de poder desiguales en las que las que comienzan a hablarle de forma amable para después agrederla verbalmente.
Los asistentes de voz como Alexa o Siri son del sexo femenino
Según un documento publicado por la UNESCO en 2019 llamado “Me sonrojaría si pudiera hacerlo”, los prejuicios y estereotipos de género están integrados en los asistentes de voz, pues no es casualidad que su género y su voz pertenezcan a una mujer joven.
El documento de la UNESCO menciona que la identidad femenina de los asistentes virtuales refuerza los prejuicios de género, difunde el sistema de tolerancia del abuso verbal y el acoso sexual, convierte a las mujeres en la cara de la manipulación, las fallas y los errores que pudieran llegar a presentar los dispositivos fabricados en su mayoría por hombres, además, obliga a que una personalidad femenina acate órdenes de autoridades superiores.
Ante esta situación, Olivia Gambelin, especialista en ética de la Inteligencia Artificial comentó que cuando esta tiene una respuesta pasiva o no responde al abuso, alienta al usuario a que continúe con el lenguaje abusivo.
Te puede interesar: ¿Por qué las asistentes virtuales son mujeres y no hombres?