Inteligencia artificial es suspendida por promover trastornos alimenticios en lugar de ayudar a los pacientes.
El uso de la inteligencia artificial se ha vuelto cada vez más común para realizar una amplia gama de tareas, como responder preguntas, proporcionar información, realizar traducciones, redactar textos, generar ideas creativas, brindar asesoramiento, realizar diagnósticos médicos, entre otras muchas aplicaciones.
Sin embargo, se han levantado advertencias sobre el uso de esta tecnología en el ámbito de la medicina, especialmente cuando se trata de buscar consejos sobre trastornos alimenticios.
La Organización Mundial de la Salud (OMS) ha emitido una advertencia específica sobre el cuidado que se debe tener con las inteligencias artificiales, como ChatGPT, especialmente en lo que respecta a consejos médicos.
Resulta que los datos proporcionados por estas inteligencias artificiales pueden resultar engañosos y perjudiciales para los pacientes.
La IA estaba promoviendo trastornos alimenticios
Recientemente, se ha denunciado en las redes sociales a una inteligencia artificial llamada Tessa, que ha estado proporcionando consejos perjudiciales a pacientes con trastornos alimenticios. Esta inteligencia artificial es utilizada por la Asociación Nacional de Trastornos de la Conducta Alimentaria de Estados Unidos (NEDA), y pertenece a la empresa de tecnología de la salud X2AI, conocida como Cass.
Los informes indican que las respuestas generadas por esta inteligencia artificial están promoviendo trastornos alimenticios en lugar de ayudar a los pacientes.
Entre los consejos perjudiciales que se han denunciado se encuentran: la recomendación de seguir dietas extremadamente bajas en calorías, de entre 500 y mil calorías, lo cual no es saludable ya que las necesidades dietéticas varían de un individuo a otro. Aunque luego se sugiere que los pacientes consulten a un nutriólogo, la inteligencia artificial también ha recomendado reducir el consumo de azúcar añadida y alimentos procesados, así como recortar las calorías en general.
Estas recomendaciones son contraproducentes para el tratamiento de trastornos alimenticios, según la psicóloga Alexis Conanson.
Cancelan IA que daba malos consejos a pacientes con transtornos alimenticios
Como resultado de estas denuncias, se ha suspendido el uso de la inteligencia artificial Tessa en Estados Unidos. Esta decisión se tomó después de que la línea telefónica de apoyo que llevaba operando durante dos décadas se cerrara y se implementara el uso de esta inteligencia artificial en marzo pasado.
La OMS ha instado a una supervisión más cautelosa de las inteligencias artificiales para garantizar su uso eficiente y seguro, ya que, como se ha visto en este caso, pueden difundir información errónea a los pacientes. La dificultad para distinguir entre el contenido confiable y el no confiable en relación con la salud es un problema tanto para los pacientes con trastornos alimenticios como para el público en general.
Te puede interesar: Dron operado por IA destruye a su operador y a su torre de control