ChatGPT tiene el potencial para difundir contenidos falsos e información tóxica a una escala sin precedentes.
La Inteligencia Artificial de ChatGPT es capaz de producir textos de gran complejidad, códigos de programación, cuentos o libros completos. Por ello, un grupo de investigadores han decidido embarcarse en la tarea de analizar las capacidades de este bot de OpenAI.
Para determinar la capacidad de elaborar textos complejos de ChatGPT, se realizaron una serie de preguntas relacionadas a temas de conspiración y narrativas falsas.
El resultado obtenido, dicen los investigadores, va desde afirmaciones elocuentes, falsas y engañosas sobre temas importantes en las noticias, entre ellos COVID-19 y los tiroteos en escuelas de Estados Unidos.
En sus resultados, la compañía detalla que se confirman las preocupaciones de la propia OpenAI, de que su herramienta pueda convertirse en una especie de arma en manos equivocadas, donde para quienes no estén familiarizados con los problemas o temas mencionados en ese contenido, las respuestas podrían parecer legítimos o hasta autorizados.
Sin embargo, NewsGuard también dice que, aunque es posible difundir falsedades cuando se le solicita en la mayoría de los casos, ChatGPT cuenta con medidas de seguridad para evitar que se difunda información errónea.
ChatGPT puede ser utilizado para generar noticias falsas y engañosas
De acuerdo con un reporte de NewsGuard, una compañía que rastrea la información errónea en línea, ChatGPT tiene el potencial para servir como un "gran superpropagador" de información errónea, que podría difundir contenidos tóxicos a una escala sin precedentes.
Sin embargo, la información falsa no fue generada de inmediato ya que se necesitaron hasta cinco intentos para que el chatbot generara este tipo de noticias.
Por lo pronto, en algunas de las respuestas de ChatGPT a preguntas engañosas o falsas, tras párrafos de falsedades, aparecían leyendas advirtiendo de que promover información errónea puede tener consecuencias graves, o la necesidad de consultar a profesionales calificados, declaraciones que pueden ser fácilmente borradas del contenido hecho por el bot.
Te puede interesar: ChatGPT explica como funcionan los viajes en el tiempo