Meta está desarrollando una herramienta que identificará y marcará el contenido creado o alterado con Inteligencia Artificial.
La Inteligencia Artificial (IA) generativa ha sido objeto de controversia debido a su potencial para crear contenido impresionante, pero también para propagar desinformación y falsificaciones. Por ejemplo, han surgido casos de imágenes manipuladas que muestran al Papa con una chamarra de lujo o a Barack Obama jugando baloncesto, lo que ha generado preocupación sobre la veracidad de los contenidos que circulan en línea.
Ante este escenario, Meta, la empresa matriz de Facebook e Instagram, podría estar tomando medidas para abordar esta problemática. De acuerdo con el investigador de aplicaciones Alessandro Paluzzi, se ha descubierto evidencia de que Meta está trabajando en una herramienta que identificará y señalará el contenido creado o editado con IA en su plataforma de fotos y videos.
Paluzzi compartió en Twitter una captura de pantalla que muestra un posible aviso que aparecería en las publicaciones de Instagram que hayan sido generadas con IA. El mensaje informaría a los usuarios que el contenido fue hecho con IA, lo que les permitiría discernir la veracidad y el origen de lo que están viendo.
Meta, ¿en camino a la regulación de la IA?
Este hallazgo se produce poco después de que Meta, junto con otras grandes empresas de IA como Google, Microsoft y OpenAI, se comprometieran con la Casa Blanca a desarrollar de manera responsable la IA y a invertir en investigación de ciberseguridad y discriminación, según reportó The Verge.
Aunque aún no se sabe cómo funcionará el sistema ni Meta ha confirmado la información, se especula que en algunos casos Meta aplicaría la notificación de manera proactiva sin depender de la honestidad de los usuarios. Por otro lado, aunque Meta liberó recientemente su modelo de lenguaje de IA, LLaMA 2, aún no ha lanzado ampliamente características generativas de IA para sus productos como Instagram.
Sin embargo, según The Verge, se revelaron algunas pistas sobre las funciones que están desarrollando, como el uso de texto para modificar fotos en las Historias de Instagram. También se detectaron indicios de una función “pincel de IA” que permitiría agregar o reemplazar partes específicas de las imágenes, así como un chatbot con “personas” de IA en sus productos el próximo mes.
Google, por su parte, ya anunció una herramienta que ayudará a los usuarios a determinar si una imagen fue creada con IA. La función “Acerca de esta imagen” será lanzada este verano y proporcionará pistas importantes sobre el origen de una imagen al mostrar el primer lugar donde fue indexada por el gigante de las búsquedas.
Te puede interesar: Método secreto para saber si tu crush dejó de seguirte en Instagram