Otra razón más para poner en entredicho la automatización de contenidos con Intelgiencia Artificial
En la era de los programas basados en Inteligencia Artificial es común encontrar noticias sobre usos fraudulentos e inmorales con estas tecnologías, desde plagios escolares hasta verdaderas muestras de cinismo institucional.
Ahora podemos sumar un incidente ocurrido con la prestigiosa revista literaria Clarkesworld, reconocida por ser uno de los medios más relevantes en los géneros de la ciencia ficción y de literatura no realista en Estados Unidos.
El proceso de recepción de Clarkesworld es legendario en el mundo literario por recibir incontables aplicaciones de miles de escritores de todo el mundo cada año, con la mayoría siendo rechazados al no llenar los requisitos de calidad de la revista. Pese a esta estricta selectividad, este año miles de personas decidieron aplicar con sus textos escritos con Inteligencia Artificial, sospechando de ChatGPT, el infame bot generador de texto de OpenAI.
Te puede interesar: "Son aterradoras": Keanu Reeves no dejará que usen su imagen para “deepfakes”
Pese a que Clarkesworld había enfatizado en su lista de requisitos que no admitían relatos escritos, coescritos o ayudados con Inteligencia Artificial, esto no impidió que al abrirse el esperado periodo de recepción de trabajos este 2023 se infestara de esta clase de contenidos.
Una tendencia al alza
En un comunicado en su blog oficial, Neil Clarke, editor de la revista, mencionó que desde la pandemia de Covid-19 los trabajos fraudulentos y de spam incrementaron en el portal de Clarkesworld, pero fue luego de que a lo largo del 2022 se incrementara la popularidad de uso de los bots generadores de texto con IA.
"A finales del 2022 hubo otro alce en plagio y luego los chatbots de IA comenzaron a ganar notoriedad, ofreciendo una nueva herramienta en su arsenal (de los solicitantes) y motivándolos a darle un intento a este pequeño negocio. Se salió de control muy rápido", escribió Clarke.
La recepción de trabajos iniciada el 15 de febrero recibió tal cantidad de esta clase de textos mecánicos y automatizados, que cinco días más tarde Clarkesworld tuvo que cerrar su recepción para contener los daños.
Señales claras
El cuerpo editorial de Clarkesworld notificó en un comunicado que hay patrones muy obvios para identificar contenidos hechos por chatbots, si bien no ofreció detalles al respecto para evitar que estos marcadores sean evadidos en futuros usos de ChatGPT.
Esta clase de textos por lo general suelen tener un tono generalista, desprovistos de intenciones creativas palpables y más bien apuntando a obviedades, lugares comunes y cliches para confeccionar historias que en el mejor de los casos, conservan cierta coherencia.
Sin embargo, el pequeño grupo editorial de Clarkesworld sostuvo que la detección de estos contenidos puede llegar a complicarse en el futuro:
"Si bien el rechazar y banear esta clase de solicitudes ha sido simple, su auge está creciendo a un ritmo por el que necesitaremos hacer cambios. Para hacer las cosas peor, la tecnología sólo va a perfeccionarse, por lo que la detección se convertirá en un proceso aún más desafiante".
¿Los principales afectados? Según la revista, aquellos autores genuinos de países fuera de Estados Unidos y escritores jóvenes, quienes verían sus ventanas de oportunidad mermadas pues los editores tendrían que dedicar más tiempo a purgar trabajos falsos, que en atender la calidad literaria de talentos emergentes.
Te puede interesar: Elon Musk sobre ChatGPT: "Es uno de los más grandes riesgos" para la humanidad