Meta ha asegurado que esta tecnología podría usarse de forma malintencionada.
Meta, la empresa matriz de Facebook, Instagram y WhatsApp, ha anunciado su incursión en el desarrollo de voces sintéticas con la presentación de su IA Voicebox. Este sistema tiene el potencial de cambiar la forma en que creamos voces digitales, ofreciendo tanto ventajas como preocupaciones sobre su aplicación a largo plazo.
Según lo explicado en su página web, Voicebox utiliza técnicas de inteligencia artificial para transformar texto en voz, sin requerir la intervención de una persona.
El sistema aprende de manera automática la forma digital de cada sonido, lo que constituye un avance significativo en el campo de la IA. Sin embargo, Meta ha dejado claro que Voicebox aún no será lanzado al público general, debido a las diversas utilidades que ofrece, así como a los posibles problemas que deben ser resueltos antes de su implementación masiva.
Características de Voicebox
A diferencia de otros sistemas, no requiere un entrenamiento previo, lo que lo hace muy accesible. Puedes escribir una frase y Voicebox generará voces sintetizadas en diferentes estilos para leer el texto. Aunque no son perfectas, son bastante convincentes.
Una de las características destacadas de Voicebox es su capacidad para duplicar la voz de cualquier persona. Simplemente agregas un breve clip de audio de esa persona junto con la frase escrita que deseas convertir en voz, y el sistema generará la frase pronunciada con la voz del clip de audio. Esta función es especialmente interesante para imitar la voz de alguien en particular.
Además, Voicebox te permite utilizar texto escrito en cualquier idioma y un clip de audio en tu idioma nativo. De esta manera, puedes hacer que una frase se pronuncie en tu idioma nativo, superando la barrera del idioma en diferentes situaciones.
Otra ventaja de Voicebox es su capacidad para detectar y eliminar ruidos de fondo no deseados. Por ejemplo, si estás grabando un video y hay ladridos de perros de fondo, Voicebox puede eliminar ese ruido para que tu voz sea más clara y se destaque.
Por último, Voicebox también permite modificar un clip de audio original con tu voz. Puedes reemplazar palabras específicas en el audio con otras indicadas en el texto de entrada. Esto ofrece flexibilidad para editar y personalizar tus grabaciones.
Voicebox podría ser usada con fines maliciosos
Meta ha sido consciente de que su IA tiene el potencial de ser utilizada para crear deepfakes, ocasionando daños involuntarios. Aunque la empresa no ha desplegado aún la herramienta para su uso cotidiano, ha compartido un artículo en el que acerca los avances y la investigación que han llevado al desarrollo de Voicebox.
Este gesto refleja la preocupación de Meta por abordar los aspectos éticos y los posibles riesgos asociados a su tecnología.
Te puede interesar: ChatGPT puede generar claves de activación para Windows 10 y Windows 11