SynthID: La Revolución en la Identificación de Contenido Generado por IA

Google lanza SynthID, beta para marcar contenido IA, abordando desinformación y fortaleciendo confianza. Colaboración con Google DeepMind y Research.

CIENTÍFICOS/PERIODISTICOS

Franco Mansilla

12/11/2023

En un paso significativo hacia la transparencia en el mundo de la inteligencia artificial, Google ha lanzado la versión beta de SynthID, una herramienta revolucionaria diseñada para poner marcas de agua e identificar contenido generado por IA. Esta innovadora solución, desarrollada en colaboración con Google DeepMind y Google Research, promete abordar el desafío de la desinformación y aumentar la confianza en la información generada por inteligencia artificial.

SynthID: Una Defensa Contra la Desinformación

La desinformación es una preocupación creciente en un mundo saturado de contenido generado por IA. SynthID, desarrollado por Google DeepMind en colaboración con Google Research, es una respuesta técnica temprana y prometedora a este problema urgente de seguridad de la IA. Aunque no es una solución única, esta herramienta ofrece una capa adicional de seguridad al permitir a los usuarios incrustar marcas de agua digitales de forma imperceptible, pero detectable, en imágenes y audio generados por IA.

¿Cómo funciona SynthID?

SynthID utiliza dos modelos de aprendizaje profundo: uno para la marca de agua y otro para la identificación:

Marca de Agua: SynthID emplea una tecnología de marca de agua integrada que añade una marca de agua digital directamente al contenido generado por la IA. Esta marca de agua se optimiza para mejorar la imperceptibilidad, alineándose con el contenido original.

Identificación: El escaneo de la imagen o el audio en busca de su marca de agua digital es la clave para que SynthID ayude a los usuarios a evaluar la autenticidad del contenido. Este enfoque proporciona una herramienta efectiva para la detección de contenido generado por IA.

SynthID para Música Generada por IA

En una emocionante expansión en noviembre de 2023, SynthID se adentró en el mundo de la música y el audio generados por IA. Lyria, el avanzado modelo de generación de música de Google, será el primero en implementar SynthID, marcando cualquier contenido publicado por este modelo.

La marca de agua de SynthID se incrusta directamente en la forma de onda de audio, asegurando su presencia sin comprometer la experiencia auditiva. Este proceso, detallado en el video adjunto, demuestra cómo SynthID hace que la marca de agua sea inaudible para el oído humano.

SynthID para Imágenes Generadas por IA

SynthID no se detiene en el audio; también está disponible para imágenes generadas por IA. Dirigido inicialmente a clientes de Vertex AI que utilizan el conjunto Imagen de los últimos modelos de texto a imagen de Google, SynthID agrega marcas de agua digitales directamente en los píxeles de las imágenes.

SynthID agrega una marca de agua digital directamente en los píxeles de las imágenes generadas por IA, lo que la hace imperceptible para el ojo humano.

Está diseñado con precisión para no comprometer la calidad de la imagen, permitiendo que la marca de agua permanezca detectable incluso después de diversas modificaciones. Desde la adición de filtros hasta cambios de colores y esquemas de compresión, SynthID ofrece una capa adicional de seguridad visual.

La marca de agua es detectable incluso después de modificaciones como agregar filtros, cambiar colores y brillo.

Conclusión: Innovando en la Seguridad de la IA

SynthID emerge como un avance clave en la seguridad de la inteligencia artificial, proporcionando a los usuarios y organizaciones una herramienta esencial para trabajar de manera responsable con contenido generado por IA. Su capacidad para abordar la desinformación y su aplicabilidad a la música y las imágenes demuestran su versatilidad y prometen un futuro donde la confianza en el contenido generado por IA sea la norma. SynthID está marcando un nuevo estándar en la autenticación de la inteligencia artificial.

Imagen con marca de agua de una mariposa metálica con patrones prismáticos en sus alas

Convierte el audio en un espectrograma visual para agregar una marca de agua digital.