Xalapa, Ver.— Google presentó el pasado martes 29 de agosto SynthID, un identificador de imágenes generadas a través de Inteligencia Artificial (IA) según la página Google DeepMind, en respuesta al aumento en la popularidad de las imágenes generadas a través de esta tecnología.

SynthID es una herramienta que, además de identificar imágenes generadas por IA, genera una marca de agua imperceptible en cada imagen.

La marca no es visible al ojo humano, pues tal tecnología incorpora a cada píxel, que es el componente básico de cada imagen digital, un tipo de firma que solo se puede identificar por medio de este programa.

El proyecto que se lleva a cabo junto a Google Cloud será el primero en ofrecer una herramienta que genere imágenes con IA de forma responsable y, además, ofrezca el servicio de identificación.

Por ahora, SynthID aún está en fase de pruebas con su versión beta, por lo que está limitado a un pequeño grupo de personas.

Como se menciona en su página, la Inteligencia Artificial puede ayudar a promover el desarrollo creativo, pero también puede presentar riesgos al ofrecer a los usuarios una forma de generar información falsa.  

El impacto negativo de la IA

A pesar de que las imágenes generadas por IA o “imágenes sintéticas” representan un avance creativo, estas conllevan ciertos problemas, pues son difíciles de distinguir de fotografías reales, lo que puede generar desinformación directa o indirectamente.

La excandidata a diputada local de Movimiento Ciudadano (MC), Sofía Yunes, se enteró por primera vez en mayo de 2023 de que, en distintos servicios de mensajería y redes como OnlyFans, circulaban fotos íntimas con su imagen.

El hecho la tomó por sorpresa, pues rápidamente se dio cuenta de que las imágenes que le hicieron llegar estaban alteradas, presuntamente por una IA que la “desnudó”. Sin saberlo, su imagen fue usada para lucrar.

Es así como Sofía presentó su denuncia en la Fiscalía Especializada en Delitos contra Mujeres, Niñas y Niños de Veracruz, como delito de violación a la intimidad sexual. Sofía aún espera que las autoridades hagan algo y que su caso sirva para otras mujeres.

El rezago frente al avance tecnológico

SynthID representa más que un avance tecnológico, una medida de seguridad que puede ayudar a mejorar el panorama en casos como el de Sofía, pues ella misma cuenta que sufrió revictimización para poder comprobar que las imágenes fueron alteradas.

Por otro lado, el marco legal presenta un rezago que debería de ser prioridad, pues la regularización de nuevas tecnologías no parece estar al margen de los avances tecnológicos.

Como ejemplo se tiene el caso de Sofía, pues al acudir al Código Penal en Veracruz, se topó con la noticia de que no existen leyes para la regularización de la IA en ningún país.

Respecto a la regularización en temas de violencia, la diputada federal, Gabriela Sodi, se pronunció para que se creen nuevas leyes en busca de proteger a las mujeres, pues cada vez se encuentran más formas de violencia.