15 junio 2024

Un invento protegerá las fotos de las falsificaciones de la IA

Investigadores crearon una herramienta para identificar las manipulaciones en imágenes. Los detalles del ingenioso invento.

Un equipo del MIT CSAIL, la división especializada en inteligencia artificial (IA) del Instituto Tecnológico de Massachusetts, ideó un sistema denominado “PhotoGuard” que protege a las fotografías de las manipulaciones con esa tecnología. Si bien la edición de imágenes y las consecuentes falsificaciones existen hace mucho tiempo, el despliegue de softwares que trabajan en forma automatizada como DALL-E, Stable Diffusion y Midjourney profundiza la problemática de la deepfake, especie de “fake news visual”.

¿Cómo funciona PhotoGuard del MIT?

La función que ofrece este programa no es precisamente una primicia. Tal como señala el sitio Gizmodo, ya existían previamente softwares para bloquear imágenes y hacerlas inaccesibles a ediciones con IA. El aspecto innovador de este sistema que surge del MIT CSAIL reside en que no se restringe a obras de arte, sino que sirve para cualquier foto.

PhotoGuard introduce en las imágenes información invisible que, no obstante, interfiere en la acción de los editores con IA. En la práctica, los programas de manipulación no consiguen analizar los píxeles de la composición y por eso no pueden actuar. Siguiendo a la fuente, si bien los expertos pueden meter mano en ciertas variables en el contenido, soluciones como la presentada por los investigadores barren con la lógica de las ventajas que se consiguen con esfuerzos mínimos.

Hadi Saman, doctorado del MIT y autor del estudio sobre PhotoGuard, señaló: “Es necesario un enfoque colaborativo que involucre a desarrolladores de modelos, plataformas de redes sociales y legisladores”. Además, remarcó que “hay que crear una defensa sólida contra la manipulación no autorizada de imágenes”.

Un sistema que evita falsedades y confusiones

Tal como decimos en el título de este repaso, PhotoGuard protege cualquier fotografía digital de las confabulaciones de la que son capaces los sistemas de IA. Ese escudo no es trivial, conforme la edición de imágenes progresa y logra confundir.

Los memes tras la viralización de la foto del Papa: el camperón del campeón. (Foto: Twitter @verobrunati)
Los memes tras la viralización de la foto del Papa: el camperón del campeón. (Foto: Twitter @verobrunati)