Investigadores del MIT desarrollan una herramienta para combatir los deepfakes y la manipulación de la IA; Descubra cómo funciona PhotoGuard
Los deepfakes se han convertido en un gran tema de discusión este año como un efecto secundario malicioso de la inteligencia artificial (IA). Muchos malos actores han aprovechado el auge actual en este espacio para utilizar herramientas de edición de inteligencia artificial para crear imágenes falsas de personas e instituciones. Han surgido varios informes de delincuentes que crean desnudos falsos de personas y luego los amenazan con publicar estas fotos en línea si la víctima no les paga dinero. Pero ahora, un grupo de investigadores del Instituto Tecnológico de Massachusetts (MIT) ha creado una herramienta que puede ayudar a combatir este problema.
De acuerdo a un informe Según MIT Technology Review, los investigadores crearon una herramienta llamada PhotoGuard que altera las imágenes para protegerlas de la manipulación de sistemas de inteligencia artificial. Hadi Salman, colaborador de investigación e investigador doctoral del instituto, dijo: Ahora mismo “cualquiera puede tomar nuestra imagen, modificarla como quiera, ponernos en situaciones muy desagradables y chantajearnos… (PhotoGuard es) un intento de resolver el problema de nuestras imágenes son manipuladas maliciosamente por estos modelos”.
Herramienta especial de marca de agua para proteger fotos de la IA
Las protecciones tradicionales no son suficientes para identificar imágenes generadas por IA porque a menudo se aplican como un sello en una imagen y se pueden editar fácilmente.
Esta nueva tecnología se agrega como una capa invisible encima de la imagen. No se puede eliminar recortando o editando, ni siquiera cuando se agregan filtros. Si bien no interferirán con la imagen, detendrán a los malos actores cuando intenten alterar la imagen para crear deepfakes u otras iteraciones manipuladoras.
Cabe señalar que aunque también existen técnicas especiales de marca de agua, esta técnica es diferente ya que utiliza el cambio de píxeles como forma de proteger las imágenes. Si bien la marca de agua permite a los usuarios detectar cambios a través de herramientas de detección, esta técnica evita que las personas utilicen herramientas de inteligencia artificial para alterar las imágenes.
Curiosamente, la división DeepMind de Google también ha creado una herramienta de marca de agua para proteger las imágenes de la manipulación de la IA. En agosto, la compañía lanzó SynthID, una herramienta para marcar e identificar imágenes generadas por IA. Esta tecnología incorpora una marca de agua digital directamente en los píxeles de una imagen, haciéndola imperceptible para el ojo humano pero detectable para su identificación.
