Conoce 'Chameleon': un modelo de IA que puede protegerte del reconocimiento facial gracias a una sofisticada máscara digital
Un nuevo modelo de IA puede enmascarar una imagen personal sin destruir su calidad, lo que ayudará a proteger su privacidad.
La inteligencia artificial (IA) podría ser la clave para ocultar sus fotos personales del software de reconocimiento facial no deseado y de los estafadores, todo ello sin destruir la calidad de la imagen.
Un nuevo estudio de la Universidad Tecnológica de Georgia, publicado el 19 de julio en la base de datos preimpresa arXiv, detalla cómo los investigadores crearon un modelo de IA llamado "Chameleon", que puede producir una "protección de privacidad única y personalizada" digital ( P-3) máscara" para fotografías personales que impide que el escaneo facial no deseado detecte el rostro de una persona. En cambio, Chameleon hará que los escáneres de reconocimiento facial reconozcan las fotos como si fueran de otra persona.
"El intercambio de datos y análisis que preservan la privacidad como Chameleon ayudarán a avanzar en la gobernanza y la adopción responsable de la tecnología de IA y estimularán la ciencia y la innovación responsables", afirmó el autor principal del estudio, Ling Liu, profesor de datos e inteligencia. Computación impulsada por la Escuela de Ciencias de la Computación de Georgia Tech (que desarrolló el modelo Chameleon junto con otros investigadores), en un comunicado.
Relacionado: Los científicos advierten que los grandes modelos lingüísticos no son aptos para su uso en el mundo real; incluso los cambios más leves hacen que sus modelos mundiales colapsen
Los sistemas de reconocimiento facial son ahora algo común en la vida cotidiana, desde las cámaras de la policía hasta el Face ID en los iPhone. Pero el escaneo no deseado o no autorizado puede llevar a que los ciberdelincuentes recopilen imágenes para estafar, cometer fraude o acechar. Incluso pueden recopilar imágenes para crear bases de datos que se utilizarán para publicidad no deseada y ataques cibernéticos.
hacer mascaras
Si bien el enmascaramiento de imágenes no es nada nuevo, los sistemas existentes a menudo ofuscan detalles clave de la fotografía de una persona o no logran preservar una imagen de calidad real mediante la introducción de artefactos digitales. Para superar esto, los investigadores dijeron que Chameleon tiene tres características específicas.
El primero es el uso de optimización entre imágenes que permite a Chameleon crear una máscara P3 por usuario, en lugar de una nueva máscara para cada imagen. Esto significa que el sistema de IA puede brindar protección instantánea a un usuario y también permite un uso más eficiente de recursos informáticos limitados; esto último probablemente sería útil si Chameleon se adoptara para su uso en dispositivos como teléfonos inteligentes.
En segundo lugar, Chameleon incorpora "una optimización de la perceptibilidad" (esto se refiere a cómo se representa una imagen automáticamente, sin intervención manual ni configuración de parámetros) para garantizar que se preserve la calidad visual de una imagen facial protegida.
La tercera característica es el fortalecimiento de una máscara P3 para que sea lo suficientemente robusta como para frustrar modelos de reconocimiento facial desconocidos. Esto se hace integrando el aprendizaje de conjuntos optimizado para la diversidad focal en el proceso de generación de máscaras. En otras palabras, utiliza una técnica de aprendizaje automático que combina las predicciones de múltiples modelos para mejorar la precisión del algoritmo.
En última instancia, a los investigadores les gustaría aplicar los métodos de ofuscación de Chameleon más allá de la protección de las imágenes personales de los usuarios individuales.
"Nos gustaría utilizar estas técnicas para evitar que las imágenes se utilicen para entrenar modelos generativos de inteligencia artificial. Podríamos proteger la información de la imagen para que no se utilice sin consentimiento", dijo Tiansheng Huang, estudiante de doctorado de Georgia Tech, quien También participó en el desarrollo de Chameleon.