Prepárate para tu gemelo malvado

A principios de este año, un escalofriante estudio academico fue publicado por investigadores de la Universidad de Lancaster y UC Berkeley. Usando una forma sofisticada de IA conocida como GAN (Generative Adversarial Network), crearon rostros humanos artificiales (es decir, falsificaciones fotorrealistas) y mostraron estas falsificaciones a cientos de humanos junto con una mezcla de rostros reales. Descubrieron que este tipo de tecnología de inteligencia artificial se ha vuelto tan efectiva que los humanos ya no podemos distinguir a las personas reales de las personas virtuales (o «veeple», como yo las llamo), personas.

Y ese no fue el descubrimiento más aterrador.

Verá, también pidieron a sus sujetos de prueba que calificaran la «confiabilidad» de cada rostro y descubrieron que los consumidores encuentran que los rostros generados por IA son significativamente más confiables que los rostros reales. Como describo recientemente trabajo académico, este resultado hace que sea muy probable que los anunciantes utilicen en gran medida personas generadas por IA en lugar de actores y modelos humanos. Esto se debe a que trabajar con personas virtuales será más económico y rápido, y si además son percibidos como más confiables, también serán más persuasivos.

Esta es una dirección preocupante para los anuncios impresos y de video, pero es francamente aterrador cuando miramos las nuevas formas de publicidad que el metaverso pronto se desmoronará. A medida que los consumidores pasan más tiempo en mundos virtuales y aumentados, la publicidad digital se transformará de simples imágenes y videos a personas virtuales impulsadas por IA que nos atraen. charla promocional.

Armados con una extensa base de datos de información personal sobre nuestros comportamientos e intereses, estos “Agentes conversacionales impulsados ​​por IA” serán defensores profundamente efectivos de cualquier mensaje que un tercero esté pagando por entregar. Y si esa tecnología no es reguladoestos agentes de IA rastrearán nuestras emociones en tiempo real, monitoreando nuestras expresiones faciales e inflexiones vocales para que puedan adaptar su estrategia conversacional (es decir, su Tono de venta) para maximizar su impacto persuasivo.

Aunque esto apunta a un poco metaverso distópico, estos avatares promocionales impulsados ​​por IA serían un uso legítimo de personas virtuales. Pero, ¿qué pasa con los usos fraudulentos?

Esto me lleva al tema de El robo de identidad.

En Microsoft reciente entrada en el blog por el vicepresidente ejecutivo Charlie Bell, afirma que, en el metaverso, los ataques de fraude y phishing pueden «provenir de una cara familiar, literalmente, como un avatar que se hace pasar por su compañero de trabajo». Estoy completamente de acuerdo. De hecho, me temo que la capacidad de secuestrar o duplicar avatares podría desestabilizar nuestro sentido de identidad, dejándonos perpetuamente inseguros de si las personas con las que estamos hablando son personas que conocemos o falsificaciones de calidad.

La reproducción precisa de la apariencia y el sonido de una persona en el metaverso a menudo se denomina creación de un «gemelo digital.” A principios de este año, Jensen Haung, el CEO de NVIDIA dio una discurso de apertura utilizando un gemelo digital de dibujos animados. Afirmó que la fidelidad avanzará rápidamente en los próximos años, al igual que la capacidad de los motores de IA para controlar de forma autónoma su avatar para que pueda estar en varios lugares a la vez. Sí, los gemelos digitales están llegando.

Es por eso que debemos prepararnos para lo que yo llamo «gemelos malvados»: réplicas virtuales precisas de su apariencia, sonido y gestos (o personas que conoce y en las que confía) que se usan en su contra con fines fraudulentos. Esta forma de robo de identidad ocurrirá en el metaverso, ya que es una fusión directa de las tecnologías actuales desarrolladas para la suplantación de identidad profunda, la emulación de voz, el hermanamiento digital y los avatares impulsados ​​por IA.

Y los ladrones pueden ser bastante elaborados. Según Bell, los malos actores pueden atraerlo a un banco virtual falso, completo con un cajero fraudulento que pide tu información. O los estafadores involucrados en el espionaje corporativo pueden invitarlo a una reunión falsa en una sala de conferencias que se parece a la sala de conferencias virtual que siempre usa. A partir de ahí, entregará información confidencial a terceros desconocidos sin siquiera darse cuenta.

Personalmente, sospecho que los impostores no necesitarán elaborar tanto. Después de todo, encontrar una cara familiar que se vea, suene y actúe como una persona que conoces es una herramienta poderosa por derecho propio. Esto significa que las plataformas de metaverso necesitan tecnologías de autenticación igualmente poderosas que validen que estamos interactuando con una persona real (o su gemelo autorizado) y no un gemelo malvado que fue implantado fraudulentamente para engañarnos. Si las plataformas no abordan este problema desde el principio, el metaverso podría colapsar bajo una avalancha de fraude y robo de identidad.

Ya sea que esté esperando el metaverso o no, las principales plataformas se dirigen hacia nosotros. Y porque las tecnologías realidad virtual y realidad aumentada están diseñadas para engañar a los sentidos, estas plataformas desdibujarán hábilmente los límites entre lo real y lo fabricado. Cuando los utilicen malos actores, estas características serán rapido peligroso. Es por eso que es del interés de todos, consumidores y corporaciones por igual, impulsar una seguridad estricta. La alternativa será un metaverso lleno de fraude desenfrenado, una consecuencia de la que quizás nunca se recupere.

Luis Rosenberg, PhD es director general de IA unánime y pionero en los campos de VR, AR e AI.