Las aplicaciones de redes generativas de confrontación son prometedoras

Detrás de la tecnología

Una red generativa adversaria (GAN) consta de dos redes neuronales en competencia. Una red neuronal se entrena en un conjunto de datos y genera datos para que coincidan, mientras que la otra, la red discriminatoria, juzga la creación. Por ejemplo, los GAN en el procesamiento de imágenes se entrenan en imágenes legítimas y luego crean las suyas propias.

Este proceso ocurre una y otra vez hasta que la imagen creada por la red neuronal generativa puede coincidir con los criterios suficientes para pasar como realista. La red que genera estas imágenes falsas está constantemente tratando de «engañar» a la red discriminatoria.

«El propósito de inventar [generative adversarial networks] era crear la capacidad de aumentar los conjuntos de datos si no tenía suficientes datos o si tiene datos incompletos «, dijo Michael Clauser, director de datos y confianza de Access Partnership, una consultora de política tecnológica global. poderosa inteligencia artificial que puede crear datos cercanos y datos similares «.

El poder detrás de las redes neuronales generativas adversarias es lo que preocupa tanto a los ciudadanos como a los expertos. Pueden surgir problemas fácilmente con la proliferación de fotografías realistas pero falsas e incriminatorias. Cuando las personas perciben una fotografía falsa como una imagen real, se extraen conclusiones incorrectas y las personas pueden sufrir.

Pero la tecnología deepfake, y las GAN en general, no son intrínsecamente maliciosas ni engañosas. Su capacidad para producir algo cercano a la realidad puede ayudar en el procesamiento de imágenes, así como en el análisis de imágenes y el procesamiento de información.

Estos GAN son un marco de aprendizaje automático y, en sus casos de uso más benévolos, la tecnología generalmente se conoce como redes generativas adversarias en lugar del término deepfake.

Aplicaciones de GAN

Las GAN encuentran su hogar saludable en organizaciones que buscan simular datos o complementar conjuntos de datos limitados. Su capacidad para trabajar con un conjunto de datos de formación para crear datos sintéticos realistas y fiables los hace útiles en la empresa. Los datos sintéticos de las GAN pueden ayudar en aplicaciones analíticas y análisis de tendencias, y también pueden ser útiles dentro de la industria médica.

Cuando se trata del procesamiento de imágenes en la atención médica, las redes neuronales en las GAN pueden detectar anomalías en los escaneos de pacientes comparándolos con imágenes de conjuntos de datos. Esto es especialmente aplicable en la detección de tumores en rayos X.

La formación médica ha experimentado una proliferación de GAN porque a veces puede haber una falta de datos e imágenes médicas. Las redes generativas de confrontación pueden complementar a las organizaciones de atención médica que luchan por encontrar suficiente material de capacitación para sus empleados.

La tecnología tiene el potencial de ser un activo en la producción de contenido, particularmente cuando se trata de contenido personalizado. Las empresas que utilizan la personalización masiva, o necesitan mejorar su juego en el volumen y la variedad de contenido que producen, pueden utilizar los datos simulados de GAN para ayudar, dijo Andrew Frank, vicepresidente de investigación y analista de Gartner.

«La producción de contenido sigue siendo bastante cara. Creo que hay una transformación que utiliza más técnicas informáticas para generar muchas más comunicaciones de vídeo de lo que antes era factible», dijo Frank.

Las GAN son importantes para el liderazgo tecnológico de EE. UU., Particularmente cuando se trata de la carrera de inteligencia artificial entre EE. UU. Y China. Debido a la naturaleza de sus leyes, políticas e historial de vigilancia, China tiene acceso a una acumulación de datos de ciudadanos que Estados Unidos no tiene. Si bien EE. UU. Ha aumentado sus actividades de vigilancia, también ha promulgado muchas restricciones a la vigilancia, lo que limita el conjunto de datos que utiliza para la investigación de IA.

«La supremacía de la IA está determinada por el acceso a los datos de entrenamiento para obtener algoritmos y sistemas de IA mejor entrenados y más inteligentes», dijo Clauser. «Para que Estados Unidos compita, necesita crear datos que no tiene y lo hace China, especialmente cuando se trata de reconocimiento facial, video de películas, vigilancia y registros de audio».

Cómo mitigar los riesgos de las deepfakes

Si bien hay usos positivos de esta tecnología, los riesgos asociados con los modelos generativos son reales. En 2019, los ladrones utilizaron un deepfake de audio para robar $ 243.000 de una empresa. Al llamar a la oficina después del horario comercial y utilizar un archivo de audio generado con la voz del director ejecutivo de la empresa, los ladrones pudieron convencer al director gerente de que transfiriera dinero para evitar multas por pagos atrasados.

Las empresas de redes sociales están lidiando con cómo manejar esta forma de desinformación cada vez más prevalente. Google, Twitter, Facebook y Reddit han realizado cambios de política en los últimos meses para equilibrar los riesgos que plantean los videos deepfake con la libertad de expresión en sus plataformas. Sin embargo, dijo Frank, todavía no hay soluciones técnicas que protejan específicamente contra las falsificaciones profundas, por lo que recomienda centrarse en medidas orientadas al proceso.

Si uno está realizando un seguimiento de todo el tipo de cosas que requerirían algún tipo de gestión de crisis, [deepfake management] va en la lista.

«Esto es solo una extensión de cualquier mecanismo de respuesta de relaciones públicas que se ocupe de situaciones cada vez mayores», dijo Frank. «Si uno está haciendo un seguimiento de todo el tipo de cosas que requerirían algún tipo de gestión de crisis, esto se incluye en la lista».

A medida que se desarrollen las soluciones tecnológicas en los próximos años, Clauser cree que las empresas deberían adoptar un enfoque basado en el riesgo porque la seguridad y la prevención son caras.

«Si usted es un banco de soporte abultado o una compañía de energía nuclear, su postura hacia un factor de amenaza profundamente falso debería ser bastante diferente a la de una compañía de dulces o una pequeña empresa», dijo Clauser.

La aparición de deepfakes y GAN ha creado una demanda de herramientas de autenticación de video para ayudar a los espectadores y las plataformas de publicación a distinguir entre videos reales y videos sintéticos o deepfake.

«Se ha hablado sobre el uso de la tecnología blockchain para autenticar la procedencia del video al capturar algo en la cámara cuando se graba un video que autenticaría su origen», dijo Frank. «Son similares a algunas de las técnicas que se utilizan para autenticar el origen de los productos físicos para combatir la falsificación y asegurarse de que no haya fugas en la cadena de suministro».

Recuperar la confianza

La forma en que han evolucionado las redes sociales ha llevado a una gran pérdida de confianza en el contenido digital. Según un estudio del Pew Research Center de 2017, solo el 5% de los adultos que usan la web confían en la información que obtienen de las redes sociales. Los deepfakes prosperan y son producto de esta atmósfera de desconfianza. La preocupación actual sobre los deepfakes son las posibles consecuencias políticas, pero esta tecnología tiene ramificaciones para cualquier persona o empresa que opere en el ámbito digital.

La pregunta existencial para las marcas es cómo recuperar la confianza de los clientes y establecer una reputación confiable en un mundo donde las personas ya no creen de manera inherente lo que ven en sus pantallas. La respuesta, según Frank, es la autenticidad.

«Las marcas realmente necesitan pensar en cómo pueden establecer relaciones más directas», dijo Frank. «Las marcas se están volviendo demasiado dependientes del artificio cuando hacen cosas como desplegar representantes sintéticos de servicio al cliente, que inicialmente parecen ser personas reales y luego descubres que no lo son. Todo eso contribuye a una pérdida general de confianza, así que tal vez redescubrir el elemento humano es la clave para luchar contra todo esto «.