Krypton Solid

Cómo un ex director de Facebook cree que la empresa debería arreglarse a sí misma

Como asesor de privacidad y políticas públicas, Dipayan Ghosh trabajó una vez para mejorar Facebook desde adentro. Ahora un chico en la New America Foundation, de 2015 a 2017, Ghosh contribuyó al desarrollo de las posiciones públicas de Facebook sobre temas relacionados con la privacidad, las telecomunicaciones y los algoritmos éticos.

Ghosh, quien anteriormente fue asesor de tecnología en la Casa Blanca del presidente Barack Obama, estaba preocupado por los resultados de las elecciones de 2016 y el papel que desempeñó Facebook para influir en los votantes. Dejó su trabajo en Facebook a principios del año pasado y se convirtió en miembro de New America, un grupo de expertos enfocado en política exterior, tecnología y economía. Junto con Ben Scott, asesor principal de New America, Ghosh publicó la semana pasada «Engaño digital: las tecnologías detrás de la propaganda de precisión en Internet. «

En él, Ghosh y Scott afirman que la interferencia de Rusia en las elecciones de 2016 fue la punta de un enorme iceberg y que las cosas están a punto de empeorar. Aquí está su tesis en una oración. «La desinformación política tiene éxito porque sigue la lógica estructural, se beneficia de los productos y perfecciona las estrategias del mercado publicitario digital más amplio», escriben. Reducir la difusión de información errónea en Facebook y otras plataformas requerirá que la empresa, y los reguladores, reconozcan esto primero, escriben.

El lunes hablé con los coautores sobre Facebook, la desinformación y qué hacer al respecto. (Esta entrevista fue editada por razones de extensión y claridad).

Casey Newton: ¿Cuál fue el origen de este proyecto? ¿Qué esperabas aprender?

Dipayan Ghosh: En resumen, durante 2016, personalmente vi muchas cosas que sucedían en el contexto de las redes sociales y la política que eran simplemente una locura. Simplemente loco. Y sentí que había que hacer algo al respecto. Ben viene con esta iniciativa a New America y desde entonces ha sido un sueño unirse a la iniciativa como colega y hacerse cargo de este tema.

¿Cómo fueron las conversaciones de Facebook después de las elecciones? ¿Hasta qué punto los colegas consideraron graves estos problemas?

Creo que la empresa está pensando en eso. No hay una sola persona que pueda hablar en nombre de toda la empresa. Ni siquiera Mark Zuckerberg lo afirmaría. Y, por supuesto, todos tienen opiniones diferentes sobre los temas. Sobre lo que era bueno [the revelations] Fue, en mi opinión, la empresa tuvo discusiones abiertas con el público, así como deliberaciones internas que fueron muy cuidadosas sobre cómo abordar estos temas. No quería recortar su modelo de ganancias, pero realmente quería encontrar el enfoque correcto. Fue un problema existencial para la empresa. Sabía que tenía que tener cuidado. Entonces, internamente, diría que la gente ha pensado seriamente en todos estos temas y ha tratado de descubrir qué es lo mejor en sus propias mentes y en su propio trabajo. Pero también creo que la empresa en general ha estado muy involucrada en tratar de escuchar muchas ideas.

Ahora, no creo que esos primeros esfuerzos hayan sido suficientes. Pero eso no significa que no piensen seriamente en todos estos temas y no trabajen duro.

Newton: ¿La empresa declaró explícitamente que no quería reducir su modelo de beneficios? ¿O cómo te llevaste esa impresión?

No es algo que hubiera dicho. Pero tiene sentido: al final del día, es una empresa con fines de lucro y no quiere canibalizar sus propias fuentes de ingresos. Creo que lo que esto me sugirió fue mi comprensión de cómo ha funcionado la empresa a lo largo del tiempo, es decir, que, en su mayor parte, los equipos de gestión de productos y publicidad realmente definen el producto más que nadie.

En su informe, escribe: «Utilizan las mismas tecnologías para influir en las personas – lograr una cuota de mercado nacional con mensajes específicos de formas inconcebibles en cualquier forma de medios anterior. Pero si el mercado continúa alineando los intereses de la economía de la atención con los objetivos de la desinformación política, nos esforzaremos por superarlo.« ¿Cómo rompemos esa alineación?

Ben Scott: Parte de la razón por la que hicimos esta investigación y escribimos el artículo es para demostrar que no hay una manera fácil de hacerlo. No hay ningún cambio en el algoritmo, no hay un simple cambio en el producto destinado al público que abordará esto. Porque está profundamente arraigado en el modelo de negocio y la lógica de la plataforma.

Analizamos una variedad de formas diferentes de trabajar para reducir los daños. No creo que puedas evitar que la desinformación fluya en Internet. Pero la desinformación en el sistema de medios no es un fenómeno nuevo. Lo que estamos tratando ahora es un sistema de medios distribuidos que tiene la capacidad de apuntar [political messages] con gran precisión. Esto es lo que es diferente de, digamos, los mensajes de la Guerra Fría arrojados por el Telón de Acero. Entonces, ¿cómo puedes reducir el mal reconociendo que no lo eliminarás por completo?

Uno es la transparencia. Cuanto más sepan los usuarios sobre a quién se dirigen, cuánto dinero se está gastando y cómo se les está dirigiendo, es más probable que sean escépticos de sus esfuerzos por influir en ellos. Y deberá diseñarse con el mismo nivel de experiencia de usuario que haga que el producto sea cómodo y agradable de usar.

También analizamos cómo diferencia el contenido promocionado diseñado para manipular opiniones políticas del contenido promocionado diseñado para manipular el comportamiento empresarial. La forma en que vemos el problema es desde la perspectiva de la recopilación de datos. Si somos restrictivos en términos de datos recopilados sobre temas políticamente sensibles y elecciones, en particular, y limitamos la capacidad de la plataforma para vender el acceso a esos datos con el propósito de publicidad dirigida, hemos hecho una incursión significativa. en problemas. Pero hasta ahora, este enfoque no se ha discutido realmente.

Una cosa que ha dicho Facebook sobre la influencia de Rusia en las elecciones es que la seguridad nacional es asunto del gobierno. ¿Existen posibles intervenciones gubernamentales que considere útiles para reducir las campañas de desinformación que obstaculizan?

Scott: Se debe hacer una distinción importante entre las regulaciones hechas para abordar el contenido ilegal y el contenido legal dañino. Existe un conjunto de prácticas regulatorias que no son nuevas para la industria de la tecnología que han abordado el contenido ilegal. Debates políticos sobre la regulación del spam, la propiedad intelectual de Internet y la pornografía infantil, todos los cuales han sido casos en los que la industria se ha mostrado escéptica de que podría hacer cumplir los requisitos legales tecnológicamente. Y finalmente, siguieron esas reglas. Creo que en el caso de contenido ilegal que sirva como campaña de desinformación, verá regulaciones para abordarlo. La pregunta más difícil es, ¿qué haces con el contenido legal que no es una violación de los términos y condiciones de la plataforma? Aquí es donde entran en juego las políticas de transparencia y recopilación de datos. En ausencia de una amenaza de intervención regulatoria, es poco probable que las empresas tomen medidas.

Su informe hace muchas recomendaciones. ¿Cuál es, en tu mente, el fruto más bajo?

Ghosh: Estamos hablando de cambios radicales y de gran alcance en nuestro régimen regulatorio, y no creo que ninguno de ellos sea necesariamente fácil de hacer. Pero lo que creo que es más fácil de hacer en un futuro cercano es implementar algún tipo de sistema de detección en la industria, tal vez incluso en coordinación con el gobierno, para construir algoritmos que puedan ayudar a determinar y detectar el uso de operaciones de desinformación. Creo que la inteligencia artificial puede ayudar aquí. Si bien es una amenaza potencial para la democracia política y la integridad de nuestro sistema electoral, también se puede utilizar para nuestro beneficio.

Creo que los cambios regulatorios que deben abordarse son soluciones a más largo plazo. Pero lo más claro, al menos para mí, es la intimidad. La confidencialidad parece ser obvia y ha sido claramente violada en el contexto de la desinformación. Y por razones de estancamiento político, no pudimos avanzar.

Scott: Una tercera cosa es, y mucha gente ha hablado de ello, pero creo que es una opción útil: darme la opción de ver los flujos en mis cuentas de redes sociales como aparecerían sin ninguna intervención algorítmica. Solo datos sin procesar cronológicamente de mi feed.

¿Cómo se beneficiaría la democracia de un flujo cronológico?

Lo que hace es que me muestra lo que dicen todos en mi red social y no lo que la plataforma cree que quiero ver. Creo que algunos usuarios estarían distraídos e informados, alternando entre las dos opciones y viendo cuáles son las diferencias.

¿Cuáles de sus recomendaciones cree que es menos probable que se implementen?

Scott: La parte más difícil es averiguar cómo abordar la relación entre la privacidad de los datos y el poder de mercado. Una cosa es vender a los anunciantes acceso a perfiles de datos que les ayuden a dirigir los mensajes a ciertos grupos que responden a ciertos mensajes. Otra cosa es cuando tiene más del 80% de participación de mercado reciente y el tamaño de cientos de millones de usuarios en un mercado determinado. ¿Cómo maneja este tipo de control sobre la información social? Y es de aplicación tanto para fines políticos como comerciales. No tenemos políticas de competencia o antimonopolio diseñadas para eso.

Incluso los europeos, que son mucho más agresivos, no han presentado una teoría sobre cómo construir una política que satisfaga sus necesidades.

¿Recibiste comentarios de Facebook sobre tus recomendaciones?

Scott: Tenemos. No intentaron en público ni en privado, al menos conmigo, desmentir los principales argumentos de los periódicos.

Ghosh: Lo que más he escuchado o dicho es que aprecian que adoptemos un enfoque serio y cuidadoso.

Una pregunta que se cierne sobre todo esto es si las redes sociales son buenas o malas para la democracia. ¿Tiene una opinión sobre esto?

Ghosh: Mi perspectiva personal es absolutamente sí. Soy una red positiva. Mi sentimiento sobre la industria y las redes sociales es que es un conector. Proporciona acceso a las personas, no solo a las redes sociales, sino también a Internet, para personas de todo el mundo. Creo que es algo positivo en general. Y estos son defectos fundamentales que solo deben abordarse.

¿Qué sigue para ustedes dos?

Ghosh: Ahora que hemos realizado este análisis de mercado, ¿cómo pensamos sobre los próximos pasos de estos regímenes regulatorios? ¿Qué hay que hacer desde el punto de vista de las políticas? Para mejorarlos para las personas, para que funcionen mejor para Internet, porque los nuevos medios incorporan la Internet tradicional. Tenemos un sistema regulatorio que ha sido diseñado durante décadas y no se ocupa de Internet. Creo que nuestro próximo paso es pensar en esto de manera más directa y escribir sobre los pasos que se pueden tomar táctica y políticamente para que se produzca este cambio.

Deja un comentario