Google podría haber construido el Internet de la Tiranía

En la presentación deslumbrante más reciente de Google, en su conferencia de desarrolladores "E/S", la compañía mostró nuevas aplicaciones y características para muchos de sus productos, pero lo más sorprendente fue la tecnología subyacente a ella. Sobre la base de lo que ha mostrado anteriormente, demostró cuán avanzadas eran sus técnicas de aprendizaje automático, específicamente su capacidad para comprender y procesar el lenguaje natural. Y como Google Photos demuestra hábilmente, la tecnología ya es cada vez más buena para reconocer los objetos en las fotos.

Momentos después de demostrar este nivel de inteligencia, la compañía reveló un nuevo producto llamado Google Home. Este es un altavoz que se sienta en su hogar y responderá a los comandos de voz. En otras palabras, escuchará todo lo que diga: usar esas habilidades avanzadas de procesamiento del lenguaje para descubrir lo que está solicitando. Google no es la única compañía que trabaja en esto: Amazon, Facebook y otros están trabajando en tecnología similar.

"Ya sea que la compañía se dé cuenta o no, está construyendo las herramientas para una vigilancia perfecta."

Sería fácil descartar esto como un poco de tecnología increíble, otro paso hacia un futuro con IoT. Después de todo, a Google le gusta presentarse como uno que sea amigable y divertido. Está marcado con colores brillantes, sus anuncios de twee cuentan con familias adorables y bandas sonoras de ukelele. Pero uno de los que te das cuenta de lo que son capaces de tecnologías, adquiere una apariencia más siniestra. Ya sea que la compañía se dé cuenta o no, está construyendo las herramientas para una vigilancia perfecta. Gracias a Google y al resto de la industria tecnológica moderna, el Internet de las cosas podría convertirse fácilmente en Internet de la tiranía.

No tiene que pensar demasiado para imaginar cómo esta misma tecnología podría usarse para la vigilancia, especialmente cuando se considera las tecnologías que sabemos que los gobiernos ya están empleando a raíz de las revelaciones de Edward Snowden.

Si hay un micrófono en cada hogar, escuchando todo lo que hacemos y algunos algoritmos inteligentes en el trabajo que se recogen en palabras clave y frases, sería fácil que un aspirante a un gobierno totalitario utilice tales tecnologías para evitar la oposición política legítima, y ​​no solo el crimen del crimen, y no solo el crimen. Si un gobierno suficientemente malévolo quisiera emplear tal vigilancia, haría que la policía secreta de Alemania Oriental pareciera aficionados.

¿Suena esto paranoico?? Quizás, pero mirando hacia atrás en la historia y mirando las tendencias actuales en la política, y hay razones muy reales para sentirse un poco nerviosos.

El fin de la historia

En 1989, Francis Fukuyama escribió un ensayo provocativo titulado The End of History?, en el que argumentó que después del final de la Guerra Fría y la derrota del comunismo, estaba claro que la democracia y el capitalismo son la mejor manera de manejar los asuntos humanos.

Pero casi tres décadas después y esta tesis ha enfrentado desafíos significativos. Todo, desde el surgimiento del islamismo, hasta el ascenso antidemocrático de China y el presidente ruso Vladimir Putin obteniendo un poco más de gatillo, todos sugieren que la democracia no fue el final de la historia, solo parte de su continuación.

Quizás sea posible pensar en nuestra democracia moderna como un accidente histórico. Es el resultado de la confluencia de las tendencias políticas, económicas y tecnológicas correctas. Para que nuestra democracia exista, necesitamos lo que los politólogos llaman instituciones políticas y económicas "inclusivas", que distribuyen el poder entre todos en la sociedad, para que todos tengan una voz y todos tienen la oportunidad de hacerlo grande.

“La tecnología hace esa cosa sobre la que los tipos de Silicon Valley siempre están golpeando: interrupción."

Esta inclusión está impulsada por la tecnología. Por qué? Porque la tecnología hace esa cosa sobre la que los tipos de Silicon Valley siempre están golpeando: interrupción. Sin el cambio tecnológico temblando de la forma en que la sociedad está estructurada, siempre habría una élite arraigada en la cima con todo el poder. Si la imprenta nunca se hubiera inventado, las tasas de alfabetización se habrían mantenido mucho más bajas, así que nos facilitó controlar. Sin la revolución industrial, nunca se habrían organizado grupos de personas trabajadoras comunes para exigir el voto por los propietarios y mujeres que no son de la tierra y las mujeres. Sin medios de comunicación, no sería posible que las personas tomen decisiones informadas en las elecciones. Todos estos son ingredientes esenciales en una democracia.

Pero esto no significa que esas innovaciones tecnológicas solo tuvieran buenos resultados. La imprenta permitió la transmisión de las ideas que causaron la guerra de treinta años, una de las guerras más devastadoras de la historia que mató a 8 millones de personas. La revolución industrial trajo consigo la explotación de los trabajadores en las fábricas. Y medios de comunicación? Bueno, eso nos trajo a los Kardashians.

Actualmente estamos viviendo el mayor período de cambio tecnológico en la historia humana. Aparentemente todos los días vemos avances en conectividad, almacenamiento y energía de procesamiento. Sería una tontería pensar que a medida que cambie nuestra tecnología, nuestra política seguirá siendo la misma.

¿Nos sentimos afortunados??

Entonces la democracia y la libertad podrían estar saliendo? Cantiliosamente, ni siquiera tenemos que imaginar realmente un futuro cercano tan distópico: ya hay señales de que está empezando a suceder. Recientemente en Rusia, por ejemplo, ha habido una gran controversia sobre una aplicación llamada FindFace que le permite tomar una foto de cualquier persona, y luego usará la tecnología de reconocimiento facial para mirar a la persona en Vkontakte, el equivalente ruso de Facebook.

Según The Guardian, la compañía detrás de esto ya está hablando con el gobierno de la ciudad de Moscú sobre la conexión de la tecnología de reconocimiento de la cara a las 150,000 cámaras de CCTV de la ciudad. Incluso si eres lo suficientemente ingenuo como para confiar en el gobierno británico (o cualquier occidental) con tales poderes, ¿realmente confiarías en Vladimir Putin para ejercer tal restricción sobre sus oponentes políticos??

Es inevitable que tarde o temprano un régimen menos agradable use estas tecnologías para rastrear a todos sus ciudadanos todo el tiempo.

El pasado no es un país tan extranjero

Y esto me lleva de vuelta a la democracia británica. La respuesta optimista a este alarmamiento es que, a diferencia de Rusia, China, o en Gran Bretaña del pasado, nuestras instituciones políticas modernas son fuertes. Gran Bretaña y los británicos dentro tienen un fuerte sentido de estado de derecho y comprenden la necesidad de proteger las libertades y las libertades que se ganaron lentamente a lo largo de la historia. Seguramente no existe el riesgo de que nos deslicemos en la dictadura?

Desafortunadamente, es difícil ser optimista. El crecimiento de los poderes de vigilancia y nuestra voluntad de intercambiar aún más nuestra privacidad por las comodidades del mundo digital es un proceso gradual es un proceso gradual.

“El crecimiento de los poderes de vigilancia y nuestra voluntad de intercambiar nuestra privacidad por las comodidades del mundo digital es un proceso gradual es."

Ya podemos ver que esto sucede: el proyecto de ley de poderes de investigación se está abriendo camino a través del parlamento. La intención es que proporcionará al Gobierno legitimidad legal para vigilar en la escala que Edward Snowden expuso, aunque con lo que probablemente sean controles y saldos de tokenística. Si bien hay algunos grupos comprometidos que hacen campaña en su contra (como el Don't Spy en la Coalición de los Estados Unidos), la oposición política parece ser limitada. Frustrantemente, el Partido Laborista, la supuesta oposición, se abstuvo de la primera lectura.

El siguiente paso, y uno del que ya hemos escuchado al gobierno hacer ruidos, es legislar para permitir que se bloqueen los sitios web y los servicios. Después de los disturbios de 2011 hubo llamadas para darle al Secretario del Interior el poder de bloquear aplicaciones de mensajería en tiempos de crisis. Claro: puede confiar en la actual ministra Theresa May ... pero ¿cómo puede saber que confiará en su sucesor o los sucesores de su sucesor en 10 o 20 años??

Incluso las ideas aparentemente benignas podrían tener resultados desafortunados. Tome las propuestas comprensibles para exigir a la policía que use cámaras corporales, por ejemplo. Definitivamente parece una buena manera de garantizar la responsabilidad y prevenir la violencia (particularmente contra las minorías desproporcionadamente perseguidas) en una sociedad libre y democrática. Pero si tuviéramos un gobierno más autoritario, esas mismas tecnologías que estamos permitiendo hoy asumirían un significado muy diferente.

Lo peligroso de estas maniobras políticas actuales no es lo que dice ahora per se, sino el hecho de que significa que la tecnología estará vigente para que un futuro gobierno tenga la capacidad técnica, si no explícitamente legal, para explotarla el futuro. Es como la apuesta que hace un país con armas nucleares: podrían estar bien si alguien confiable está a cargo, pero en manos de alguien más desquiciado, podría ser enormemente peligroso.

Algoritmos de polarización

Hay otro argumento a considerar: el hecho de que la tecnología exista para una vigilancia perfecta no significa que el gobierno realmente lo use.

Y es cuando volvemos a la política. La interrupción causada por los avances tecnológicos del siglo XXI: Internet y la globalización en general ya están cambiando la política.

Lo que está cada vez más claro en la segunda década del siglo XXI es que los temperamentos políticos están cambiando a nivel mundial. Durante un breve tiempo a principios del milenio, se sintió que la ideología ya no era importante, y el trabajo de los políticos, ya sea laborista, Tory o cualquier otra cosa, se trataba de la gerencia. No hacer nada radical, pero ajustar las palancas de poder para mantener todo avanzando.

Pero este ya no es el caso: el consenso está muerto. En todo el mundo, los movimientos radicales están ganando poder o formando significativamente eventos políticos. La extrema derecha le está yendo inquietantemente bien en Francia y Austria. La extrema izquierda ahora es muy poderosa en Grecia y España. En Gran Bretaña, Jeremy Corbyn y Nigel Farage son ahora figuras importantes, a pesar de estar muy lejos del centro político.

"Cuando iniciamos sesión en Facebook por la mañana, vemos una dieta de política programada algorítmicamente para decirnos qué queremos escuchar."

Esto también es en parte el resultado del cambio tecnológico. Cuando iniciamos sesión en Facebook por la mañana, vemos una dieta de política programada algorítmicamente para decirnos qué queremos escuchar. En lugar de desafiar nuestras cosmovisiones, los tenemos reforzados por nuestros amigos de ideas afines. Nos hemos vuelto más polarizados y más extremos. (Otros movimientos también, como el islamismo, el gamergate y el ala autoritaria del movimiento de justicia social son una expresión adicional de esta tendencia.)

Esta polarización de puntos de vista significa que con los 'enemigos' tan demonizados, la política no se trata de pluralismo, la idea de que debemos crear instituciones que faciliten una política de múltiples puntos de vista, sino de la victoria total sobre los oponentes. Este es el tipo de pensamiento que significa que cerrar a sus oponentes políticos a cualquier costo es lo más importante. Imagínese si un grupo radical con estas vistas rígidas tomara poder y descubriera que tenían el control de aparatos tecnológicos capaces de espiar a sus oponentes, probablemente serían menos reticentes para usarlo. Si esta visión no te asusta, imagina que el grupo a cargo es uno que te opones.

Me encantaría decir que hay esperanza: que seguramente surgirá un movimiento elegante y elegante que prometirá proteger nuestros derechos digitales y nuestras libertades civiles. Pero dada la cobardía del Partido Laborista sobre el tema, y ​​la irrelevancia de los demócratas liberales, es difícil ver de dónde vendrá. Quizás solo comenzaremos a preocuparnos cuando sea demasiado tarde?

Pongamos todo esto junto. Estamos viviendo en un momento en el que los consumidores están desarrollando y aceptan con entusiasmo las nuevas tecnologías que pueden permitir un futuro autoritario para desarrollar con entusiasmo, los consumidores, al tiempo que otorgan al estado un poder cada vez más legal para desarrollar la capacidad de examinarnos y restringir lo que podemos hacer. Dado esto, ¿cuál es el pronóstico de la democracia?? Si surgiera un nuevo movimiento radical o demagogo de esta volatilidad, lo que no es imposible dado el clima político actual, qué herramientas tendrían los ciudadanos para desafiar a los líderes autoritarios?

Tal vez el punto aquí se pueda resumir con una pregunta que los estadounidenses pueden encontrar bastante pertinente: confiaría en que el estado lo examine y acceda a todos sus datos, en vivo y en tiempo real? ¿Qué pasaría si la persona a cargo fuera alguien como Donald Trump??

Es posible que no estemos al final de la historia, pero este pronto podría ser el fin de la democracia.