Científico advierte que los algoritmos de los gigantes de datos han creado un nuevo modelo en el que «el comportamiento de los usuarios es el producto».
por Ricardo Carnevali (*).
Jaron Lanier es una de las personas más impactantes que uno puede encontrar en Silicon Valley, con sus dreadlocks , su mirada fulminante, su inteligencia filosa y su carácter explosivo.
Fue parte de la creación del protocolo de Internet, es considerado el padre de la realidad virtual y uno de los informáticos más brillantes, y ahora sorprende al mundo con su libro Diez argumentos para borrar tus cuentas de redes sociales en este momento.
Lanier es escritor, filósofo y destacado compositor de música clásica y electrónica, que ha colaborado con músicos como Terry Riley y Philip Glass. Y en la última década, se ha convertido en uno de los principales críticos del uso de la tecnología digital.
Hace unos años ya había publicado un libro con el poco sutil título de No eres un gadget (dispositivo, artefacto).
Actualmente es consultor para Microsoft y no duda en decir que es una voz calificada para criticar la tecnología digital, pues él mismo sabe cómo están siendo diseñados los algoritmos.
«En realidad, conozco los algoritmos. No soy un extraño que mira y critica. Hablo como científico informático, no como científico social o psicólogo. Desde esa perspectiva, puedo ver que el tiempo se está acabando. El mundo está cambiando rápidamente bajo nuestro mando, por lo que no hacer nada no es una opción», señala.
Y agrega:
«El algoritmo está tratando de captar los parámetros perfectos para manipular el cerebro, mientras que el cerebro, para hallar un significado más profundo, está cambiando en respuesta a los experimentos del algoritmo… Ya que el estímulo no significa nada para el algoritmo, pues es genuinamente aleatorio, el cerebro no está respondiendo a algo real, sino a una ficción. El proceso -de engancharse en un elusivo espejismo- es una adicción».
Lanier mantiene que los algoritmos de los gigantes de datos han creado un nuevo modelo en el que «el comportamiento de los usuarios es el producto», un comportamiento que está constantemente siendo modificado, pues la gran apuesta es justamente esa, usar lo más avanzado informáticamente para aprender a modificar la conducta de la manera más provechosa para los intereses de las corporaciones.
Básicamente, lo que Lanier (quien se considera optimista) cree es que Internet puede ser salvado, pero es necesario abandonar las redes sociales y desbandar a los grandes monopolios que controlan las nubes de datos.
Utiliza la metáfora de una pintura que contiene plomo: cuando se descubrió que la pintura tenía plomo se creó una nueva pintura limpia, no se dejaron de pintar las casas.
En su libro acuña el acrónimo Bummer (slang para una decepción): «Behaviours of Users Modified, and Made into an Empire for Rent». Se trata de una máquina estadística de manipulación de comportamiento, para crear un imperio espectral en beneficio de unos pocos.
Lo que hay que hacer es identificar los sitios donde opera Bummer, esta máquina de modificación de conducta que usa las nubes de datos, y borrar esos sitios, afirma.
El problema, añade, está en el modo de operar de estos algoritmos, que están siendo ajustados constantemente para capturar la atención de los usuarios y hacer que se comporten de una manera que sea más rentable.
Esto genera una enorme negatividad, sensaciones de enojo, narcisismo, indignación, etc., pues estas plataformas han aprendido que las emociones negativas duran más en línea: el odio se canaliza mejor en línea.
Según Lanier, las herramientas de estas plataformas funcionan mejor para las personas que buscan reproducir sentimientos negativos.
«Por lo tanto, Isis tiene más éxito en las redes sociales que los activistas de la Primavera Árabe. Los racistas obtuvieron más impacto que Black Lives Matter, creando este aumento en el movimiento nacionalista racista en Estados Unidos de una manera que no hemos visto en generaciones», sostiene.
El decálogo Lanier
Estos son los 10 argumentos de Lanier para dejar las redes sociales (que corresponden con los 10 capítulos de su libro:
– Estás perdiendo tu libre albedrío.
– Renunciar a las redes sociales es la manera más precisa de resistir a la locura de nuestros tiempos.
– Las redes sociales te están volviendo un idiota.
– Las redes sociales están minando la verdad.
– Las redes sociales están haciendo que lo que dices no importe.
– Las redes sociales están destruyendo tu capacidad de empatía.
– Las redes sociales te están haciendo infeliz.
– Las redes sociales no quieren que tengas dignidad económica.
– Las redes sociales están haciendo que la política sea imposible.
– Las redes sociales odian tu alma.
Sin dudas, da motivos para dejar Twitter, Facebook e incluso WhatsApp y los servicios de Google., pero son pocos los usuarios que deciden borrar sus cuentas.
Twitter sigue con sus 300 millones de perfiles, Facebook tiene más de dos mil millones e Instagram continúa creciendo y ya pasa de los 500 millones.
¿Abandonar las redes?
Hace una década, las posibilidades que se abrían con la web eran infinitas y difíciles de prever, aunque no era difícil ver que iba a transformar para siempre la industria periodística, y las recién nacidas redes digitales parecían capaces de conectar a los individuos y permitirles intercambiar afectos e información con facilidad, mientras existía la esperanza de que fuera la solución para muchos de los conflictos humanos y la ilusión de que supusiera el principio del fin de la jerarquía y la autoridad.
El bielorruso Evgeny Morozov fue uno de los primeros en criticar esta visión optimista de Internet en sus libros ‘El desengaño de internet. Los mitos de la libertad en la red’ y ‘La locura del solucionismo tecnológico’.
“Nunca se había podido ser tan optimista con el capitalismo sin ni siquiera mencionarlo por su nombre. Lo que importaba no era quién poseía la tecnología, sino cómo se usaba”, señalaba.
Pero “esos lugares comunes ocultaban muchas verdades básicas sobre la relación de la tecnología y el poder”, añadía.
En esta segunda década del siglo 21, el neoyorquino Jaron Lanier, de 59 años y de vasta experiencia en el desarrollo de la realidad virtual, fue parte del ecosistema de las “start-ups” y los desarrollos tecnológicos estadounidenses, hasta que sintió que la criatura que había contribuido a crear empezaba a ser exactamente lo contrario de lo que debía: no solo no se había convertido en una especie de paraíso libertario sin intromisión estatal y en una plataforma para el diálogo desinteresado, sino que había caído presa de los intereses de las grandes empresas y adoptado algunas de sus peores expresiones.
No se trataba únicamente de la avaricia, que podía darse por descontada, sino de algo peor: una obsesión, que iba más allá del “marketing” tradicional, por alterar la conducta de los usuarios.
El decálogo es apenas parte de las razones que da Lanier en un libro que no toca algunos temas como “las presiones insostenibles hacia personas jóvenes, especialmente mujeres” y cómo “los algoritmos pueden discriminarte por racismo o por otras razones horribles”.
Lanier no quiere acabar con internet. Al contrario: abandonar las redes, aunque solo sea una temporada, puede ser una forma de saber cómo nos están perjudicando y, sobre todo, de darnos cuenta de lo que podrían ofrecernos.
Pero entre las 10 razones, hay cinco puntos que vale la pena resaltar.
Pérdida de libertad:
Las llamadas redes sociales, en especial Facebook, pretenden guardar registro de todas nuestras acciones: qué compartimos, qué comentamos, qué nos gusta, dónde vamos.
“Ahora todos somos animales de laboratorio”, escribe Lanier, y «formamos parte de un experimento constante para que los anunciantes nos envíen sus mensajes cuando somos más susceptibles a ellos».
Esto también ha tenido consecuencias políticas:
los grupos que distribuyen noticias falsas (fake news) se encontraron con una “interfaz diseñada para ayudar a los anunciantes a alcanzar a su público objetivo con mensajes probados para conseguir su atención”.
A Facebook le da igual que estos “anunciantes” sean empresas que quieren vender sus productos, partidos políticos o difusores de noticias falsas. El sistema es el mismo para todos y mejora “cuando la gente está enfadada, obsesionada y dividida”.
Infelicidad, aislamiento:
Lanier cita estudios que muestran que, a pesar de las posibilidades de conexión que ofrecen las redes sociales, en realidad sufrimos “una sensación cada vez mayor de aislamiento”, a causa de motivos tan dispares como “los estándares irracionales de belleza o estatus, por ejemplo, o la vulnerabilidad a los trols”.
Indica que los algoritmos nos colocan en categorías y nos ordenan según nuestros amigos, seguidores, el número de likes o retuits, lo mucho o poco que publiquemos…
“De repente tú y otra gente forman parte de un montón de competiciones en las que no habían pedido participar”, sostiene.
Son criterios que nos parecen poco significativos, pero que acaban teniendo efectos en la vida real:
“En las noticias que vemos, en quién nos aparece como posible cita, en qué productos se nos ofrecen”.
También pueden acabar influyendo en futuros trabajos: muchos de los responsables de recursos humanos buscan a sus candidatos en Facebook y en Google, señala.
Lanier advierte:
“Todos tenemos un trol dentro”.
En el contexto de las redes sociales, las opiniones se polarizan y, a menudo, las discusiones no son oportunidades para dialogar, sino para ganar puntos a costa de dejar a los demás en evidencia, en una especie de antidialéctica de la refutación brusca.
Lanier nos pregunta respecto a este comportamiento:
“¿Eres tan amable como te gustaría ser?”.
Debilitamiento de la verdad:
Lanier recuerda que las teorías de la conspiración más locas (él pone el ejemplo de los antivacunas) a menudo empiezan en redes sociales, donde su eco se amplifica, a menudo con la ayuda de bots y antes de aparecer en medios hiperpartidistas.
El mismo terraplanismo nació a partir de unos pocos grupos en Facebook, amplificados por un algoritmo que daba repercusión a estas publicaciones que se comentaban y compartían más por lo disparatado de su contenido que por su verdadero alcance.
Destrucción de la capacidad de empatía:
Con este argumento, Lanier se refiere sobre todo al filtro burbuja. En Facebook, por ejemplo, las noticias aparecen en la portada según la gente y los medios a los que seguimos y, también, dependiendo de los contenidos que nos gustan.
La consecuencia es que en redes accedemos a menudo solo a nuestra propia burbuja, es decir, todo aquello que conocemos, con lo que estamos de acuerdo y que nos hace sentir cómodos.
Es decir, no vemos otras ideas, sino que solo nos llegan sus caricaturas. Es el intento de la imposición del pensamiento único.
Y, en consecuencia, en lugar de intentar entender las razones que hay detrás de otros puntos de vista, nuestras ideas -sin información suficiente- se refuerzan y el diálogo se hace cada vez más difícil.
Pérdida de dignidad económica:
Lanier explica que el modelo de negocio que predomina en internet es consecuencia del “dogma” de creer que “si el software no era gratis no podía ser abierto”.
Se creyó que la publicidad era una forma de solucionar este problema. Y propone otras alternativas, como pagar por usar servicios como los que brindan Facebook o Google, y a cambio recibir alguna compensación según lo que aportáramos, que podría ser desde contenidos a los datos que ahora mismo regalamos para que se vendan en paquetes de publicidad y de manipulación del imaginario colectivo.
(*) Doctorando en Comunicación Estratégica, Investigador del Observatorio en Comunicación y Democracia, asociado al Centro Latinoamericano de Análisis Estratégico (CLAE, www.estrategia.la )
