Renunciar a las redes sociales
Jaron Lanier
El problema no es el teléfono inteligente, como da a entender una avalancha de artículos con títulos como «¿Ha echado a perder el teléfono inteligente a toda una generación?». El problema no es internet, a la que también se acusa día sí y día también de haber destrozado el mundo. Algo lo está destrozando, pero no es el hecho de que estemos conectando a la gente de sitios distintos usando bits, o que nos pasemos el rato contemplando pequeñas pantallas resplandecientes. Qué duda cabe de que uno puede mirar la pantallita en exceso, como puede excederse haciendo muchas otras cosas, pero eso no supone un problema existencial para nuestra especie.
No obstante, sí hay algo en particular relacionado con la tecnología que es tóxico .incluso en pequeñas cantidades. Un nuevo desarrollo que debe aplastarse. Es .importante definir el problema con la mayor precisión posible para que no haya todavía más confusión al respecto. El problema es, en parte, que todos llevamos encima dispositivos susceptibles de usarse para la modificación de la conducta en masa. Pero esta no es la mejor manera de encuadrar el problema. Al fin y al cabo, nuestros aparatos pueden emplearse para otros propósitos, cosa que sucede a menudo.
El problema no es solo que los usuarios estén apiñados en entornos virtuales que pueden sacar lo peor de cada uno. No es solo que tanto poder esté concentrado en un reducido número de personas que controlan los gigantescos ordenadores en la nube. El problema tiene algo en común con todos esos factores, pero ni siquiera es exactamente la suma de todos ellos. El problema se da cuando todos los fenómenos que acabo de mencionar están impulsados por un modelo de negocio cuyo incentivo consiste en encontrar clientes dispuestos a pagar para modificar el comportamiento de otras personas. Recordemos que en la publicidad a la vieja usanza se podía medir si un producto se vendía mejor tras la emisión de un anuncio, pero ahora las compañías miden si los individuos han cambiado su comportamiento, y la información que se hace llegar a cada uno se ajusta continuamente para conseguir esa modificación del comportamiento. Esta modificación de nuestra conducta se ha transformado en un producto, uno particularmente «seductor» no solo para los usuarios, sino también para los clientes/manipuladores, quienes temen que, si no pagan las sumas correspondientes, se queden fuera de juego.
El problema es todo lo anterior y una cosa más. Como se explicó en la primera razón, el sistema que estoy describiendo amplifica las emociones negativas más que las positivas, por lo que es más eficiente a la hora de perjudicar a la sociedad que a la de mejorarla es más indeseables son los que más rendimiento le sacan a su dinero.
.
Por fin podemos delimitar el problema. Lo cual significa que podemos eliminarlo .sin que haya daños colaterales. Por suerte, nuestro problema es muy específico. Si pudiésemos deshacernos del pernicioso modelo de negocio, la tecnología en la que se sustenta no sería tan perjudicial. Al menos hemos de intentarlo, porque de lo contrario llegará un momento en que nos veremos obligados a destripar todo un universo de tecnología digital. La tecnología era el último «dios que no fracasó», el último bastión del optimismo. No podemos permitirnos tirarlo por la borda.
Si has tenido buenas experiencias con las redes sociales, nada de lo que se dice en este libro las invalida. De hecho, confío en que encontremos —tanto la industria como todos nosotros— una manera de conservar aquello que nos gusta y de mejorar a partir de ahí, precisamente al definir con exactitud aquello que debe rechazarse. Borrar nuestras cuentas ahora incrementará la probabilidad de que tengamos acceso a mejores experiencias en el futuro. Hay quien ha comparado las redes sociales a la industria tabacalera, pero yo no lo haré. La mejor analogía es la pintura que contiene plomo. Cuando fue innegable que el plomo era nocivo, nadie dijo que las casas no deberían volver a pintarse nunca, sino que, gracias a la presión y a la legislación, la pintura sin plomo se convirtió en la nueva norma. Las personas listas simplemente esperaron a que hubiera a la venta una versión inocua para comprar pintura. Análogamente, las personas listas deberían borrar sus cuentas hasta que estén disponibles variedades no tóxicas.
.
Para evitar tener que repetir una y otra vez la misma letanía de las piezas que componen el problema («conductas de usuarios modificadas y convertidas en un imperio en alquiler»), voy a sustituirla a partir de ahora por un término bien expresivo: INCORDIO.
INCORDIO es una máquina, una máquina estadística que vive en las nubes computacionales. Recordémoslo: los fenómenos estadísticos y difusos son, no obstante, reales. Incluso en sus versiones más perfeccionadas, los algoritmos INCORDIO solo pueden calcular la probabilidad de que una persona actúe de determinada manera. Pero lo que podría no ser más que una probabilidad para cada individuo tiende a ser una certeza en promedio para una gran cantidad de personas. La población general puede verse afectada con mayor predictibilidad que cualquier persona individual.
Puesto que la influencia de INCORDIO es estadística, el peligro recuerda un poco al que existe con el cambio climático. No podemos afirmar que este sea responsable de tal o cual tormenta, inundación o sequía en concreto, pero sí podemos decir que altera la probabilidad de que se produzcan. A más largo plazo, los fenómenos más espantosos, como la subida del nivel del mar y la necesidad de reubicar a la mayoría de la población y encontrar nuevas fuentes de alimento, se podrán atribuir al cambio climático, pero para entonces la razón ya será inútil.
Análogamente, no puedo demostrar que ningún capullo en concreto se haya vuelto más capullo debido a INCORDIO, como tampoco puedo demostrar que ninguna degradación en particular de la sociedad no habría sucedido en cualquier caso. No hay manera de saber a ciencia cierta si INCORDIO ha modificado nuestro comportamiento, aunque más adelante ofreceré varias maneras de encontrar indicios. Si usamos plataformas INCORDIO, probablemente sí habrá cambiado al menos un poco. Aunque no podemos conocer qué detalles de nuestro mundo serían diferentes sin INCORDIO, sí podemos comprender algo sobre la situación general. Como sucede con el cambio climático, INCORDIO nos conducirá al infierno si no hacemos algo para remediarlo.
INCORDIO es una máquina que se compone de seis partes. He aquí un truco mnemotécnico para los seis componentes de la máquina INCORDIO, por si alguna vez los necesitásemos para un examen:
A es de Adquisición de la Atención que lleva al dominio de los idiotas. B es de Buitrear en la vida de todo el mundo. C es de Colmar de contenido la mente de las personas. D es de Dirigir el comportamiento de las personas de la manera más sibilina posible. E es de Embolsarse dinero por dejar que los peores idiotas Engañen disimuladamente a todo el mundo. F es de Falsas muchedumbres y una sociedad Falsaria.
A es de Adquisición de la Atención que lleva al dominio de los idiotas.
Mucha gente se comporta de una forma extraña y desagradable en internet. Este curioso fenómeno sorprendió a todo el mundo en los inicios de las redes y ha tenido un efecto profundo sobre nuestro mundo. Aunque no todas las experiencias en internet son desagradables, una agresividad familiar tiñe y liga la experiencia en líneas generales. La agresividad resultó ser también como el petróleo crudo para las compañías de redes sociales y otros imperios de modificación de la conducta que enseguida llegaron a dominar internet, porque se alimenta de las reacciones negativas.
¿Por qué se da esta agresividad? Lo exploraremos en la siguiente razón, pero en pocas palabras: las personas normales se reúnen en un entorno en el cual la principal —y a menudo la única— recompensa disponible es la atención. No es razonable que esperen ganar dinero, por ejemplo. Los usuarios corrientes solo pueden acumular un poder y una riqueza falsos, no poder y riqueza de verdad. Así que prevalecen los juegos mentales. Sin otra cosa a la que aspirar más que a la atención de los demás, las personas normales suelen transformarse en idiotas, porque los más idiotas reciben la máxima atención.
B es de Buitrear en la vida de todo el mundo.
El componente B ya se introdujo en la primera razón. Todo el mundo está sometido a un nivel de vigilancia propio de una novela distópica. Teóricamente, el espionaje ubicuo podría existir sin las plataformas generadoras de idiotas del componente A, pero se da la circunstancia de que, en la mayoría de las ocasiones, el mundo que hemos creado conecta ambos componentes. .El espionaje se consigue principalmente a través de los dispositivos personales conectados —en particular, por ahora, mediante los teléfonos inteligentes— que la gente lleva casi pegados al cuerpo. Se recopilan datos sobre las comunicaciones, intereses, movimientos, contactos con los demás, reacciones emocionales a las circunstancias, expresiones faciales, compras y signos vitales de cada persona: una variedad de datos ilimitada y continuamente creciente.
Por ejemplo, si estás leyendo este libro en un dispositivo electrónico, es muy probable que un algoritmo registre datos como la velocidad a la que lees o los momentos en que dejas de hacerlo para atender a cualquier otra cosa. Los algoritmos establecen correlaciones entre los diversos datos de una misma persona y entre los de personas distintas. Esas correlaciones constituyen, de hecho, teorías sobre la naturaleza de cada individuo, que se miden y clasifican continuamente en cuanto a su predictibilidad. Como cualquier teoría bien gestionada, mejoran con el tiempo mediante un proceso de retroalimentación adaptativa.
C es de Colmar de contenido la mente de las personas.
Los algoritmos deciden lo que cada persona experimenta a través de sus dispositivos. Este componente puede denominarse «hilo de contenido», «motor de recomendación» o «personalización». El componente C implica que cada persona ve cosas diferentes. La motivación inmediata es suministrar estímulos para la modificación de la conducta individualizada. INCORDIO hace que sea más difícil entender por qué los demás piensan y actúan como lo hacen. Los efectos de este componente se examinarán en mayor profundidad en las razones que tratan sobre cómo estamos perdiendo la capacidad de acceder a la verdad y de experimentar empatía.
D es de Dirigir el comportamiento de las personas de la manera más sibilina posible.
Los elementos anteriores se conectan entre sí para crear una máquina de medición y retroalimentación que modifica deliberadamente las conductas mediante un proceso que se describió en la primera razón. Resumiendo: los hilos de contenido personalizados se optimizan para «captar» a cada usuario, a menudo utilizando potentes estímulos emocionales que conducen a la adicción. Las personas no son conscientes de cómo las están manipulando. En principio, el propósito de la manipulación es hacer que la gente esté cada vez más enganchada y pase cada vez más tiempo en el sistema. Pero también se ponen a prueba otros objetivos.
Por ejemplo, si estamos leyendo en un dispositivo, nuestros comportamientos de lectura se correlacionarán con los de multitud de personas. Si alguien que tiene un patrón de lectura similar al nuestro compró algo después de que se le ofreciese de una determinada manera, aumentará la probabilidad de que a nosotros se nos ofrezca de esa misma forma. Antes de unas elecciones, se nos pueden mostrar extrañas publicaciones que se sabe que hacen aflorar el cínico interior en aquellas personas parecidas a nosotros, y reducir así la probabilidad de que votemos.
Las plataformas INCORDIO han anunciado con orgullo cómo han experimentado con la posibilidad de hacer que las personas se sientan tristes, alterar la participación electoral y reforzar la fidelidad a tal o cual marca. De hecho, estos son algunos de los ejemplos más conocidos de estudios que salieron a la luz durante los primeros tiempos de INCORDIO. La estrategia con la que las redes digitales se plantean la modificación de la conducta asimila todos estos ejemplos, estas distintas facetas de la vida, en una sola. Desde el punto de vista del algoritmo, las emociones, la felicidad y la fidelidad a una marca son señales distintas, aunque similares, que optimizar. Si resulta que ciertos tipos de publicaciones nos entristecen y un algoritmo está intentando que estemos tristes, aparecerán más publicaciones de esa clase. Nadie tendrá por qué saber nunca la razón de que esas publicaciones en particular tuvieran ese efecto sobre nosotros, y probablemente nosotros ni siquiera nos demos cuenta de que tal o cual publicación nos entristeció ligeramente o de que estábamos siendo manipulados. El efecto es sutil, pero acumulativo. Aunque algunos científicos intentan profundizar en el asunto para tratar de arrojar luz sobre él, por lo general, el proceso se da en la oscuridad, con el piloto automático puesto: es un nuevo tipo de siniestro universo en la sombra.
Pocas veces se cuestionan los algoritmos, y menos aún por científicos externos o independientes, en parte porque es difícil entender cómo funcionan. Mejoran automáticamente mediante procesos de retroalimentación. Uno de los secretos del Silicon Valley actual es que parece que a algunas personas se les da mejor poner en funcionamiento programas de aprendizaje automático y nadie entiende por qué. El método más mecanicista de manipulación del comportamiento humano resulta ser un arte sorprendentemente intuitivo. Aquellos que saben cómo manipular los algoritmos más novedosos alcanzan el estrellato y perciben salarios espectaculares.
E es de Embolsarse dinero por dejar que los peores idiotas Engañen disimuladamente a todo el mundo.
La máquina de modificación de conducta de masas se alquila por dinero. Las manipulaciones de INCORDIO no son perfectas, pero sí lo suficientemente potentes como para que resulte suicida para las marcas, los políticos y otras entidades competitivas abstenerse de contratar a las máquinas INCORDIO. La consecuencia es un chantaje cognitivo universal, que resulta en un gasto global creciente en INCORDIO. Si alguien no paga a una plataforma INCORDIO con dinero, entonces, para evitar acabar aplastado por ella, debe convertirse en combustible de datos para la plataforma. Cuando Facebook destacó las «noticias» en los hilos de contenido de sus usuarios, todo el mundo periodístico tuvo que reformularse según los estándares de INCORDIO. Para evitar quedar descolgados, los periodistas tuvieron que crear historias que promoviesen el ciberanzuelo y pudiesen desligarse de su contexto. Se vieron obligados a convertirse en INCORDIO para no ser aniquilados por INCORDIO.
INCORDIO no solo ha oscurecido la ética de Silicon Valley, sino que ha hecho que el resto de la economía enloquezca. Antes de pasar al componente F, tengo que explicar el papel especial que el componente E desempeña a la hora proporcionar los incentivos económicos que mantienen en funcionamiento toda la maquinaria de INCORDIO. Si uno frecuenta Silicon Valley, oirá mucho hablar de que el dinero se está quedando obsoleto, de que estamos creando formas de poder e influencia que lo trascienden. ¡Aunque nadie ha dejado de intentar ganar dinero!
Si resulta que la manera de conseguir más dinero pasa por captar la atención de todos nosotros haciendo que el mundo parezca aterrador, eso es lo que acabará sucediendo, aunque implique hacer de altavoz para actores malintencionados. Si queremos que las cosas sean de otra manera, hay que cambiar la forma en la que se gana dinero.
Tras las elecciones estadounidenses de 2016, Facebook, Twitter, Google Search y YouTube anunciaron cambios en sus políticas para combatir anuncios oscuros, noticias falsas malintencionadas, discursos de odio y demás. Las autoridades regulatorias también han introducido requisitos como la obligación de identificar a los anunciantes políticos. Justo cuando estaba terminando de escribir este libro, Facebook declaró que reduciría la presencia de noticias en los hilos de contenido de sus usuarios, algo que celebró la mayor parte del mundo periodístico, que así tendría mayor libertad para decidir cómo conectar con su público. Estos cambios podrían tener como efecto una reducción de INCORDIO al menos durante un tiempo. De hecho, en ocasiones anteriores, pequeñas modificaciones en las políticas han mitigado desagradables fenómenos sociales en internet. En 2015 Reddit prohibió algunos subreddits indecorosos, y eso redujo el flujo de publicaciones de odio.
Pero esos cambios no afectan a los incentivos básicos, por lo que es probable que los actores malintencionados ideen contramedidas cada vez más tramposas y sofisticadas. Esto también ha sucedido ya. Como es bien sabido, existe una industria bastante importante dedicada a lo que se conoce como «posicionamiento en buscadores», esto es, a ayudar a sus clientes a manipular los constantes cambios en las políticas de los buscadores.
Si los incentivos no cambian, ¿pueden unas reformas incrementales resolver los .problemas de adicción, manipulación e incitación a la enajenación en todo el mundo que INCORDIO ha forjado? Si unas reformas limitadas consiguiesen resultados prácticos, yo estaría cien por cien a favor de ellas, y espero que los cambios en los hilos de contenido de Facebook hagan del mundo un lugar un poquito mejor; aun así, me temo que estas pequeñas modificaciones no tendrán consecuencias suficientemente palpables.
Normalmente, los incentivos básicos prevalecen sobre las políticas. La manera en la que la gente sortea las reglas para perseguir los incentivos suele hacer del mundo un lugar más oscuro y peligroso. Las prohibiciones no suelen funcionar. Cuando Estados Unidos intentó prohibir el alcohol a comienzos del siglo XX, el resultado fue un aumento del crimen organizado. Cuando, más avanzado el siglo, se prohibió la marihuana, ocurrió lo mismo. Las prohibiciones son motores de corrupción que hacen que la sociedad se divida en sectores oficiales y delictivos. Las leyes son más efectivas cuando están razonablemente alineadas con los incentivos. Introducir ajustes en INCORDIO sin cambiar los incentivos subyacentes probablemente resultaría en un fracaso similar. De hecho, ya han fracasado en el pasado: pioneros del INCORDIO como Google y Facebook han perseguido con ahínco a los actores malintencionados, falsarios y manipuladores no autorizados, y el resultado ha sido la irrupción de cibermafias clandestinas y técnicamente avanzadas que, en algunos casos, trabajan para estados hostiles.
El efecto colateral más desalentador de los ajustes en las políticas de INCORDIO es que cada ciclo en la carrera armamentística entre plataformas y actores maliciosos provoca que aumente el número de personas bienintencionadas que exigen que las compañías INCORDIO se hagan cargo de cada vez más aspectos de nuestras vidas. «¡Por favor, dígannos qué es lo que podemos decir, oh, ricos y jóvenes programadores de Silicon Valley! ¡Adiestradnos!». Los actores malintencionados que buscan desacreditar la democracia usando la máquina de INCORDIO salen ganando incluso cuando pierden terreno frente a los activistas bienintencionados.
F es de Falsas muchedumbres y una sociedad Falsaria.
Este componente está presente casi siempre, aunque no solía formar parte del diseño inicial de una máquina INCORDIO. Las personas falsas existen en cantidades grandes aunque desconocidas, y marcan el tono. Bots, IA, reseñas falsas, amigos falsos, seguidores falsos, publicaciones falsas, perfiles falsos automatizados: toda una colección de entes fantasmagóricos. El resultado es un vandalismo social invisible. La presión social, que tanto influye sobre la psicología y el comportamiento humanos, se fabrica de manera artificial.
El problema es limitado, por lo que podemos contenerlo.
Cuanto mayor sea la precisión con la que podamos trazar una línea alrededor de un problema, más resoluble será este. Aquí he planteado la hipótesis de que nuestro problema no son internet, los teléfonos o altavoces inteligentes, o el arte de los algoritmos, sino que lo que ha provocado que últimamente el mundo sea tan oscuro y desquiciado es la máquina INCORDIO, cuyo núcleo no es exactamente una tecnología, sino un tipo de plan de negocio que genera incentivos perversos y corrompe a las personas Ni siquiera es un plan de negocio que se use mucho. Fuera de China, los únicos gigantes tecnológicos que dependen por completo de INCORDIO son Facebook y Google. Las otras tres de las cinco grandes compañías tecnológicas recurren a INCORDIO ocasionalmente, porque actualmente es algo que está normalizado, pero no dependen de él. Varias compañías INCORDIO más pequeñas, como Twitter, también son influyentes, aunque a menudo tienen problemas. Una de las razones por las que soy optimista es que INCORDIO no es una gran estrategia empresarial a largo lazo. Explicaré por qué digo esto en la razón relacionada con la economía. ¿Qué empresas son INCORDIO? Esto es algo que puede discutirse. Una buena manera de distinguirlas es que las compañías INCORDIO de primer nivel son aquellas que se centran en las actuaciones o el gasto de actores malintencionados, como las unidades del aparato estatal ruso dedicadas a la guerra de la información. Este criterio pone de manifiesto que existen servicios seudo-INCORDIO que incorporan únicamente subconjuntos de todos los componentes, como Reddit y 4chan, pero no por ello dejan de tener un papel importante en el ecosistema de INCORDIO.
Otros servicios de segundo nivel, que podrían llegar a ser INCORDIO pero aún no han alcanzado la escala suficiente, son gestionados por los gigantes tecnológicos —Microsoft, Amazon y Apple—, así como por compañías más pequeñas como Snap. Pero esta segunda razón no gira en torno a las compañías, sino a nosotros mismos. Puesto que podemos trazar una línea alrededor de la máquina INCORDIO, podemos trazar otra que rodee aquello que debemos evitar. El problema de INCORDIO no es que incluya tal o cual tecnología en particular, sino que es un alarde de poder de otras personas. Por ejemplo, el conductismo metódico, que se describió en la primera razón, no supone un problema en sí mismo. Podríamos decidir someternos a tratamiento con un terapeuta cognitivo-conductual y obtener beneficios de ello. Con suerte, ese terapeuta habrá jurado cumplir con unos estándares profesionales y se hará merecedor de nuestra confianza. Pero si está bajo el control de una corporación gigante y remota que le paga para conseguir que tomemos determinadas decisiones que no tienen por qué redundar en nuestro propio interés, eso sería un INCORDIO.
Del mismo modo, el hipnotismo no es un INCORDIO por sí mismo. Pero si tu hipnotista es reemplazado por alguien a quien no conoces y este a su vez trabaja para alguien a quien tampoco conoces, y no tienes forma de saber para qué te están hipnotizando, entonces eso sería un INCORDIO. El problema no es una tecnología en concreto, sino el uso de esta para manipular a las personas, para concentrar el poder de una manera tan desquiciada y asquerosa que se convierta en una amenaza para la supervivencia de la civilización. Si queremos contribuir a que el mundo sea un lugar sano, no tenemos por qué renunciar a nuestro teléfono inteligente, ni dejar de usar servicios de computación en la nube o de visitar sitios web; no debemos temer a las matemáticas, las ciencias sociales o la psicología.
Tomado de:
LANIER, Jaron (2018): Diez razones para borrar tus redes sociales de inmediato. Ed. Debate, pp. 22-31.
