Cultura

SEMANARIO IDEAS DE IZQUIERDA

El dilema de las redes sociales de Netflix: inteligencia artificial, datos y política

Tiempo estimado 23:29 min


Ali Karku

@KarkuAli

Domingo 11 de octubre | Edición del día

El documental recientemente estrenado por Netflix, El dilema de las redes sociales, comienza con una frase del poeta trágico griego Sófocles: “Nada extraordinario llega a la vida de los mortales separado de la desgracia”. Acto seguido, se presenta a las personas que serán las y los protagonistas: extrabajadoras y extrabajadores “arrepentidos” que renunciaron, por razones éticas o morales, a sus altos cargos en Google, Facebook, Instagram, Apple, Twitter y otras empresas digitales, tanto en puestos técnicos, como de diseño o gerenciales. Es entonces cuando se les hace la pregunta que dejará a las y los entrevistados dubitativos, y que marcará la dirección de la película: “¿cuál es el problema?”.

Dirigido por Jeff Orlowski, el documental intentará dar su respuesta a este cuestionamiento. Las plataformas digitales, como parte de las promesas que trajo la globalización, empezaron como algo que iba a conectar virtualmente a la sociedad en su totalidad, trayendo, en teoría, solo bienestar y avances, pero al parecer no estaban tan libres de “desgracias” como se pensaba, y ahora nos llevarían directo al abismo.

En la primera mitad de esta película, las y los entrevistados, expertos en el funcionamiento de estas plataformas, nos dan su visión de las expectativas que tenían sobre estas tecnologías antes de que se transformaran en lo que hoy son, y nos explican muchas de sus complejas características, que en varios casos fueron responsables de inventar o implementar.

En un artículo previo explicamos cómo funcionan las plataformas digitales y la relevancia que han tomado esta última década en el plano económico mundial [4]. Estas utilizan los datos personales de sus usuarios (como por ejemplo productos comprados, búsquedas, ubicación, contactos, lugares frecuentados, estilos de páginas visitadas, gustos en común con otros usuarios, etc.) y mediante algoritmos de Inteligencia Artificial crean diferentes “etiquetas” con las que clasifican a los usuarios según sus intereses de consumo (por dar solo un ejemplo, pueden hacer click aquí y ver las etiquetas que les ha asignado Google), las cuales se van volviendo más precisas a medida que se obtienen más datos, es decir, a medida que la interacción del usuario dentro de la plataforma aumenta. De esta manera, las plataformas digitales venden a las empresas “tradicionales” anuncios personalizados para cada usuario según sus etiquetas, es decir, según su perfil de consumo o ideológico.

Esta nueva forma de hacer publicidad, conocida como “publicidad dirigida”, evita que los usuarios sean bombardeados con anuncios de productos que nunca consumirían, como sucede, por ejemplo, con las publicidades televisivas. Con la publicidad dirigida, el usuario recibe anuncios solo de productos, eventos, políticos, etc. que muy probablemente encajan con su perfil, aumentando así la posibilidad de compra o de ser influenciado de alguna manera.

De esta forma, las plataformas digitales tendrán más ganancias mientras más efectivas sean sus publicidades. Esta efectividad viene determinada por dos aspectos: la calidad de los algoritmos de Inteligencia Artificial que construye los perfiles de la gente, y la cantidad y relevancia de los datos personales recolectados. Este último punto adquiere bastante relevancia a lo largo de la película, ya que para esto las plataformas desarrollan diferentes estrategias con el fin de que el usuario pase el mayor tiempo posible interactuando dentro de la plataforma. El documental aborda este dilema con bastante detalle, mostrando las diferentes técnicas desarrolladas en conjunto con psicólogos, científicos y diseñadores contratados por las empresas para hacer sus plataformas lo más adictivas posibles.

El “problema” expresado en el documental pareciera tener dos ángulos. El primero es el que ya comentamos acerca de cómo las plataformas innovan constantemente en herramientas que pretenden hacernos “adictos” a su uso, obteniendo así más datos nuestros y logrando mayor efectividad en la publicidad dirigida, mientras compiten unas con otras por nuestra atención y por tener un perfil de cada persona lo más fidedigno posible. Es decir: todas nuestros gustos, deseos y hasta miedos están siendo monitoreados para poder vendernos productos más eficazmente. Y el segundo es la supuesta “manipulación” que las redes sociales ejercen sobre las masas.

¿Nuevas formas de manipulación?

Sobre este segundo punto es necesario resaltar varias cosas. En primer lugar, el único poder que tienen los algoritmos, como ya dijimos, es el de caracterizar a los usuarios para enviarles publicaciones o publicidades particulares según determinados perfiles. Si esta forma es, como está comprobado, más efectiva que las formas de publicidad y propaganda de los “viejos” medios de comunicación masiva, esto se debe a que justamente solo le muestran a la gente noticias, productos o servicios que entran dentro del rango de “lo esperable” y “lo posible” que un usuario consuma. Por ejemplo, de poco sirve ofrecerle mamaderas a un adolescente que no tiene hijos ni hermanos menores, o que un político intente convencer a jóvenes ambientalistas de que el efecto invernadero es un engaño. Pero eso cambia si el primer anuncio va dirigido solo a “mujeres a punto de ser mamás primerizas en Latinoamérica” y el segundo, solo a “adultos descreyentes de la ciencia y fanáticos de teorías conspirativas”.

Pero de esta dinámica “dirigida” se deduce que por el mismo mecanismo por el que estos anuncios son más efectivos, también tienen coartada en gran medida la posibilidad de influir en el público al grado de llevar a grandes sectores de masas a cambios “radicales”, justamente porque los anuncios tienen que estar en el rango de “lo esperable” y “lo posible” del público al que van dirigidos. Este es uno de los aspectos que aparece, como mínimo, exagerado en el documental, al punto que por momentos parece sugerir que las plataformas digitales inventaron la persuasión en masa. Más allá de eso, la pregunta es si dicha manipulación pegó un salto cualitativo a través de estas nuevas tecnologías.

En la película se entrelazan, además de los testimonios que mencionamos, dos dramatizaciones. Una es una acertada metáfora de cómo opera el algoritmo de las redes intentando seducirnos constantemente para que le prestemos atención y poder mostrarnos publicidades. La otra es la historia de una familia tipo norteamericana, en la que un chico clase media pasa de ser un “ciudadano modelo” (en el sentido hollywoodense del término) a terminar dejando su equipo de fútbol, los estudios de lado y volverse un ente absolutamente dependiente de la pantalla. La razón de este fatal cambio tiene que ver, por supuesto, con cómo las redes se aprovecharon de Ben (el muchacho en cuestión) y su psicología. La historia termina (spoiler alert) en Ben y su hermana siendo arrestados en una manifestación política de una ideología con la que al principio del relato no tenían nada que ver. ¿Es este fenómeno, o lo que se está metaforizando, posible en la realidad?

Hay aquí dos operaciones que se entrelazan en todo el documental que intentaremos analizar. Una es, como decíamos, una marcada exageración o “estiramiento de la verdad” del que ya hablamos antes: si estas publicidades son tan dirigidas, ¿cómo es posible que lleven a alguien a creer cosas que le son completamente ajenas?

Pero también hay que señalar que, en cuanto a persuasión masiva, las redes no inventaron demasiado. La publicidad tradicional a través de medios como los diarios impresos, la radio, la televisión y los afiches y carteles en la vía pública han demostrado por décadas hasta qué punto se puede influir en la población a niveles de masas. Las publicidades de Coca Cola intentando convencernos de que para ser felices tiene que haber siempre una botella de esta bebida sobre la mesa, o las de las tabacaleras que en buena medida impusieron el hábito de fumar tabaco mediante la constante repetición a millones de personas de que para tener carácter, ser respetados o ser independientes, era necesario llevar un cigarrillo encendido y respirar humo, son ejemplo de ello. A su vez, en el campo de la política, para las elecciones estadounidenses de 1993, Bill Clinton contrató a publicistas y estudiosos del mercado para conocer en profundidad los deseos, estilos de vida e intereses de consumo de determinados sectores de la población norteamericana para influenciarlos, creando toda una nueva y exitosa técnica de campaña que luego sería imitada por varios candidatos en todo el mundo, y que en gran parte explica el triunfo de Clinton [5].

Entonces, con las redes, ¿qué es lo nuevo y qué se mantiene respecto a las “armas de persuasión masiva” que ya existían? En primera instancia hemos de recordar que los medios de comunicación, así como las redes sociales, no fueron ni son capaces de crear fenómenos políticos o ideológicos de la nada y mucho menos de inculcarle a las personas ideas como si estas estuvieran “vacías”, sino que son solo eso: un medio. Lo que en realidad sucede es simplemente que las redes son mejores para encontrar el público al que un producto o una ideología necesitan llegar para ser consumidos o surtir algún tipo de efecto. También, a personas que circunstancialmente atraviesan momentos de indefinición y que son más proclives a cambiar de parecer respecto a algún asunto particular, por ejemplo, la compra de un producto de una marca o de otra, o la elección entre dos políticos dentro de un determinado espectro ideológico.

Polarización y radicalidad: más allá de las redes

Lo que en el documental se sugiere es una explicación reduccionista que da a entender que la polarización, las crisis políticas y el auge de la extrema derecha en el mundo, son producto exclusivo de esta nueva manipulación, o que pueden explicarse mayormente por la cuestión tecnológica, ignorando por completo las crisis económicas y políticas generadas por el capitalismo.

Es cierto que la extrema derecha utiliza las redes sociales para difundir sus noticias falsas y teorías conspirativas, adjudicando toda la culpa de las crisis económicas y sociales a la inmigración, los gobiernos progresistas y los colectivos feministas y LGTBI, entre otros, intentando canalizar el descontento popular detrás de los intereses de los sectores de la burguesía que se vieron perjudicados por la globalización y la crisis económica del 2008. Pero acusar hoy a las redes sociales del auge de la extrema derecha es como haber culpado a la radio y los diarios del auge del fascismo en los ’30, sin tener en cuenta los profundos fenómenos sociales (revoluciones y contrarrevoluciones) que lo explicaban.

Con la misma lógica, sobre la mitad del documental un psicólogo social entrevistado comenta que la depresión y la ansiedad en las y los adolescentes de EE. UU. comenzaron a aumentar notoriamente desde 2009 y aún en mayor cantidad entre los años 2011 y 2013, así como el número de suicidios y de mujeres adolescentes que fueron hospitalizadas cada año por autolesionarse. En el documental, esto se le adjudica a la presión social que las redes sociales ejercen en las y los adolescentes, obligándolos a estar demasiado pendientes de su imagen, fomentando las inseguridades y el bullying, teniendo en cuenta que 2009, el año del “despegue” de las cifras, coincide con el año en el que las plataformas sociales estuvieron por primera vez disponibles en dispositivos móviles. “[...] La generación Z, los niños y niñas nacidos después de 1996, son la primera generación en la historia que tuvo redes sociales en la secundaria. ¿Cómo pasan su tiempo? Vuelven de la escuela y usan sus dispositivos. Toda una generación está más ansiosa, más frágil, más deprimida [...]”, dice en el documental Jonathan Haidt, Doctor en Piscología Social.

Desligado de cualquier tipo de contexto histórico, económico político y social, es casi inevitable asumir, luego de esa declaración, que la tecnología (en este caso encarnada en las redes sociales) nos llevan rumbo al abismo, y que el único manotazo de ahogado que podemos dar para frenar semejante flagelo es prohibir las redes a los adolescentes, limitar severamente su uso o, siendo más extremos, destruirlas por completo. De aquí que resulte necesario notar que es en este periodo (desde 2009 en adelante) cuando las consecuencias de la crisis económica que estalló y pasó a la historia con el episodio del banco Lehman Brothers, comenzó a golpear fuerte en EE. UU., haciendo que miles de familias perdieran sus ahorros, empleos y hasta sus casas. Esto, muy probablemente influyó en el aumento de ansiedad y depresión en muchas y muchos adolescentes, a pesar de que el director de la película y el psicólogo entrevistado lo pasen sistemáticamente por alto.

Todos estos ejemplos apuntan en un mismo sentido: las redes sociales no crean fenómenos sociales nuevos ni son capaces de sembrar la polarización y la radicalidad de la nada. Los flagelos psicológicos y sociales planteados en el documental, existen, y probablemente el estado de gravedad que adquieren hoy por hoy, no pueda explicarse sin las redes sociales y las plataformas digitales. Pero tampoco pueden explicarse solo a través de ellas. Estas más bien funcionan como una caja amplificadora que se monta sobre esos fenómenos, cuya verdadera explicación está, como dijimos, en el complejo entramado económico político y social del sistema en el que vivimos, en el cual gobierna la ley del valor bajo el lema de “la ganancia a costa de todo” y que nos empuja permanentemente a competir unos con otros más que a colaborar.

En la actualidad, las nuevas generaciones que comprenden que el ritmo de la crisis ambiental mundial causado por el capitalismo se acelera, que ven que no van a poder tener un trabajo digno ni posibilidades de estudiar, en definitiva, que ven que este sistema no tiene nada para ofrecerles y que les espera vivir en peores condiciones que sus padres, tienen otros motivos para “deprimirse”. Pero de esto, el documental no observa nada, aún cuando este fenómeno, que llegó a la tapa de The Economist como “El ascenso del socialismo millennial” muestra que miles de jóvenes en todo el mundo apuestan a dar pelea por otro sistema organizándose.

Entonces, ¿cuál es el problema?

“Me gusta decir que los algoritmos son ‘opiniones incrustadas en código’, y que los algoritmos no son objetivos. Los algoritmos están optimizados según una definición de éxito” dice en medio del documental Cathy O’Neil, doctora en Matemática y científica de datos, en una de las intervenciones quizás más lúcidas de toda la película. “Así que puedes imaginarte, si una empresa comercial crea un algoritmo según su definición de éxito, esa definición es un interés comercial. Que generalmente es el lucro”, completa. Esto aclara muchas cosas. Por un lado, responde contundentemente los intentos de algunos de hacernos creer que los algoritmos y, en general, los sistemas de Inteligencia Artificial, pueden ser neutrales u objetivos. Pero también cuestiona la opinión de quienes sostienen que como estamos frente a un problema “tecnológico”, el problema debe resolverse por esa misma vía.

Como bien afirma O’Neil, no se puede analizar a las redes o sus algoritmos como neutrales porque estamos en el marco de un sistema en el que dichas redes son a su vez corporaciones enormes dentro del capitalismo mundial. Casi todos los ex técnicos y gerentes que hablan dejaron de trabajar por cuestiones morales o éticas que comenzaron a contradecirse cada vez más con sus valores, siempre partiendo del hecho de que veían que lo que estaban haciendo en sus trabajos les afectaba a ellos, a sus familias y al resto de la población en general. Y cuando quisieron hacer algo al respecto, ensayar un cambio “desde adentro”, se terminaron dando contra la pared, es decir, chocando contra los altos mandos de las empresas que no quieren someterse a ninguna regulación ni piensan en el bienestar de los usuarios, porque tienen motivos de sobra para seguir priorizando y perfeccionando su modelo de negocio. La ganancia a costa de todo.

En este sentido el “dilema social [6]” que plantea Netflix es el de un complejo entramado de plataformas-empresas que se conforma basado en las tecnologías que venimos describiendo y que usa a las personas como meros recursos en pos de sacar ganancias.

Hoy por hoy, las empresas juegan bajo las reglas de juego capitalistas, y por esta razón, harán lo que sea necesario para acrecentar sus ganancias. Las publicidades televisivas eran los medios más efectivos para vender sus productos hasta hace 20 años. Pero en la actualidad, son las plataformas digitales con su capacidad de encontrar nichos específicos a los que dirigirles publicaciones hechas a medida.

En definitiva, ese es el doble modelo que hay que cuestionar: la noción de que no tiene costo social o político alguno que un puñado de corporaciones vivan a costa de observar e intentar predecir nuestro comportamiento, en gran medida sin nuestro consentimiento y en última instancia comerciando con nuestras identidades y privacidad como moneda, y recordando que esto está habilitado en el marco de un sistema que lejos de priorizar el bienestar de la humanidad, funciona en base a la competencia feroz y a los que logren imponer sus productos que triunfarán en la medida que más ganancias puedan obtener, no importa cómo ni a costa de quiénes.

Dime qué solución propones y te diré qué intereses defiendes

El dilema de las redes sociales es un interesante documental para poner de relieve varios aspectos ciertamente macabros del funcionamiento de las plataformas digitales hoy por hoy, y problematizar algunos aspectos de su uso. Pero a nuestro modo de ver, falla en dos aspectos fundamentales. En primer lugar, al formular el problema. Ya que, como hemos ido desarrollando, reduce la mirada sobre cualquiera de las catástrofes planteadas al “dilema de las redes sociales”, ignorando el contexto histórico y proveyendo a estas plataformas de un supuesto poder totalizador que, como simples medios, no tienen.

Y por otro lado, precisamente por fallar en la formulación del problema, también falla estrepitosamente en dar una solución que esté a su altura. Incluso varios de los entrevistados y “arrepentidos” parecen olvidar su propia experiencia cuando por “las buenas”, intentaron convencer a gerentes e inversionistas de hacer plataformas más “humanas” (donde recibieron todos la fría respuesta de la ley del valor): sobre el final se los ve declarando frente a la justicia norteamericana y, ante la pregunta de qué solución proponen (y la mirada estupefacta de jueces y jurados asustadísimos con los hechos que se relatan), responden: “las plataformas deben hacerse responsables”.

Resulta cuanto menos curioso que luego de casi 80 minutos de documental en los que “el problema” se describe de una forma cada vez más catastrófica y con más implicancias, la solución propuesta sea por las vías de una ficticia “autorregulación” de estas enormes empresas, modelo según el cual hay que batallar “desde adentro” para convencer a sus millonarios CEO de que hagan productos respetando ciertos límites, o por la vía meramente legal, que es a la que más lugar se le da en los últimos 10 minutos y ya sobre los créditos.

No es simplemente un descuido que para semejante problema planteado, Netflix proponga como salida la creación de algunas pocas leyes, seguramente acordadas con estas empresas, y en última instancia dejar todo el asunto en las manos de la justicia norteamericana, ya que Netflix es justamente una de las empresas que logró amasar millones a costa de vigilar y estudiar a sus usuarios para lograr un poderoso motor de recomendaciones.

Internet y las plataformas digitales no son el problema. Son un medio más que las empresas utilizan según sus intereses. Estas son una herramienta de total utilidad en nuestros días: nos permiten el acceso a una infinidad de información, a comunicarnos y vernos desde diferentes puntos del mundo, a compartir, a debatir, a organizarnos, a conocer, etc. Pero el precio que nos quieren hacer pagar es el de estar siendo constantemente observados y bombardeados por publicidad, intentando retener nuestra atención la mayor cantidad de tiempo posible.

Mientras el capitalismo siga siendo el sistema de organización productiva en el mundo, todo lo que podría ser utilizado como beneficio social será utilizado para generar ganancias a los empresarios. Es por eso que no podemos dejar nuestra privacidad y en general, nuestro bienestar, en manos de estas empresas ni de la Justicia estadounidense de ningún país. Por el contrario, es necesario el surgimiento de un movimiento que pelee por estos nuevos derechos digitales que aún hoy gran parte de la población desconoce, como la privacidad online, el acceso a la información y el derecho a recuperar los datos que las empresas tienen de nosotros. Pero no debemos ser ingenuos: la lucha por esos derechos será, desde el comienzo hasta el final, una lucha contra los intereses de esas empresas cuyo modelo de negocios nos tiene como principal producto.

Las redes sociales tienen a equipos enteros de decenas y hasta cientos de ingenieros, diseñadores y otros expertos, pensando y experimentando científicamente a ver cómo pueden hacer las redes más eficientes para hacerle ganar más dinero a sus empresas. ¿Qué sería de todo ese conocimiento, de todas esas mentes y de todos esos recursos, datos y experimentos, si el objetivo principal y la fuerza motora no fueran las ganancias de Marck Zuckerberg y algunos más, sino crear una herramienta que funcione no “a costa de”, sino “para” las grandes mayorías?

Las plataformas sociales podrían, además de ser un potente motor de comunicación en tiempo real en todo el globo, utilizarse como forma de controlar la demanda de producción en una economía planificada, donde cada sector de trabajo cuente con las necesidades del resto de la sociedad a la que puedan proveerles sus servicios. De esta forma el trabajo humano podría ir destinado al beneficio de la sociedad y no a generar grandes ganancias para unos pocos. Podrían utilizarse como herramientas de distensión, socialización, organización, aprendizaje, y muchas cosas más, sin que tengamos que ser constantemente observados o bombardeados por publicidades a costa de nuestra privacidad.

Para finalizar, reformularemos la frase de Sófocles con la que comienza el documental (“nada extraordinario llega a la vida de los mortales separado de la desgracia”), para decir: “En el capitalismo, nada extraordinario llega a la vida de la clase trabajadora separado de la desgracia”.



[1Según la administración nacional de telecomunicaciones e información, del Departamento de Comercio de los Estados Unidos, ya para 2017 la “economía digital” representaba el 6,9 % del PBI norteamericano. Además, en Abril de 2019, la Asociación de Tecnología de Consumo (CTA por sus siglas en inglés, reportó que el sector de la industria tecnológica en Estados Unidos representa el 12 % del PBI de ese país.

[2BERNABÉ, Daniel, La trampa de la diversidad: cómo el neoliberalismo fragmentó la identidad de la clase trabajadora, Ediciones Akal, 2018.

[3Esta es la traducción literal del título original del documental en inglés, The Social Dilemma.

[4Según la administración nacional de telecomunicaciones e información, del Departamento de Comercio de los Estados Unidos, ya para 2017 la “economía digital” representaba el 6,9 % del PBI norteamericano. Además, en Abril de 2019, la Asociación de Tecnología de Consumo (CTA por sus siglas en inglés, reportó que el sector de la industria tecnológica en Estados Unidos representa el 12 % del PBI de ese país.

[5BERNABÉ, Daniel, La trampa de la diversidad: cómo el neoliberalismo fragmentó la identidad de la clase trabajadora, Ediciones Akal, 2018.

[6Esta es la traducción literal del título original del documental en inglés, The Social Dilemma.





Temas relacionados

Big Data   /    Redes sociales   /    Facebook   /    Twitter   /    Cine   /    Ciencia y Tecnología   /    Cultura

Comentarios

DEJAR COMENTARIO