Diseño y algoritmo: cómo los gigantes tecnológicos nos mantienen enganchados

Guillaume Chaslot fue ingeniero de software en Youtube y trabajaba en “mantener a los usuarios en la espiral de contenidos que habían visto previamente y evitar que salieran de ella o descubrieran otros puntos de vista” tal y como asegura el francés. Chaslot es el invitado a un nuevo episodio de los podcast “Your individed attention” junto a Tristan Harris y Aza Raskin, la serie de contenidos del Centre for Human Tecnology que estamos recogiendo en nuestro blog, y comentan en esta ocasión La obsesión por el diseño que tienen este tipo de corporaciones para conseguir la atención permanente y cíclica de sus usuarios.

Este especialista en inteligencia artificial trabajó para Google y fue uno de los diseñadores del sistema de recomendación de YouTube. En enero de 2018 fundó la plataforma algotransparency.org para promover la transparencia e impulsar comportamientos más éticos de los algoritmos de plataformas digitales, especialmente de YouTube. Chaslot enseña ahora a los usuarios cómo pueden utilizar esta plataforma de manera más sana, más vinculada a tus propios intereses y más respetuosa con su privacidad. 

Los tres profesionales de las nuevas tecnologías comentan en el podcast que Chaslot detectó el ‘extremismo del algoritmo’ y trató de revertirlo, pero sus jefes solo atendían a tiempos de visualización. El 70% de estos segundos proceden de los vídeos recomendados que ponen al usuario, como al caballo, unas anteojeras para que solo mire de frente. Y por si esto no fuera suficiente, el algoritmo también actúa de embudo para tomar el 99.9999% de las decisiones por ti. Por ejemplo, te propondrá diez vídeos de entre los quién-sabe-cuántos billones que alberga la plataforma y estos estarán relacionados con tus búsquedas anteriores para asegurarse de que seguirás consumiendo contenido que te gusta para mantenerte más tiempo conectado a YouTube. 

Sus objetivos meramente cuantitativos alimentan y propagan teorías conspiratorias o cualquier movimiento antimoral que busque las redes sociales como vía de expresión, donde consiguen sentirse identificados y “escuchados” por la comunidad. Esa huída de medios de comunicación convencionales provoca que las plataformas tecnológicas acojan todo tipo de movimientos antisociales, desde antivacunas hasta pederastas, y que además favorezcan sus recomendaciones. Este sistema avaricioso alimenta el clickbait y promociona fake news, haciendo que el usuario confíe más en ellas de lo que debería en circunstancias normales. Esto sucede porque “la inteligencia artificial no tiene consciencia de aquello que está bien o mal, solo entiende sobre si algo funciona o no”, como afirma Raskin en el podcast.

La idea de Guillaime Chaslot es que “en lugar de optimizar en función del tiempo de las visualizaciones se haga por cosas como un buen feedback, porque el vídeo te haya resultado útil. Eso debería contar mucho y no es así porque a YouTube no le importa si te ha servido, solo si te ha mantenido conectado más tiempo”. Una de las mayores problemáticas de los gigantes tecnológicos es que siempre han tratado de mantener a los individuos ajenos a sus intenciones persuasivas. Proyectos como Algotransparency luchan por un cambio de diseño y comportamiento más ético hacia el usuario que promueva decisiones informadas y no impuestas.

Lo cierto es que gran parte de los usuarios ven este conflicto como un problema global que no tiene tanta importancia. Si a nivel individual no te consideras adicto ni manipulado por las redes, ¿cómo va a ser entonces un problema realmente preocupante o global? Pero, si no te consideras adicto por ejemplo a Youtube, ¿es porque consideras que haces un consumo responsable? ¿Te metes a la aplicación según te aparece la notificación de que un perfil al que sigues ha publicado un vídeo nuevo? ¿Cuando acabas de ver un vídeo te quedas a ver el siguiente que te recomienda? ¿Y el siguiente del siguiente?

Chaslot afirma que “tenemos un superordenador jugando con nuestro cerebro que encontrará nuestra debilidad (…) para enseñárnosla una y otra vez y hará que perdamos una cantidad ridícula de tiempo”. La reflexión ahora es, ¿somos conscientes de a cuántas horas diarias asciende el tiempo que gastamos en redes? ¿Serías capaz de viajar en el tiempo al momento en el que no existían redes sociales ni plataformas de entretenimiento online? ¿Cuánto crees que aguantarías así?

CAPÍTULO ANTERIOR: ‘El dilema de las redes’ y los intentos de rehabilitación tecnológica: CHT