¿Cómo atrapan los algoritmos a los niños? La clave detrás del fallo contra Meta y Google

En un caso judicial calificado como histórico, a fines de marzo en Estados Unidos se determinó que las plataformas Meta y Google están diseñadas para ser adictivas para los niños y adolescentes, y que las compañías no advirtieron a los usuarios de los peligros. Según informó el Financial Times, un jurado de Los Ángeles, California, otorgó US$ 3 millones en concepto de daños compensatorios a la demandante de 20 años conocida como Kaley, quien alegó que la adicción a las redes sociales durante su infancia perjudicó su salud mental, provocándole, entre otras cosas, ansiedad, depresión y alteraciones en la percepción de su cuerpo. Miles de particulares, distritos escolares y fiscales generales estatales han presentado demandas similares contra plataformas de redes sociales en busca de indemnizaciones y cambios en el diseño.

No obstante, este caso marca un precedente para nuevas demandas y el veredicto contra las tecnológicas se ha comparado con el establecimiento de la regulación a las tabacaleras en los ´90. El jurado otorgó una indemnización total de US$ 6 millones. Meta fue declarada responsable del 70% de los daños, lo que equivale a US$ 4,2 millones, mientras que Google fue responsable del 30%.

Ambas empresas rechazaron el veredicto y anunciaron apelaciones, mientras que Snap y TikTok llegaron a un acuerdo extrajudicial por cantidades no reveladas antes del juicio. Detrás del like Pero, ¿cómo operan los algoritmos detrás de estas plataformas? DF consultó a la directora de Ingeniería en Computación e Informática de la Universidad Andrés Bello, Inesmar Briceño, acerca de cómo estos sistemas terminan moldeando el comportamiento de los usuarios y, en particular, el de niños y adolescentes.

Explicó que los algoritmos de estas plataformas no funcionan bajo reglas rígidas y que se ajustan de manera dinámica a la conducta de cada persona. "Operan de acuerdo con lo que hace el usuario, a lo que le gusta, a dónde se queda más tiempo", señaló. En la práctica, agregó, el sistema mide cuánto permanece una persona frente a determinado contenido, si lo comenta, si interactúa con él y si profundiza en una temática específica.

"Esa interacción del usuario es lo que hace que te direccione a cierta información. Eso es lo que hace que el algoritmo te defina dentro de ciertos rubros o te categorice como usuario de alguna temática en específico", dijo. El resultado, afirmó la académica, es que el usuario queda "encasillado" dentro de un perfil que determina lo que verá en su feed.

"Si eres un usuario al que le gusta todo lo que tiene que ver con emprendimientos gastronómicos o con el desarrollo de los chefs, eso es lo que te va a mostrar", comentó. Pero también detalló que el fenómeno se extiende más allá del contenido consumido dentro de la red social. Las búsquedas en Google, las conversaciones digitales y los productos que el usuario menciona también alimentan el perfil que construyen las plataformas.

"Estamos conversando sobre adquirir algún producto, una marca, unas zapatillas, un bolso, una mochila. Después te vas a las redes sociales y te aparece eso, porque lo estás pensando y lo buscas", dijo como ejemplo. A este mecanismo, explicó, los ingenieros informáticos lo denominan "palabras de enganche" o palabras reservadas: términos que gatillan el emparejamiento entre el contenido disponible y el perfil del usuario.