Es bastante probable que a estas alturas ya conozcas lo básico de la histórica sentencia que en el día de ayer condenó a Google y a Meta por los los efectos adictivos de sus plataformas en menores. Un jurado de Los Ángeles determinó que Instagram y YouTube fueron diseñadas deliberadamente para enganchar a los jóvenes, ignorando los riesgos para su salud mental.
El fallo obliga a las tecnológicas a pagar 6 millones de dólares a una joven de 20 años que sufrió depresión y ansiedad tras años de uso compulsivo. Aunque la cifra es simbólica, el veredicto marca un hito en el sector: por primera vez, la justicia señala al diseño del algoritmo y la interfaz (y no al contenido) como responsable directo del daño, abriendo la puerta a una avalancha de miles de demandas pendientes. Otras de las empresas imputadas en el juicio, como TikTok o Snapchat, esquivaron la condena mediante acuerdos extrajudiciales.
Para los que ya tenemos unos cuantos años, toda esta situación, este señalamiento desde tribunales, asociaciones de consumidores y representantes políticos, recuerda mucho a lo que sucedió en los años 90 con la industria del tabaco. En una sociedad en la que no era tan extraño encontrarse con médicos que fumasen ante sus propios pacientes, la sucesión de denuncias y sentencias en contra de las grandes tabacaleras supuso todo un terremoto que acabó derivando (afortunadamente) en un “el tabaco perjudica seriamente la salud” primero, y en una prohibición del tabaco en los espacios públicos después.
[Hay cientos de libros y películas que reflejan esa historia. Personalmente te recomiendo el libro de “El jurado”, de John Grisham, una auténtica obra de arte y adictiva como la industria a la que retrata]
A pesar de que cada vez más personalidades de alto nivel, Pedro Sánchez incluido, estén poniendo en el punto de mira al ecosistema de las redes sociales y su “estado fallido”, es difícil pensar que a corto plazo nos vayamos a encontrar con un “Las redes sociales perjudican seriamente la salud” cuando entremos en TikTok o Instagram, pero está claro que cada vez los usuarios son (somos) más conscientes de los posibles perjuicios que el uso de estas plataformas puede representar. Especialmente si esos usuarios son personas vulnerables, como la demandante del caso que acaba de fallarse.
Otro social media es posible
Mark Zuckerberg creó Facebook en 2004. Jawed Karim publicó el primer vídeo oficial de la historia de YouTube en 2005. Instagram nació el 6 de octubre de 2010 en San Francisco de la mano de Kevin Systrom y Mike Krieger.
Y estoy seguro que ninguna de estas personas quería pasar a la historia como el creador de una herramienta perversa que lleva a la gente a la depresión y al suicidio.
En los últimos veinte años la historia del social media ha vivido muchas etapas, muy distintas. Seguramente, ninguna de ellas idílicas. Pero diría que no fue hasta finales de la década de los años diez cuando las redes sociales comenzaron a deslizarse rápidamente por la peligrosa pendiente de los patrones oscuros, esas “trampas” que buscan captar cada milésima de segundo de tu atención para que te quedes viendo vídeos, fotos, comentarios y, sobre todo, haciendo scroll, mucho scroll.
Un scroll infinito.
En esa deriva, el componente algorítmico ha tenido mucho que ver, por supuesto. A medida que las redes sociales nos iban alejando más de lo social, entendido como aquello que nos conectaba con miembros de nuestra sociedad más cercana, con nuestros contactos, amigos y familiares, y nos iban adentrando en los feeds repletos de “probablemente te gustará…”, las pantallas de nuestros móviles se iban llenando de contenidos virales, hipereditados y ultrapensados para captar nuestra atención y nuestro tiempo.
En el contexto de la sentencia actual, los filtros, esos mismos que permiten editar hasta lo ridículo cualquier imagen o vídeo, juegan un rol fundamental que conectan directamente con el daño a la salud mental y los patrones oscuros.
Por un lado, son un motor evidente de la dismorfia corporal. La demanda argumentó que los filtros de perfeccionamiento facial (aquellos que afinan la nariz, agrandan los ojos y alisan la piel por defecto) no son herramientas creativas inocentes, sino mecanismos que alteran la percepción de la realidad del menor. Se presentaron pruebas de que el uso constante de estos filtros genera dismorfia corporal, donde los jóvenes (como la demandante) desarrollan una aversión a su rostro real al no poder alcanzar el estándar algorítmico.
El jurado consideró que los filtros funcionan como un bucle hiperadictivo: el usuario se ve “mejor” con el filtro, y además recibe más likes y validación social, con lo cual su cerebro segrega dopamina y se crea una dependencia de la plataforma para sentirse bien consigo mismo. La sentencia subraya que Meta conocía (gracias a sus propios informes internos filtrados hace años por Frances Haugen) que Instagram era “tóxico” para las adolescentes debido a la comparación social, y aun así potenció el uso de estos filtros en sus algoritmos de recomendación.
Así que la pregunta es sencilla: ¿podríamos entender un entorno social media sin filtros, sin scroll infinito, sin influencers creando vídeos de odio, sin bulos peligrosos para la salud de quienes los ven…?
La respuesta breve es: “sí, pero no será fácil”. Y sobre todo, necesitaremos que sea a través de la regulación.
Al menos, en algunos mercados las autoridades están comenzando a actuar para limitar el impacto de las redes sociales en personas vulnerables. En mercados como Australia, ya se ha puesto en marcha la prohibición de acceso para los menores. En otros casos, como en España, el Gobierno ha anunciado medidas en un sentido similar, añadiendo el componente de la lucha contra los discursos de odio en la ecuación. A nivel europeo, la Comisión, a través de la DSA, está regulando e imponiendo multas a las grandes tecnológicas que no aceptan un mínimo código de conducta a nivel empresarial.
El dilema de las marcas
En realidad, esta situación también sitúa a las marcas frente en un punto incómodo. Durante años, hemos celebrado el engagement y el tiempo de permanencia, sin preguntarnos demasiado a qué precio se obtenían. Si el diseño de estas redes empieza a ser tratado legalmente como un producto nocivo, las marcas deben empezar a cuestionarse su papel en la cadena.
Por ejemplo, si los filtros de belleza son el motor de la dismorfia, las marcas que sigan abusando de ellos en sus campañas de influencers pueden ser vistas como un respaldo de un modelo de comunicación que la justicia empieza a señalar como tóxico. Por otra parte, ¿queremos que nuestro anuncio de zapatillas o de software aparezca intercalado en un scroll infinito que busca retener a un menor de edad mediante técnicas de casino? Una polémica relacionada con la asociación de las marcas a contenido catalogado como ofensivo o tóxico ya generó hace unos años una fuga de anunciantes de YouTube.
Es complicado saber qué deben hacer las marcas. Al final, el problema (o la mayor parte de él) recae sobre las plataformas, y no sobre el contenido. Pero quizá con el tiempo veamos que en este nuevo contexto, con usuarios más concienciados y más regulación, las marcas que triunfarán serán aquellas que utilicen las redes para aportar una utilidad inmediata (educación, entretenimiento real, servicio al cliente) y que fomenten que el usuario complete su tarea y cierre la app, en lugar de intentar retenerlo en un bucle sin fin.
Como ves, el panorama que se abre tras esta sentencia es incierto. Quizá, solo quizá, a través de esta regulación, y a través de la probable concatenación de sentencias judiciales a las que se enfrentan las propietarias de las redes sociales en los próximos meses en su propio país de origen, Zuckerberg y compañía comiencen a poner la salud de sus usuarios en un punto más alto de su pirámide de prioridades.
El social media del futuro será saludable o, simplemente, no será legal.
Imagen: Gemini
[…]
La entrada ¿El nuevo tabaco? Por qué la condena a Meta y Google por diseño adictivo debe marcar un antes y un después para las redes sociales se publicó primero en Marketing4eCommerce.
