Per què aquesta sentència sí que enfoca correctament la toxicitat de les xarxes sociales

Per Simona Levi

La sentència contra Meta i YouTube guanyada el mes passat per una jove de 20 anys que va patir trastorns de la conducta, és crucial per al nostre futur digital. No tant per la quantia de la condemna, que continua sent ridícula per a corporacions d’aquesta mida, sinó perquè és la primera resolució que enfoca correctament el problema. El que és decisiu és que no posa el focus en els continguts, com acostuma a passar, sinó en les decisions editorials i tecnològiques de les plataformes: en el disseny addictiu, el desplaçament infinit, les recomanacions algorítmiques i les funcions concebudes per maximitzar la captació, la permanència i la dependència, fins i tot quan les empreses sabien que podien causar dany. Segons les notes del cas, la demandant va sostenir precisament que no es tractava de l’exposició a discursos nocius, sinó d’un disseny tòxic del producte. Això és el que obre una via realment transformadora.

Durant anys, les grans plataformes han aconseguit esquivar gairebé tota responsabilitat refugiant-se en la idea que no fan més que allotjar o distribuir continguts produïts per tercers. Als Estats Units, aquesta defensa s’ha recolzat de manera sistemàtica en la Secció 230, que les protegeix davant de responsabilitats derivades del contingut publicat pels seus usuaris. De fet, des de l’activisme digital també defensem que els proveïdors de serveis digitals no haurien d’immiscir-se en els continguts, no haurien de ser una mena de policia censora del debat.

Per això és important que finalment s’encerti una escletxa fonamental: si el problema no és el contingut, sinó l’arquitectura de decisió que el selecciona, l’amplifica i l’encadena a mecanismes de recompensa compulsiva, aleshores la discussió canvia completament. Ja no parlem de censurar discursos, sinó d’exigir responsabilitat sobre un producte dissenyat per alterar comportaments.

Aquest canvi d’enfocament permet atacar el problema evitant afectar la llibertat d’expressió, és a dir, no pel discurs o el contingut, sinó pel disseny tècnic i editorial. És a dir, per les funcions deliberadament addictives, per l’enginyeria de l’atenció, per l’explotació de vulnerabilitats cognitives, per l’opacitat dels sistemes de recomanació i per decisions empresarials orientades a anteposar el benefici a la integritat de les persones usuàries.

És imprescindible evitar entrar en el terreny relliscós de convertir els poders públics o les mateixes plataformes en àrbitres generals d’allò que es pot o no es pot dir. Discutir el contingut sempre ens arrossega a debats molt més fàcilment instrumentalitzables, emotius, polaritzants i subjectius. El disseny, en canvi, ens permet intervenir sobre estructures materials objectives.

Per això aquest cas importa molt més del que sembla. No només obre la veda judicial —encara que les indemnitzacions siguin insignificants, hi ha milers de procediments en marxa—, sinó que ofereix un enquadrament que Europa hauria d’observar atentament. Si les futures legislacions europees avancen en aquesta direcció, és a dir, a regular l’arquitectura tecnològica, la manipulació conductual i la responsabilitat pel disseny, Europa es pot situar en una posició molt més forta i molt més legítima. Molt més forta, perquè estaria actuant sobre pràctiques verificables i estructurals. I molt més legítima, perquè no estaria entrant a restringir opinions, expressions o circulació d’idees, sinó a limitar dispositius de captació i explotació que lesionen drets.

Aquest és el camí intel·ligent: no atacar la paraula, sinó la màquina que l’organitza per convertir-la en dependència, ansietat o depressió; no vigilar el contingut, sinó governar les condicions tècniques de la seva circulació quan aquestes condicions han estat dissenyades per fer mal. És també la via més sòlida per evitar la trampa en què tantes vegades cauen els debats sobre plataformes: la de respondre a un problema real amb solucions autoritàries.

Simona Levi