Negli anni Ottanta, lungo le highway americane, c’erano motel che potremmo definire “particolari”. Non facevano troppe domande: né su chi fossi, né su cosa stessi facendo. Bastava pagare la stanza. Il gestore, spesso consumato dalla vita, prendeva i soldi e si voltava dall’altra parte. Quello che accadeva dentro quelle mura non era affar suo. E quando arrivava la polizia per episodi di illegalità, la risposta era sempre la stessa: spallucce. “Io affitto solo camere”. I social network, per molti anni, hanno raccontato esattamente la stessa storia. Siamo solo una struttura. Un contenitore. Un luogo che ospita contenuti prodotti da altri. Non siamo responsabili di ciò che accade al suo interno.

Questa narrazione è stata difesa come una linea Maginot. A qualunque costo. Ed è comprensibile: se fosse passato il principio della responsabilità, le conseguenze economiche, legali e reputazionali sarebbero state enormi.
Oggi quella linea difensiva ha subito un colpo. Una recente sentenza negli Stati Uniti ha condannato Meta Platforms e YouTube (di Google) per aver contribuito a creare dipendenza e danni psicologici in una minore. Il caso riguarda una giovane donna che, durante l’adolescenza, è stata esposta per anni a contenuti legati a disturbi alimentari, autolesionismo e modelli comportamentali estremi. Non per caso. Ma perché gli algoritmi continuavano a riproporli, sistematicamente, amplificando ogni interazione.

È il meccanismo delle echo chamber: più guardi qualcosa, più quel qualcosa ti viene restituito, in forma sempre più estrema. Il risultato di precise scelte ingegneristiche.

È la prima volta che una responsabilità di questo tipo viene affermata in modo così esplicito. Si apre una fase nuova, in cui il funzionamento interno delle piattaforme diventa oggetto di scrutinio pubblico e legale.

Ne tratta il nostro fondatore e CEO, Andrea Barchiesi, nella sua rubrica su Prima Comunicazione.