Nel 2009 stavo lavorando alla mia tesi di laurea. Facebook, in Italia, era ancora un fenomeno relativamente nuovo. Aveva già cominciato a modificare il modo in cui ci presentavamo agli altri, costruivamo relazioni, conservavamo tracce di noi stessi. Sembrava un gioco sociale. E in parte lo era. Ma sotto quella superficie leggera si vedeva già qualcosa di più profondo.
La domanda che mi ponevo allora, e che finì anche in un piccolo video oggi pubblicato dal canale YouTube dell’Università del Piemonte Orientale, era semplice e inquietante: che cosa sarebbe accaduto se una quantità così precisa di dati personali fosse arrivata nelle mani di un sistema totalitario?
Non si trattava soltanto di sapere quale gusto di gelato preferisse una persona, o quale musica ascoltasse, o quali fotografie pubblicasse. Il punto era un altro: che cosa sarebbe successo se qualcuno avesse potuto conoscere la rete delle nostre relazioni, la frequenza dei nostri contatti, le persone a cui tenevamo di più, i luoghi che frequentavamo, le inclinazioni politiche, culturali, affettive, sessuali? Che cosa sarebbe successo se da quella massa di dati fosse stato possibile non solo descriverci, ma prevederci?
All’epoca poteva sembrare una preoccupazione teorica. Oggi molto meno.
L’altra sera, guardando In altre parole di Massimo Gramellini su La7, ho ritrovato quella vecchia domanda in una forma molto più concreta e terribile. Gramellini ha raccontato la storia di Ahmad Turmus, un uomo libanese di 62 anni, riprendendo un reportage del Los Angeles Times firmato da Nabih Bulos e rilanciato in Italia da Il Post. La7 presenta il passaggio come la storia delle cosiddette “telefonate della morte”: prima dell’attacco di un drone, al bersaglio viene chiesto se preferisca morire da solo o con le persone che ha intorno.
Nel reportage del Los Angeles Times, pubblicato il 4 maggio 2026, Bulos ricostruisce un sistema di individuazione dei bersagli basato sull’intelligenza artificiale e sull’incrocio di dati provenienti da smartphone, telecamere, segnali Wi-Fi, droni, database e social media. Secondo l’articolo, questi dati vengono standardizzati, collegati alle identità delle persone e usati per costruire profili di minaccia; il sistema sarebbe in grado di fare in pochi secondi ciò che in passato avrebbe richiesto settimane di lavoro investigativo.
La scena raccontata è difficile da sostenere. Una voce telefona. Pone una domanda. Poco dopo, un drone colpisce.Gramellini, nel suo Caffè sul Corriere della Sera, aggiunge un dubbio ancora più cupo: forse siamo già troppo ottimisti a immaginare che quella voce sia umana; forse potrebbe essere, o diventare presto, la voce di un computer.
È qui che la questione smette di essere soltanto militare, geopolitica o tecnologica. Diventa antropologica.
Perché il punto non è soltanto stabilire se Ahmad Turmus fosse colpevole, sospettato, militante, collaboratore, amministrativo, civile o combattente. Questo è certamente decisivo sul piano del diritto e della responsabilità. Ma la riflessione più ampia riguarda il meccanismo: una persona entra in un flusso di dati, viene associata a luoghi, contatti, abitudini, relazioni, comportamenti ricorrenti o anomali. Poi quel profilo viene trasformato in probabilità. E la probabilità, a un certo punto, può diventare sentenza.
È questo passaggio che mi inquieta. Non la tecnologia in sé, ma la sproporzione fra la velocità con cui la tecnologia produce effetti e la lentezza con cui le società democratiche riescono a comprenderli, discuterli, regolarli.
Nel 2009 ci si chiedeva che cosa sarebbe potuto accadere se un potere autoritario avesse avuto accesso ai nostri dati personali. Nel 2026 scopriamo che la domanda era persino troppo prudente. Non si tratta più soltanto di sapere se un sistema possa conoscere le nostre preferenze. Si tratta di capire se un sistema possa organizzarle, interpretarle, attribuire loro un significato operativo e inserirle in una catena decisionale che riguarda la libertà, il lavoro, il credito, l’informazione, la reputazione, fino alla vita e alla morte.
La tecnologia ha sempre avuto questa ambivalenza. Può liberare energie, ampliare conoscenza, migliorare diagnosi, ridurre fatica, rendere più efficiente ciò che prima era lento e opaco. Ma quando viene applicata senza un quadro di controllo adeguato, rischia di diventare una forma di potere senza volto. Non più soltanto il potere di comandare, ma il potere di classificare. Di decidere chi è affidabile, chi è pericoloso, chi è utile, chi è superfluo.
L’Unione Europea ha approvato l’AI Act, entrato in vigore il 1° agosto 2024, distinguendo tra sistemi a rischio inaccettabile, sistemi ad alto rischio e altri usi dell’intelligenza artificiale. Le pratiche considerate una minaccia per i diritti fondamentali, come alcune forme di social scoring, vengono vietate; i sistemi ad alto rischio devono rispettare requisiti specifici, tra cui qualità dei dati, trasparenza, gestione del rischio e supervisione umana.
È un passo importante. Ma resta la sensazione che il diritto arrivi sempre dopo. Prima arrivano le piattaforme, poi i modelli di business, poi le abitudini sociali, poi gli effetti collaterali, poi gli scandali, poi le commissioni, poi i regolamenti. Nel frattempo, la tecnologia si è già spostata altrove.
Lo stesso vale per il lavoro e per il mercato. L’intelligenza artificiale promette efficienza assoluta: prodotti migliori, processi più rapidi, costi più bassi, organizzazioni più leggere. Ma se questa efficienza viene perseguita senza una visione sociale, rischia di realizzare una forma estrema di capitalismo: il prodotto perfetto, generato con il minimo intervento umano, destinato però a una società in cui sempre meno persone avranno partecipato alla produzione della ricchezza necessaria per acquistarlo.
Anche qui il problema non è la macchina. Il problema è il sistema che costruiamo attorno alla macchina.
Per questo forse non basta più parlare di privacy, di sicurezza informatica, di trasparenza degli algoritmi o di responsabilità delle piattaforme come capitoli separati. Serve un pensiero più alto, più largo, più politico nel senso migliore del termine. Serve una Costituzione del digitale: non uno slogan, ma un quadro di principi condivisi da cui far discendere leggi, regolamenti, limiti e responsabilità.
Una Costituzione del digitale dovrebbe partire da alcune idee semplici. Nessun essere umano dovrebbe essere ridotto alla somma dei suoi dati. Nessun automatismo dovrebbe poter produrre effetti irreversibili senza una responsabilità umana chiara, verificabile e contestabile. Nessuna efficienza dovrebbe essere considerata accettabile se cancella dignità, libertà, possibilità di difesa. Nessun sistema tecnico dovrebbe essere così opaco da impedire a una persona di capire perché è stata esclusa, classificata, penalizzata, sorvegliata o colpita.
La domanda che mi facevo nel 2009, davanti al blu rassicurante di Facebook, oggi torna con un peso diverso. Allora era una possibilità. Oggi è una direzione di marcia.
E se una società democratica non vuole limitarsi a rincorrere la tecnologia quando il danno è già avvenuto, deve accettare una sfida difficile: diventare più veloce senza diventare superficiale, più competente senza consegnarsi ai tecnici, più capace di controllo senza trasformarsi essa stessa in un sistema di controllo.
Perché la tecnologia non aspetta. E quando le regole arrivano troppo tardi, spesso non regolano più il futuro. Si limitano a prendere atto del passato.
Credit foto apertura:”Computer Data Hacker” by Visual Content is licensed under CC BY 2.0.
Questo articolo è stato pubblicato anche su albertomarello.it
