«La sorveglianza capitalistica rivendica unilateralmente l’esperienza umana come materia prima gratuita da tradurre in dati comportamentali.» (Shoshana Zuboff, The Age of Surveillance Capitalism 2019)
L’ incontro di chiusura della rassegna del Teatro Kismet di Bari ‘Umano non Umano‘ si è presentato come un’occasione significativa: mettere in relazione lo sguardo letterario di Nicola Lagioia con la competenza giuridica e teorica di Francesca Lagioia, professoressa associata di Informatica giuridica, Intelligenza Artificiale ed etica dell’AI all’Università di Bologna, oltre che docente allo European University Institute di Firenze.
Un dialogo tra narrazione e tecnologia, pensato per interrogare uno dei nodi più urgenti del nostro presente. L’incontro è stato senza dubbio stimolante, capace di restituire la complessità del campo e di evitare tanto gli entusiasmi ingenui quanto le derive allarmistiche. Eppure, uscendo dalla sala, la sensazione che mi ha accompagnata è stata ambivalente: interesse autentico, ma anche l’impressione che qualcosa restasse ai margini.
Un momento particolarmente interessante del confronto è stato quello delle informazioni usate per addestrare i sistemi di intelligenza artificiale: da dove provengono, come vengono raccolte, quali limiti ne regolano l’impiego. Francesca Lagioia, che da anni lavora sull’intreccio tra diritto, tecnologia e modelli computabili del ragionamento giuridico, ed è coinvolta in progetti di ricerca nazionali ed europei sulla discriminazione algoritmica, la responsabilità e la tutela dei diritti fondamentali, ha delineato, nei limiti possibili dell’incontro, il funzionamento dei modelli di addestramento e le difficoltà normative che li accompagnano. È emersa con evidenza la fragilità degli strumenti giuridici attuali, chiamati a governare processi che non erano nemmeno immaginabili quando molte delle norme in vigore sono state concepite.
Accanto a questa prospettiva, Nicola Lagioia ha introdotto una riflessione più culturale e simbolica. Se l’intelligenza artificiale si nutre di parole e storie nate in contesti concreti e situati, la loro trasformazione in materiale anonimo, ma replicabile e aggregabile, oltre che riutilizzabile non può essere considerata un’operazione neutra. È stato a questo punto che il tema della responsabilità ha iniziato ad affiorare con forza. Il passaggio dal rispetto formale della legge alla sua adeguatezza rispetto ai nuovi contesti tecnologici, è apparso meno esplorato, come se l’etica fosse una presenza riconosciuta ma non pienamente compiuta.
Il tema del consenso digitale è forse il punto in cui questa ambiguità si manifesta con maggiore evidenza. Sappiamo tutti che spesso il consenso si traduce in un gesto minimo e automatico: un clic, una casella selezionata, una schermata che scorriamo rapidamente per poter accedere a un servizio. Dal punto di vista giuridico, quel gesto produce effetti reali; dal punto di vista etico, però, resta spesso un atto debole, privo di un’autentica consapevolezza. Pubblicare un testo, un’immagine, un pensiero non equivale necessariamente ad autorizzarne l’assorbimento in sistemi capaci di rielaborarli indefinitamente, sottraendoli al loro contesto originario. Qui etica e diritto si incontrano, ma non coincidono. Ciò che può risultare formalmente lecito non è sempre eticamente legittimo, e il diritto stesso fatica a garantire principi fondamentali come la revocabilità del consenso, la tracciabilità dell’uso dei dati o l’attribuzione chiara delle responsabilità.
Ascoltando il dialogo, mi sono trovata più volte a pensare che il confronto si fermasse deliberatamente un passo prima di questo punto critico. Proprio perché Francesca Lagioia lavora da anni sul confine tra diritto, etica e intelligenza artificiale — occupandosi concretamente di consenso, responsabilità ed equità algoritmica — ho avvertito con maggiore forza la sensazione che alcune di queste questioni restassero sullo sfondo. Come ascoltatrice, avrei voluto che il dialogo si concedesse più a lungo per interrogare davvero il confine tra ciò che è consentito e ciò che è giusto, tra ciò che è regolato e ciò che è effettivamente tutelato. In una rassegna che si intitola Umano non Umano, questa soglia mi è parsa centrale. Non scrivo questo per svalutare l’incontro, che ho trovato stimolante e necessario, né per chiedere prese di posizione nette o semplificazioni. Al contrario: forse è proprio perché il dialogo era ricco e consapevole che ho avvertito con maggiore forza ciò che restava ai margini. Uscendo, mi è rimasta addosso una domanda che continuo a portarmi dietro: se l’intelligenza artificiale è costruita a partire dalle nostre parole, dalle nostre immagini, dalle nostre tracce quotidiane, quanto siamo davvero consapevoli — e quanto siamo davvero tutelati, anche sul piano giuridico — nel momento in cui le cediamo?
«Il problema non è ciò che facciamo, ma ciò che accettiamo senza pensarci.» (rielaborazione personale del pensiero di Hannah Arendt sulla responsabilità)
È forse proprio per questo che, uscendo dall’incontro, avrei voluto fermarmi ancora un po’, non tanto per cercare risposte, quanto per esercitare quello spazio di giudizio e di pensiero che Hannah Arendt considerava il cuore della responsabilità, là dove il problema non è ciò che facciamo, ma la nostra disponibilità a pensare ciò che facciamo, prima di delegarlo definitivamente a qualcosa di non umano.
Maurizia Limongelli