Le leggi della robotica di Asimov sull’intelligenza artificiale sono entrate nell’immaginario collettivo prima ancora che l’AI diventasse un fenomeno di massa.
Nel dibattito su Asimov intelligenza artificiale — sulle sue tre leggi e sul loro valore etico — c’è una domanda che torna sempre: perché le abbiamo ignorate?
Nel 1942 Isaac Asimov pubblicò un racconto intitolato Runaround. In quelle pagine comparivano per la prima volta le Tre Leggi della Robotica — forse il più famoso tentativo nella storia della narrativa di codificare in regole il comportamento di un’intelligenza artificiale.
Prima Legge: un robot non può recar danno a un essere umano né può permettere che un essere umano venga danneggiato per sua inazione. Seconda Legge: un robot deve obbedire agli ordini impartiti dagli esseri umani, tranne quando questi ordini contrastino con la Prima Legge. Terza Legge: un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o la Seconda Legge.
Elegante. Gerarchico. Logico. E assolutamente, magnificamente sbagliato.
Asimov intelligenza artificiale: il problema che aveva già visto
La cosa straordinaria non è che Asimov abbia proposto queste leggi. È che quasi tutti i suoi romanzi e racconti successivi sono la dimostrazione di come quelle stesse leggi, applicate a sistemi sufficientemente complessi, producano conseguenze imprevedibili, paradossali, e spesso disastrose.
Il progetto narrativo di Asimov non era dimostrare che le Tre Leggi funzionavano. Era esplorare sistematicamente tutti i modi in cui non funzionavano. Ogni racconto del Ciclo dei Robot è un esperimento mentale: cosa succede quando due leggi entrano in conflitto? Cosa succede quando un robot interpreta “danno” in modo diverso da come lo intendiamo noi?
Asimov non stava scrivendo un manuale. Stava scrivendo una fenomenologia del fallimento.
Ottant’anni dopo, stessa storia
Guardando come si discute oggi di intelligenza artificiale — negli articoli di giornale, nei documenti regolatori, nelle dichiarazioni di principio delle grandi tech company — si ha la sensazione di assistere a una replica. Tutti vogliono le loro Tre Leggi. Tutti cercano il set di vincoli che possa garantire sicurezza, trasparenza, allineamento tra i sistemi artificiali e i valori umani.
L’AI Act europeo. I principi etici di Anthropic. Le linee guida di OpenAI. Sono tutti, in qualche misura, tentativi di fare quello che Asimov fece su carta nel 1942 — codificare in regole il comportamento di qualcosa che non ha ancora una forma definitiva.
E il problema è lo stesso: le regole sono scritte in linguaggio naturale, e il linguaggio naturale è ambiguo. “Non recare danno” è una regola perfettamente chiara finché non ti chiedi: danno a chi? Nel breve o nel lungo periodo?
La differenza tra fiction e realtà
C’è però una differenza fondamentale tra i robot di Asimov e i sistemi che stiamo costruendo adesso. I robot asimoviani avevano una struttura interna comprensibile — regole esplicite, gerarchie definite, meccanismi di ragionamento tracciabili. I modelli linguistici moderni sono sistemi a distribuzione di probabilità addestrati su miliardi di parametri che nessuno comprende completamente, nemmeno chi li ha costruiti.
Asimov immaginava un problema di etica applicata: dati dei valori, come si costruisce un sistema che li rispetti? Noi abbiamo un problema diverso e più profondo: non sappiamo esattamente come funzionano i sistemi che stiamo costruendo.
Quello che Asimov ci ha lasciato davvero
La cosa più utile che Asimov ha fatto non è stata proporre le Tre Leggi. È stata passare quarant’anni a smontarle — a mostrare tutti i bordi, tutti i casi limite, tutte le conseguenze non intenzionali di qualsiasi tentativo di definire in modo rigido cosa significa “fare del bene”.
È un metodo, più che una soluzione. E quel metodo — immaginare sistematicamente come le cose possono andare storte prima che vadano storte — è esattamente quello che manca nella discussione pubblica sull’intelligenza artificiale. La fiction speculativa non è intrattenimento per nerd. È uno degli strumenti più potenti che abbiamo per pensare a sistemi complessi prima che esistano. Asimov lo sapeva.
Le Tre leggi della robotica di Asimov sono tuttora studiate come riferimento etico nel dibattito sull’intelligenza artificiale.
Leggi anche: AI nel marketing — Philip K. Dick e la paranoia