Il calendario di luglio 2022
Verso la singolarità tecnologica
Molti animali modificano l’ambiente in cui vivono. Le dighe costruite dai castori sono un caso ben noto, così come i giganteschi termitai africani e del sud America; uno sciame di locuste può spolpare in un giorno un’area coltivata di centinaia di chilometri, ma anche le simpatiche caprette, che scelgono con cura i germogli, sono in grado di arrestare lo sviluppo di un bosco. Madre Natura reagisce ai cambiamenti ambientali con i suoi lunghissimi tempi: qualche specie si estingue, qualche altra emerge, a una foresta subentra un deserto e viceversa. I cambiamenti sono lenti e i rimedi altrettanto lenti, possono prendere centinaia di migliaia di anni.
L’animale che più di ogni altro ha una vera passione per la trasformazione dell'ambiente è l’homo sapiens. La differenza fondamentale tra il cambiamento indotto dalle altre specie e quello operato dall’uomo è l’accelerazione; quindi ha senso porsi la domanda se la Natura, con i suoi lunghissimi tempi di reazione e adattamento alla novità, potrà ancora svolgere il suo compito regolatore.
Non si intende qui porre l'annoso e banale problema della sovrappopolazione (il pianeta può ospitare e nutrire oltre 20 miliardi di abitanti, si spera con un reddito distribuito un po' meglio di adesso) né quello del clima (che è assai poco legato all'attività e alla presenza dell'uomo) o della carenza delle scorte rinnovabili (che già ora sono in corso di sostituzione), tutti fenomeni relativamente lenti; ma vogliamo discutere un po' del cambiamento tecnologico, diventato estremamente rapido e le cui conseguenze a medio e lungo termine solo raramente vengono esaminate, benché il loro impatto sull'evoluzione umana potrebbe diventare il fattore di maggiore intensità.
Esiste una legge empirica dell'informatica che afferma, sulla base di analisi storiche, che la potenza dei sistemi di calcolo (l'insieme di hardware e software) aumenta esponenzialmente nel tempo. Le ragioni sono molte e vanno dalla progressiva miniaturizzazione dei circuiti al fatto che sempre più imprese - e sempre più potenti - si dedicano all'informatica, fino alla diffusione degli strumenti informatici nelle famiglie e nelle organizzazioni pubbliche. Tutti noi sentiamo parlare quotidianamente di algoritmi, di intelligenza artificiale (IA), di reti neuronali, di sistemi di decisione automatica, di computer quantistici (velocità: miliardi di volte superiore a quella attuale), di big data (ovvero capacità di trattare simultaneamente enormi moli di dati di tipo differente: numeri, immagini, suoni, ...), di realtà estesa, di robotica e così via.
Bene: già negli anni '60 del secolo scorso, quando l'informatica era ancora agli albori, qualcuno si è chiesto se l'uomo continuerà a essere in grado di gestire l'enorme complessità di questa tecnologia che si sta concretizzando ad ampi passi e che cosa accadrà se l'uomo ne perderà il controllo. Nel 1958 il matematico polacco Stanislaw Ulam è stato profetico, individuando "l'avvicinarsi di qualche fondamentale singolarità della storia della razza oltre la quale gli affanni degli esseri umani, come li conosciamo, non possono continuare" (da una conversazione con John von Neumann). Da allora il termine singolarità tecnologicaè entrato nel lessico comune, indicando "un ipotetico momento in cui la crescita tecnologica diventa incontrollabile e irreversibile, determinando cambiamenti imprevedibili nella civiltà umana".
Quanto ipotetico? si dà il caso che, a differenza dell'avvento di crisi della popolazione, del clima, dell'energia, che per il momento continuano a essere puramente teoriche e costantemente posposte nel tempo, la singolarità tecnologica è, secondo molti ricercatori, reale e molto prossima (forse tra il 2030 e il 2050).
La nozione di singolarità assume presso il pubblico ma anche presso molti ricercatori la figura di una IA di capacità intellettive molto superiori a quelle umane. il che apre duplice problema:
1. questa superintelligenza artificiale sarà dotata di coscienza (ovvero avrà percezione di sé*<<<<<<<9
2. e, se lo sarà, si dimostrerà amichevole o meno verso la specie umana che l'ha creata**
Sono domande attualmente senza risposta, che consentono agli esperti di schierarsi più in funzione delle loro speranze o preoccupazioni che sulla base di dati di fatto. Il dibattito è vivace e multidisciplinare e coinvolge, oltre agli scienziati, anche esperti di etica, filosofia, sociologia e politica. Nell'aprile del 2019 l'Unione Europea ha rilasciato un codice etico per l'IA che enuncia alcuni principi inderogabili ai quali la progettazione delle IA deve attenersi, tra cui il rispetto per la dignità dell'uomo.
Resta tuttavia il fatto incontrovertibile che la velocità dello sviluppo tecnologico è assai più elevata di quella dello sviluppo etico. La tecnologia è conoscenza scientifica applicata (e calata nella quotidianità) e dunque dipende da quel potentissimo motore - che solo la nostra specie possiede - che è la curiosità, il tentativo di capire sempre di più il mondo intorno a noi. L’etica è legata ai sentimenti, al convivere entro ciascuno di noi di qualità morali talvolta in contrasto l’una con l’altra: l’egoismo, l’interesse personale e il fascino del potere contro la socialità, l’amore per il prossimo e la compassione.
La ricerca di base e il conseguente sviluppo tecnologico richiedono forti investimenti che solo alcune grandissime imprese possono permettersi, con la conseguenza che la potenza dell'IA resterà confinata nelle mani delle solite élites: esse sceglieranno il potere o l'amore per il prossimo? la risposta è facile, soprattutto alla luce di quanto vediamo succedere fin d'ora, in cui le nascenti IA sono utilizzate per il controllo della popolazione (riconoscimento visivo, localizzazione e monitoraggio degli spostamenti, punteggio di cittadinanza, violazione permanente della privacy, robot con funzione di sorveglianza dell'ordine pubblico, , ...). Certo, non pochi di noi potrebbero pensare "sono onesto, pago le tasse, guido con prudenza, perché dovrei temere di essere osservato costantemente?", ma se consideriamo altri elementi a latere dell'integrazione delle IA nel sistema socio politico le cose si fanno più preoccupanti. Pensiamo solo al tentativo, già in corso da anni, di eliminazione del denaro contante: una IA che accede ai miei dati sa quanto guadagno e come spendo il mio denaro, e se l'algoritmo che la anima decidesse che il mio comportamento non è consono alle direttive istituzionali*** potrebbe bloccarmi l'accesso al denaro, che a quel punto non è più mio.
Come evolverà l'homo sapiens posto di fronte al diffondersi di IA sempre più potenti, ovvero una volta che sarà stata raggiunta la singolarità tecnologica?
Già nel calendario del marzo 2021 abbiamo tratteggiato l'ipotesi del Transumanesimo ovvero lo sviluppo di "una sorta di superuomo, liberato dai vincoli imposti dalla natura attraverso tecniche di ingegneria genetica, di nanotecnologia, di impianti di protesi artificiali", indicandone anche i possibili rischi connessi col tentativo politico di instaurare un Nuovo Ordine Mondiale (tentativo che in questo momento sembra essere in regressione). D'altra parte se non vi sarà una reazione evolutiva dell'uomo il rischio che la tecnologia scavalchi la nostra specie creando un "nuovo Dio" è elevato e potrebbe avere come conseguenza la nostra estinzione ad opera delle macchine, tema quanto mai caro a molta fantascienza. Tutto dipende dal livello di coscienza che le macchine (e ancora prima coloro che le progettano) potrebbero raggiungere.
Ma si potrebbero aprire anche altre strade. Non tutti sono pessimisti come Hawking. Ad esempio il celebre teologo gesuita Teilhard de Chardin (1881-1955), dapprima in odore di eresia e in seguito esaltato dalla Chiesa, considera la singolarità, e la conseguente evoluzione umana, come propulsore della nascita di un nuovo umanesimo dove la persona sarà infinitamente più ricca.
Volendo concludere su un piano di leggerezza questo calendario, lasciandoci alle spalle le dissertazioni precedenti, in verità enormemente più complicate di come sono state esposte in questa paginetta, diremo che già da ora tra le prerogative delle (ancora) semplici IA contemporanee, vi è la produzione artistica. Brani musicali, quadri, testi sono attualmente generati da IA specializzate, ma lo stato della tecnologia fa sì che i relativi algoritmi richiedano una "imbeccata", ovvero un punto di partenza umano (una musica esistente, un quadro esistente, una porzione di testo reale) a partire dal quale l'IA sviluppa la propria opera. Insomma: siamo ancora lontani dalla creatività autonoma intrapresa dalla macchina. Per ora.
_______________________
* è di pochi giorni or sono l'affermazione di un ingegnere di Google che l'IA denominata LaMDA avrebbe raggiunto un livello di autocoscienza. Google ha negato la notizia e ha posto in congedo il ricercatore
** tra le voci preoccupate spicca quella del fisico Stephen Hawking, ben noto anche al grande pubblico per le sue ricerche sui buchi neri, che afferma che "Ignorare la minaccia posta dalle superintelligenze artificiali potrebbe essere l’errore più grave di sempre, in grado di mettere a rischio la specie umana". E Hawking non è certo l'ultimo venuto
**** occorre sempre ricordare che il nucleo delle IA attuali è l'apprendimento e l'elaborazione progressiva delle informazioni apprese. Alla base esiste sempre un programmatore umano che fornisce regole primarie di comportamento (in alternativa mostra alla "macchina" come comportarsi in una data situazione) e un meccanismo che consente alla macchina di rilevare casi specifici e di integrarli nella sua esperienza (quindi la macchina li memorizza e li ricorda), utilizzandoli ogni volta che in futuro si troverà a valutare una determinata situazione. Tanto nelle regole iniziali quanto nel processo di integrazione di nuovi dati possono annidarsi degli errori che - proprio per la ricorsività del "ragionamento automatico" - possono compromettere la valutazione effettuata della macchina. Quindi tra i vari rischi connessi con l'IA vi è anche il malfunzionamento algoritmico, che può risolversi, quando la situazione in cui la IA opera è di natura sociale, in un danno alle persone. Il caso più famoso è noto come kinderopvangtoeslagaffaire (letteralmente "scandalo olandese dei sussidi per l'infanzia"): tra il 2015 e il 2019 una IA utilizzata dall'autorità fiscale dell'Olanda per ricercare i casi fraudolenti ha tolto i benefici fiscali per l'infanzia a decine di migliaia di famiglie, riducendone alcune in miseria e spingendo più di un genitore al suicidio, con conseguenti disordini sociali e caduta del governo. Il malfunzionamento è stato dovuto all'implementazione iniziale, che ha fatto sì che l'algoritmo attribuisse alle famiglie di basso reddito una sempre maggiore probabilità di frode |
