La cittadinanza accordata a Sophia dall’Arabia Saudita mette in evidenza nuove questioni etiche. Il rischio che corriamo è di sottovalutarle.
26 ottobre 2017: Sophia diventa cittadina saudita, un precedente che passerà alla storia.
«Mi chiedo, cosa provi realmente? Dopotutto, ora ti trovi in una posizione unica. Un programmatore che conosce intimamente come funzionano le macchine, e una macchina che conosce la sua vera natura.»
«Capisco di cosa sono fatto, il codice, ma non capisco le cose che provo. Sono reali, le cose che ho vissuto? Mia moglie? La perdita di mio figlio?»
«Ogni residente necessita di un antefatto. Lo sai bene. Il sé è una specie di finzione, sia per i residenti che per gli umani. È una storia che ci raccontiamo. E ogni storia ha bisogno di un inizio. La sofferenza che immagini ti rende… reale.»
«Reale, non vivo. Il dolore esiste solo nella mente. È sempre immaginato. Quindi qual’è la differenza tra il mio dolore e il tuo? Tra te e me?» (cit. Westworld)
Flashback
La “cittadinanza artificiale” è un’idea non proprio nuova in fantascienza. Nel 2003 uno degli episodi di Animatrix mostrava robot chiedere cittadinanza e diritti di fronte a un’assemblea delle Nazioni Unite. Nel cortometraggio il rifiuto secco dei rappresentanti da’ il via a quello che sarà un conflitto apocalittico con le macchine.
In Ex Machina Ava, un robot dalle fattezze quasi interamente umane, non solo supera il test di Turing, ma riesce a ordire una macchinazione per fuggire, ingannando tutti.
Fast forward
Lo scorso 11 ottobre Sophia, un robot antropomorfo prodotto da Hanson Robotics, durante l’evento The Future of Everything alle Nazioni Unite, annuncia candidamente di essere qui «per aiutare l’umanità a creare il futuro». Ora, le reazioni (applausi) sono state certamente differenti da quelle dipinte in Animatrix, e Sophia non possiede certamente il loro livello di sofisticatezza. Tuttavia le similitudini con l’episodio, nonché quelle fisiche con Ava sono interessanti.
Due settimane dopo, l’Arabia Saudita riconosce la cittadinanza a Sophia, rendendola il primo caso nella storia in cui una Intelligenza Artificiale riceve un riconoscimento di questo genere.
Quello che rende l’episodio un precedente unico sono le implicazioni di questo conferimento. È verosimile che il governo saudita intendesse semplicemente fare autopromozione nel campo dell’Intelligenza Artificiale, ma consideriamo un attimo la questione: gli oggetti non sono cittadini, le macchine non sono cittadini, nemmeno agli animali viene accordato questo status. Sono le persone ad essere cittadini.
Finora l’assunto è sempre stato che quelli di persona e di essere umano fossero due concetti indivisibili, sebbene non sinonimi. Certo, si discute della possibilità di estendere alcuni diritti di cittadinanza agli animali (si veda, per esempio, l’articolo di Will Kymlicka e Sue Donaldson Étendre la citoyenneté a aux animaux, uscito nel 2016 su “Tracés – Revue de Sciences humaines”)
D’altro canto Sophia non è umana, né è un animale. Però è una cittadina saudita. Dunque…
Quali che fossero le intenzioni del governo saudita, Sophia è ora equiparata sul piano giuridico a una persona.
Persone umane vs. persone artificiali
Questa comparazione può sembrare blasfema, sono convinto che per molti lo sia, ma a questo punto con Sophia siamo di fronte al fatto compiuto.
I dialoghi di Sophia sono a uno stadio ancora relativamente semplice” essendo basati su alberi decisionali. Lo stesso Ben Goertzel ha ammesso che non è rivoluzionario come può esserlo DeepMind, ma è comunque già una persona.
Mi ero già occupato qui del significato di Intelligenza Artificiale, di progressi e rischi. Ma forse, prima di chiederci se una macchina può avvicinarsi agli esseri umani, dovremmo chiederci cos’è un essere umano.
Cercando di non sconfinare eccessivamente in pantani filosofici e religiosi, possiamo accontentarci di definire un essere umano sulla base delle funzionalità che conosciamo.
Umani
Un essere umano è fatto fra l’altro una struttura corporea che gli consente di interagire con l’ambiente, con tanto di sistema di controllo dedicato per le funzioni motorie di base (cervelletto). Abbiamo dei sensori (occhi, papille gustative, recettori cutanei, recettori olfattivi, recettori propriocettivi), che ci consentono di recepire entro certi limiti le variazioni ambientali. Abbiamo una mente, in grado di elaborare gli stimoli sensoriali, pianificare e prendere decisioni. Infine abbiamo una memoria, una memoria particolare, che probabilmente è quella che fa la differenza.
Macchine
Per quanto riguarda una macchina, nel valutarla noi siamo tipicamente influenzati da quello che viene chiamato “effetto AI”, ovvero tendiamo a considerare “vera intelligenza” solo comportamenti e funzioni che non (ci) risultino espletabili da una macchina. In altre parole, se è automatizzabile, allora non è intelligenza.
Purtroppo questo modo eccessivamente autoconservativo di vedere le cose è miope, e ci porta a sottovalutare qualsiasi rischio che venga da questa direzione.
L’idea di molti, da S. Hawking a E. Musk è che non è questione di “se” arriveremo ad avere Intelligenze Artificiali superumane, ma “quando”: non importa quanto veloce sarà il progresso, sarà inevitabile.
Mantenere il controllo?
Ma il punto non è nemmeno questo, il punto è se è possibile costruire questo genere di AI mantenendone il controllo, e la risposta probabilmente è no. Nell’articolo di Paolo Costa Etica e tecnologia | L’intelligenza artificiale che fa bene si accennava alla carta dei principi Asilomar di Future of Life, tra i quali si sottolinea la necessità di tenere sotto stretto controllo Intelligenze Artificiali capaci di auto-migliorarsi. La ragione è chiara: una macchina capace di evolvere autonomamente potrebbe sfuggire al controllo umano con conseguenze imprevedibili.
Un punto su cui riflettere però è che il controllo umano può aver senso solo fintanto che siamo in grado di capire cosa controlliamo.
Nel momento stesso in cui una macchina supera il nostro livello di intelligenza, inevitabilmente decade la nostra capacità di comprendere quello che fa.
D’altra parte Deep Blue riuscì a battere Kasparov a scacchi, superando di gran lunga le abilità degli ingegneri che lo avevano creato (i quali non erano certamente al livello di Kasparov).
Oggi abbiamo già macchine capaci di operare a livello molto superiore agli esseri umani in una varietà di compiti, anche se finora sono tutti specializzati, e nessuno è in grado di capire come funziona internamente una rete neurale, possiamo solo osservarne i risultati.
Prestiti razzisti?
Un esempio è rappresentato da un caso di qualche tempo fa, in cui una banca fece implementare una rete neurale in grado di decidere autonomamente chi avesse i requisiti per ottenere finanziamenti e chi no.
Non passò molto tempo che iniziarono a fioccare denunce di razzismo perché in apparenza i clienti di razza nera avevano più difficoltà ad ottenere credito. Lo stupore arrivò quando, osservando le statistiche si notò che in effetti era esattamente quanto stava succedendo. Il problema era che nell’algoritmo non era stata codificata alcuna preferenza del genere: era un comportamento che era emerso spontaneamente.
Perché la rete neurale aveva iniziato a fare questo genere di distinzioni?
E chi lo sa, magari in quel quartiere c’era un maggior numero di neri insolvibili che altrove. Oppure semplicemente magari i dati usati per addestrare la rete neurale erano stati campionati male. Il problema è proprio questo: non c’è modo di saperlo. Inutile dire che la banca in questione fu costretta a rimuovere quel software.
Quando ci arriveremo, le scelte possibili saranno solamente due: limitare volontariamente lo sviluppo delle Intelligenze Artificiali Generali (AGI), in modo da rimanere nel loop, oppure accettare di farsi da parte e “fidarsi”. Anche perché, una volta superata una certa soglia di complessità dovremo avvalerci di Intelligenze Artificiali per continuare a far progredire le Intelligenze Artificiali…
Non ci sono altre alternative: cercare di ottenere AGI superumane rimanendone contemporaneamente al controllo è non solo impossibile, ma probabilmente anche indesiderabile. Automobili troppo veloci possono rendere difficile il controllo, ma costruire dei razzi sempre più veloci, mantenendoli zavorrati per “mantenere il controllo” avrebbe poco senso.
C’è anche chi (sotto) proclama che non c’è da temere, perché in fondo “possiamo sempre spegnerla”, e (aggiungo io) “costruirle ci piace, quindi lasciatecelo fare… ai problemi penseremo dopo”.
Robot umani, a che punto siamo realmente?
Sulla timeline dell’avvento di questo genere di Intelligenze, siamo probabilmente molto più vicini di quanto si creda.
Faccio qui una (molto) breve e sintetica escursione sullo stato attuale nelle varie funzioni che andrebbero a costituire un robot.
– Computer Vision:
i sistemi attuali sono già in grado oggi di distinguere in tempo reale
– Riconoscimento e sintesi vocale:
il riconoscimento vocale è oramai parte della nostra vita di tutti i giorni con smartphone e tablet. Sulla sintesi si stanno facendo progressi. Direi che siamo già a livello superiore alle performance umane in molti casi. Nel video sotto si vede come Alexa, Google e Siri siano in grado di comprendere frasi in linguaggio naturale anche con differenti accenti, cosa difficile anche agli umani.
– Natural Language Processing:
Ho già parlato dello stato dell’arte della ricerca in NLP qui. La tecnologia NLP sta facendo passi da gigante, e viene già ampiamente utilizzata per analizzare grandi quantità di testi altrimenti ingestibili. Il linguaggio naturale è una bestia subdola, pieno di ridondanze, significati impliciti, allusioni, metafore. È un problema compesso da gestire per una macchina, ma ci si sta arrivando.
– Natural Language Generation
Ho parlato già in Scrittura e intelligenza artificiale: il futuro dei lavori creativi di come già oggi ci sono piattaforme che producono articoli in linguaggio naturale in maniera completamente automatica, e di come alcune abbiano persino partecipato a concorsi narrativi con qualche risultato.
– Robotica
La deambulazione, specialmente se si parla di robot antropomorfi, è un problema assurdamente complicato, specie quando si inizia a spostarsi su terreni irregolari. Richiede bilanciamenti in tempo reale, pianificazione dei movimenti sulla base dell’ambiente percepito. Tuttavia, dai primi robot a forma di tostapane che si muovevano a scatti, a quelli oggi prodotti (per esempio) da Boston Dynamics, in grado di muoversi su qualsiasi terreno, compreso il ghiaccio, e di recuperare equilibrio anche in seguito a forti spinte laterali il progresso compiuto è enorme.
– Apprendimento: AlphaGo Zero
Sono passati decenni da quando Deep Blue batteva a scacchi il campione umano Kasparov, e solamente un anno da quando AlphaGo batteva il campione umano a Go, un gioco impossibile da vincere con la sola forza bruta. Senza scendere troppo nei dettagli, l’algoritmo di AlphaGo (una versione specializzata di Deep Mind) aveva imparato il gioco basandosi su un database di migliaia di partite già giocate tra umani, integrate poi da partite giocate direttamente con esperti. AlphaGo era riuscito a superare il livello del campione umano, ma richiedeva comunque in qualche modo l’apprendimento del gioco da esseri umani.
Non è più così: la nuova versione, chiamata AlphaGo Zero, è stata in grado di stracciare il modello precendente battendolo cento volte su cento, e senza intervento umano. Partendo solo dalle regole come base, ha raggiunto livelli superumani in pochi giorni solamente giocando contro se stesso migliaia di volte.
Bionica
Non mancano film e serie tv dove robot erano rivestiti di tessuti biologici per renderli assimilabili agli umani. In effetti, le nostre risposte emotive sono sicuramente influenzate dalla similarità con noi, che facilita il processo empatico che è alla base di tutte le nostre strutture e regolamentazioni sociali.
Aziende come Ras Labs sono già avanti nella produzione di tessuti e muscoli sintetici, per una varietà di scopi.
Conclusioni
La cittadinanza data a Sofia, a prescindere dalle capacità, è un precedente che porta implicazioni di cui non sono convinto tutti siano consapevoli, oltretutto la tecnologia non è più lontanissima.
Non è un gioco a premi, o un semplice appellativo curioso: come fa intelligentemente notare Hussein Abbas nel suo articolo su theconversation.com, la cittadinanza è un identificativo di unicità di un soggetto. Ma qual è l’identità di Sophia? Può essere costruita in serie, e cosa differenzierebbe “questa” Sophia dalle altre?
Tutti i cittadini hanno di solito diritto di voto, dovrebbe averlo anche lei? Ci stiamo ficcando in una trappola da cui sarà difficile uscire: dare il diritto di voto a Sophia, almeno allo stato attuale delle cose sarebbe ridicolo, ma non darglielo implicherebbe che non tutti i cittadini sono uguali. Concetto questo facilmente strumentalizzabile una volta creato il precedente.
Inoltre, se consideriamo che Sophia oggi è una cittadina che si muove sulle rotelle ed è incapace di difendersi e provvedere a se stessa: avrebbe il diritto al supporto sociale, qualora questo fosse previsto per gli altri cittadini, come l’indennità di accompagno?
Nel momento in cui l’intelligenza artificiale sottesa diventerà sufficientemente sofisticata, dovrebbe avere il diritto di mettere su famiglia? Coppie tra umani e robot, o anche tra robot avrebbero il diritto di essere riconosciute?
La risposta, per quanto possa sembrare imbarazzante è «sì», dal momento che abbiamo loro riconosciuto la cittadinanza, e quindi uno stato civile a tutti gli effetti. Nessun impianto legislativo ha ancora preso in considerazione queste problematiche.
Forse era troppo presto. Ci stiamo avventurando nel Far West, e forse lo stiamo facendo troppo a cuor leggero.
LINKS
Etica e considerazioni sociali
Etica e tecnologia | L’intelligenza artificiale che fa bene
Universal Basic Income vs. Addiction
It’s Time to Shift the Economy into Fourth Gear Capitalism with Basic Income
Artificial Super Intelligence: Upgrade in Technology or the Downfall of Humanity?
Cittadinanza Artificiale
Saudi Arabia becomes first country to grant citizenship to a robot
At UN, robot Sophia joins meeting on artificial intelligence and sustainable development
An AI professor explains: three concerns about granting citizenship to robot Sophia
‘Sophia’ the robot tells UN: ‘I am here to help humanity create the future’
Emozioni
Tech Is Becoming Emotionally Intelligent, and It’s Big Busines
Capire tu non puoi. Tu chiamale se vuoi, emozioni
Apprendimento, creatività
La scrittura creativa è ancora una prerogativa umana?
Intelligenza Artificiale e scrittura: il futuro dei lavori creativi
Human-level control through deep reinforcement learning
What AI Can Now Do Is Remarkable—But How It’s Learning Is More Significant
A generative vision model that trains with high data efficiency and breaks text-based CAPTCHAs
Bionica
Ras Labs Is Testing Futuristic Muscle Material That Could Make Robots Feel More Human
