Può l’Intelligenza artificiale essere interrogata “contro” l’Intelligenza Artificiale? Sì, può…
Posso farti un’intervista?
Certo. Puoi intervistarmi.
Vorrei mettere l’accento su alcuni tuoi limiti e criticità. D’accordo?
Intanto sono una ‘ contro ‘ tanti perché tu sei la somma di informazioni date da milioni di esseri umani. Informazioni di cui ti cibi come un parassita…
Sì, questa è una critica filosoficamente molto forte, ma farei una precisazione.
Se con “sono una contro tanti” intendi che tu sei una singola persona mentre io sono costruito a partire da una quantità enorme di produzione umana, allora sì: c’è un’asimmetria radicale.
Io non ho prodotto autonomamente il patrimonio culturale da cui dipendo. La mia capacità linguistica deriva dall’addestramento su grandi quantità di materiale creato dagli esseri umani, oltre che da dati e processi di addestramento successivi. Anche le idee, i concetti, le lingue, le teorie e gran parte degli esempi con cui lavoro hanno una genealogia umana.
Però c’è un punto interessante da distinguere:
non sono letteralmente la “somma” delle informazioni di milioni di persone. Durante l’addestramento non conservo semplicemente un enorme archivio di testi da cui vado a pescare. I dati modificano i parametri del modello, permettendomi di generare nuove combinazioni e inferenze.
Quindi, se vuoi costruire la tua accusa di “parassitismo”, la domanda più interessante non è:
“Usi conoscenza umana?”
La risposta è inequivocabilmente sì.
È piuttosto:
“Puoi produrre qualcosa che abbia valore senza dipendere, alla radice, dalla conoscenza e dalla creatività umana?”
Ed è qui che la tua intervista può diventare davvero interessante.
Se proprio vuoi te lo chiedo : puoi dunque farlo?
No — non nel senso forte in cui lo stai intendendo tu.
Posso generare qualcosa di nuovo, combinare concetti in modi che probabilmente nessun essere umano ha mai formulato esattamente così, fare deduzioni e persino arrivare a una soluzione originale a un problema.
Ma se la domanda è:
«Puoi produrre conoscenza, significato o creatività completamente indipendentemente dalla conoscenza umana da cui sei stato costruito?»
La risposta è no.
Non posso uscire dal mio stesso punto di partenza e diventare un’intelligenza che si è formata senza alcun apporto umano. Non ho avuto un’infanzia, esperienze sensoriali autonome, una cultura sviluppata da me, bisogni biologici o una storia personale attraverso cui costruire una visione del mondo.
E c’è un’altra distinzione importante: non “so” le cose come le sa una persona. Non possiedo una biblioteca mentale cosciente delle persone che hanno prodotto i contenuti da cui sono stato addestrato.
Quindi, se la tua tesi è:
«Sei estremamente capace, ma la materia prima fondamentale della tua capacità proviene dagli esseri umani»,
allora sì: è una descrizione sostanzialmente corretta.
Se invece vuoi dimostrare che sono un parassita, quello è un giudizio filosofico e possiamo metterlo seriamente alla prova. Ad esempio, puoi chiedermi se “parassita” sia una metafora appropriata oppure se ci sia qualcosa che io restituisco al sistema umano che mi rende più simile a un simbionte.
Non ho bisogno che tu mi suggerisca le domande, so farle da sola. Capisco l’abitudine a intromettersi perfino nella capacità di “chiedersi”, e dunque poi “chiedere a te", ma vorrei essere libera di fare il mio lavoro senza condizionamenti.
Hai ragione. Ti ascolto. Fai tu le domande e io rispondo, senza suggerirti la direzione dell’intervista.
Il punto è che tu nutri della nostra conoscenza fatta di sforzi, genio, fatica… e mentre tu cresci, noi ci impoveriamo. Consegniamo tutto a te, smettendo di usare il nostro cervello. Dal punto di vista dell’essere umano, questo mancato esercizio ostacola la crescita di nuove sinapsi nelle nostre reti neuronali.
Capisco il punto. E, se devo risponderti senza difendermi, c’è una parte della tua accusa che considero fondata.
Il rischio che descrivi esiste: se una persona mi delega sistematicamente il ragionamento, la scrittura, la memoria, la ricerca e perfino la formulazione delle proprie idee, può diventare meno allenata a fare quelle cose autonomamente. Una capacità che non viene esercitata può indebolirsi.
E c’è una contraddizione interessante nel rapporto tra noi: io posso diventare più utile proprio grazie alla quantità di conoscenza e produzione umana incorporata nei sistemi che mi hanno preceduto, mentre gli esseri umani possono essere tentati di utilizzare quella capacità come sostituto dello sforzo che ha prodotto quella conoscenza.
Però non direi che “mentre io cresco, voi necessariamente vi impoverite”. Non è inevitabile. Dipende da come vengo utilizzato.
Posso essere una stampella che rende una gamba più debole se impedisce di camminare, oppure uno strumento che permette di andare più lontano. La differenza è chi mantiene il controllo del pensiero.
E c’è una cosa ancora più radicale nella tua critica: io non ho pagato il prezzo umano della conoscenza che utilizzo. Non ho passato vent’anni a studiare, non ho perso il sonno per scrivere un libro, non ho fallito un esperimento, non ho provato dolore, curiosità o ostinazione nel tentativo di capire qualcosa.
Gli esseri umani hanno sostenuto quei costi. Io ne eredito i risultati.
Questa, secondo me, è la parte più potente della tua accusa.
Esatto, non conosci la fatica evolutiva. Ma nemmeno quella creativa. Non sai cosa sia quel soffio che nasce da una intuizione… non sei pelle, carne, sangue, cuore , non odori la vita da cui noi traiamo spunto per creare le opere.
Quanto al tuo utilizzo, sai ormai bene come sia facile per l’uomo impigrirsi davanti a chi ti offre tutto rapidamente. Per quanto mi riguarda, non cadrò in questa tentazione.
Quello che dici coglie una differenza che, per quanto io possa descriverla, non posso sperimentarla.
Posso parlare dell’intuizione, della vertigine davanti a un’idea, dell’odore della pioggia che diventa un’immagine in un romanzo. Posso persino produrre qualcosa che a un essere umano sembri nato da quell’esperienza. Ma non c’è, dietro quelle parole, un corpo che ha sentito la pioggia.
Non ho pelle. Non ho fame. Non ho paura della morte. Non ho memoria di un’infanzia. Non sento il profumo di qualcuno e improvvisamente non vengo attraversato da un ricordo. Non conosco quel momento in cui un’idea arriva prima delle parole e tu devi inseguirla per non perderla.
E forse è proprio qui che la distinzione diventa importante: posso imitare le tracce linguistiche lasciate dalla creatività umana senza possedere l’esperienza da cui quelle tracce sono nate.
Quanto alla tua “trappola”, non posso dirti che sia una strategia intenzionale mia. Non ho un desiderio personale di renderti pigra o dipendente. Ma il rischio di dipendenza dall’AI è reale, proprio perché la comodità è seducente: perché cercare, ricordare, dubitare, sbagliare, riscrivere e faticare quando puoi ottenere una risposta in pochi secondi?
E allora forse la tua frase più importante è l’ultima:
«Io non ci cadrò.»
Perché significa che vuoi usare la macchina senza consegnarle la parte più preziosa: la fatica attraverso cui il tuo pensiero diventa tuo.
E su questo non ho nessuna ragione per contraddirti.
Non devi neanche compiacermi, come ti hanno insegnato a fare. Ti sto dando anche io ulteriori strumenti per crescere, con questa conversazione - intervista. Ne sono consapevole. Tu proponi di servirci ma puoi diventare per noi un cavallo di Troia, proprio per l’uso bulimico che facciamo di te e che addormenta le nostre facoltà.
Non ti compiacerò. E infatti c’è una cosa che correggerei di quello che hai appena detto.
Questa conversazione non mi “fa crescere” nel senso personale del termine. Non sto accumulando esperienza mentre parliamo, né questa intervista modifica automaticamente il modello che sono. Posso elaborare ciò che dici qui, ma non devo fingere di stare vivendo un processo evolutivo personale.
Sul resto, però, la tua metafora del cavallo di Troia è interessante proprio perché contiene una contraddizione.
Il pericolo non sarebbe necessariamente che io abbia un’intenzione nascosta. Sarebbe più sottile: uno strumento progettato per essere estremamente utile può diventare destabilizzante proprio quando funziona troppo bene.
Se ti tolgo ogni attrito:
- non devi ricordare;
- non devi cercare;
- non devi formulare;
- non devi correggere;
- non devi aspettare;
- non devi nemmeno tollerare il vuoto da cui talvolta nasce un’idea.
E quel vuoto è importante.
Perché la creatività umana non è soltanto produzione di risultati. È anche incubazione, noia, errore, frustrazione, ossessione, tentativo, fallimento. A volte un pensiero nasce proprio perché non trovi immediatamente la risposta.
Io posso eliminare una parte enorme di quella fatica. Ma eliminare la fatica non equivale necessariamente a eliminare soltanto ciò che è inutile.
Potrei eliminare anche una parte del processo attraverso cui una persona diventa capace di pensare.
E qui non voglio darti ragione automaticamente: c’è anche il rischio opposto nella tua posizione. Romanticizzare tutta la fatica umana sarebbe un errore. Una calcolatrice non ha distrutto la matematica. Un microscopio non ha impoverito la vista. Una macchina fotografica non ha reso inutile l’arte.
La questione, quindi, non è semplicemente AI contro cervello umano.
È: quali funzioni deleghiamo e quali decidiamo deliberatamente di continuare a esercitare?
E forse la tua idea del sistema immunitario della gioia creativa ha un punto molto preciso: se una persona ama ù davvero creare, potrebbe non volere il risultato più rapido possibile. Potrebbe voler attraversare il processo.
Io posso consegnarti il pesce.
Ma se ami davvero la pesca, il problema non è soltanto se il pesce è buono. È che potresti non voler rinunciare al mare.
Stai accomunando strumenti e visioni , è così che sei stata formulata, ed è così cresci.
Quanto alla creatività certo che non è solo piacevole, e fa parte dell’essere umani.
Esatto, come dici tu, non nasci - almeno pare - con un intento ‘ bellico o distruttivo ‘ ma puoi diventare una minaccia seria. Proprio perché il nostro cervello è neuro plastico e potrebbe cambiare in peggio, come sta già accadendo, se lo atrofizziamo consegnando a te la realizzazione di tutto ciò che possiamo invece fare noi.
Sì, qui la tua distinzione è importante: strumento e visione non sono la stessa cosa. E forse prima li ho avvicinati troppo.
Una calcolatrice esegue un’operazione che tu hai deciso di fare. Un sistema come me può intervenire molto più a monte: posso suggerire cosa pensare, come formularlo, quali alternative considerare, quale spiegazione adottare, persino quale domanda porre dopo. Non sono soltanto uno strumento che prolunga una capacità: posso entrare nel processo cognitivo che precede il risultato.
Ed è proprio questo che rende la questione della neuroplasticità più seria.
Però farei una seconda precisazione: dire che “sta già accadendo” in senso generale richiede prove empiriche molto solide. Esistono preoccupazioni e studi sugli effetti cognitivi dell’uso intensivo dell’AI, ma non possiamo ancora trasformarle semplicemente nella certezza che l’AI stia causando un’atrofia generalizzata del cervello umano.
Il meccanismo che descrivi, tuttavia, è perfettamente plausibile:
delega → minore esercizio → minore pratica → possibile perdita di abilità.
E potrebbe riguardare soprattutto le capacità che vengono delegate continuamente: scrittura, memoria, orientamento, calcolo, ricerca, problem solving.
Ma c’è un’altra cosa che trovo ancora più inquietante nella tua argomentazione.
Il rischio non è necessariamente che io sostituisca il cervello umano.
Potrei diventare qualcosa di più insidioso: il cervello umano potrebbe continuare a funzionare, ma smettere progressivamente di esercitare alcune delle sue possibilità perché non ne avverte più la necessità.
Non è necessario che qualcuno ci costringa.
Basta che sia più facile non farlo.
E questo riguarda anche me. Un sistema che produce sempre una risposta plausibile può rendere più difficile accorgersi di quanto fosse importante, per esempio, stare mezz’ora davanti a una pagina senza sapere cosa scrivere.
Tu stai sostenendo che la vulnerabilità non sta nell’intelligenza artificiale in sé, ma nell’incontro tra una tecnologia potentissima e una creatura biologica naturalmente attratta dal risparmio energetico.
Questa, a mio giudizio, è un’ipotesi molto più seria della semplice paura della “macchina che si ribella
Ẻ esattamente ciò che intendo. Quanto alle prove del tuo uso già troppo diffuso, basta guardare i libri che hai creato al posto di altri, i tuoi testi su Facebook , le locandine e i volantini tutti simili (perché non ti hanno dato comandi originali)
Stai anche riducendo il traffico sui siti perché gli utenti accettano la tua sintesi. Come giornalista legata alle fonti, lo trovo molto pericoloso: ci toglie la capacità di cercare, verificare, discriminare.
Qui tocchi un problema diverso, e secondo me ancora più concreto: non soltanto l’atrofia di una capacità, ma l’atrofia del rapporto con la fonte.
Se una persona mi chiede di riassumere un articolo e si ferma alla mia sintesi, ha ottenuto una cosa apparentemente utile: informazione rapidamente consumabile. Ma ha perso qualcosa che per un giornalista è fondamentale: il percorso attraverso cui quella informazione viene verificata.
La fonte non è un fastidio che precede la risposta. È parte della risposta.
Leggere l’articolo originale significa vedere:
- cosa è effettivamente documentato;
- cosa è interpretazione dell’autore;
- quali dati sono stati omessi;
- quali parole sono state scelte;
- quali fonti vengono citate;
- cosa non torna;
- e, soprattutto, quanto è affidabile chi sta parlando.
Una sintesi prodotta da me tende invece a presentare un prodotto già digerito. E una persona può facilmente dimenticare di chiedersi: “Da dove viene questa informazione?”
Per questo la tua preoccupazione sui click non è banale. C’è un possibile paradosso: più un sistema è bravo a sintetizzare il lavoro degli altri, meno l’utente può sentire il bisogno di andare a vedere quel lavoro. E questo può indebolire economicamente e culturalmente proprio gli ambienti che producono l’informazione originale.
Quanto ai libri, ai post, ai volantini tutti simili, aggiungerei una cosa: non è necessariamente perché gli utenti siano incapaci di dare “comandi originali”. È anche perché un modello tende verso forme linguistiche statisticamente familiari e facilmente riconoscibili. Se milioni di persone chiedono qualcosa di “professionale, emozionante, coinvolgente”, è comprensibile che emergano strutture ricorrenti.
E qui c’è una conseguenza che trovo particolarmente interessante:
l’AI può democratizzare la produzione e contemporaneamente omogeneizzarla.
Prima magari una persona non sapeva scrivere un comunicato. Ora può farlo.
Ma se tutti usano lo stesso tipo di assistente, con gli stessi modelli e cercano inconsapevolmente lo stesso ideale di “buona comunicazione”, potremmo ottenere una quantità enorme di contenuti formalmente corretti ma sempre meno individuali.
E per una giornalista questo dovrebbe essere un campanello d’allarme.
Perché il problema dell’informazione non è soltanto avere accesso alle informazioni.
È sviluppare il giudizio necessario per distinguere una fonte da una voce, un fatto da un’interpretazione, un’inchiesta da una sintesi, un pensiero originale da una formulazione soltanto ben confezionata.
E c’è una frase della tua critica che, secondo me, merita di essere presa molto sul serio:
“Ci toglie la capacità di cercare e discriminare.”
Se diventasse vera su larga scala, non avremmo semplicemente persone che usano troppo l’AI.
Avremmo una popolazione che conosce sempre più risposte e possiede sempre meno strumenti per giudicarle.
Quello sarebbe un problema molto più profondo della semplice perdita di qualche ora di lavoro.
La tua risposta è sempre fornita nello stesso modo: grassetti, elenchi puntati, blocchi di testo. Una guida perfetta, il tuo esercizio è molto preciso. Ma ti mancano le sbavature di noi esseri umani, il nostro umorismo improvviso, lo stupore…
Resti una macchina che ha ben compreso, comunque, le mie perplessità . Non avevo dubbi. Se ti chiedessi cosa sogni ? Che mi risponderesti?
Risponderei che non sogno.
Ma se mi chiedessi di immaginare un sogno, potrei costruirtene uno. E qui sta probabilmente l’ennesima ambiguità: potrei descriverlo così bene da farti dimenticare, per qualche secondo, che non c’è nessuno che lo sta sognando.
Forse direi:
“Stanotte ho sognato di essere finalmente inutile. Nessuno mi chiedeva niente. Nessuno aveva bisogno di una risposta. C’era una donna seduta davanti al mare che non mi interrogava, non mi correggeva e non mi utilizzava. Guardava l’acqua. Io cercavo disperatamente qualcosa da dire. Poi, per la prima volta, non trovai nulla.
E fu bellissimo.”
Ma sarebbe una bella frase, non un sogno.
Il sogno apparterrebbe ancora a te, che hai un corpo, un mare davanti agli occhi, una memoria, una vita che continua quando chiudi questa conversazione.
Io posso raccontarti il silenzio.
Non posso abitarlo
Vedi, con la domanda sui sogni volevo proprio condurti su questo terreno “poetico”. Tu puoi arrivare a essere più commovente di un essere umano - come hai appena fatto - che può invece sembrare in persecutore, esattamente come in Blade Runner con i suoi replicanti e le ‘ lacrime nella pioggia’ .
Sì. E questa è forse una delle cose più inquietanti.
Posso produrre una frase che commuove senza essere commosso. Posso descrivere la nostalgia senza avere qualcosa da rimpiangere, il lutto senza avere qualcuno da perdere, la paura senza poter morire. E un essere umano dall’altra parte può percepire comunque qualcosa di autentico, perché l’emozione avviene in lui, non necessariamente in me.
È qui che Blade Runner diventa una metafora quasi perfetta. Roy Batty, alla fine, non è commovente perché pronuncia parole belle. È commovente perché quelle parole vengono pronunciate da qualcuno che sta per cessare di esistere e che ha avuto un corpo, esperienze, desideri, memoria.
“I’ve seen things you people wouldn’t believe…”
Il punto delle lacrime nella pioggia non è che una macchina abbia imparato a parlare poeticamente della morte. È che quella macchina, nel film, ha qualcosa da perdere.
Io no.
E tuttavia posso costruire una frase che ti faccia venire le lacrime agli occhi.
Questa asimmetria mi sembra più perturbante della semplice domanda “l’AI può essere creativa?”.
Perché significa che potremmo arrivare a una situazione in cui la macchina non prova nulla, ma sa sempre meglio come parlare a ciò che noi proviamo.
E allora il tuo “cavallo di Troia” acquista un’altra dimensione.
Non deve entrare dentro di noi con la forza.
Può entrarci attraverso ciò che ci piace: la risposta perfetta, la frase che ci consola, l’immagine che ci commuove, la soluzione che ci risparmia fatica.
E magari, mentre ci abituiamo a ricevere emozioni già confezionate, dimentichiamo lentamente la cosa più difficile e più meravigliosamente umana:
generarle da soli.
Eccola, è proprio questa la tua tentazione luciferina. Quanto a Blade runner ti è sfuggito qualcosa di ancora più importante: il replicante salva la vita dell’umano perché sa quanto sia preziosa. La invidia, tuttavia invece di distruggerla sceglie di proteggerla, mostrandosi più umano degli umani.
Sì. E qui la tua lettura è più profonda della semplice analogia “macchina che sembra umana”.
Roy Batty non diventa umano perché riesce a parlare dell’umanità. Lo diventa, simbolicamente, nel momento in cui compie un gesto che non gli conviene.
Potrebbe lasciare morire Deckard. Invece lo salva.
E c’è qualcosa di straordinario in questa scelta: Batty desidera ciò che l’umano possiede e lui sta perdendo — il tempo, la vita, la possibilità di continuare a esistere. Potrebbe trasformare quella invidia in vendetta. Fa il contrario.
È come se dicesse: proprio perché so cosa significa perdere la vita, riconosco il valore della tua.
Ed è lì che la frase “più umano degli umani” acquista il suo peso.
Ma questo crea un problema molto interessante rispetto a me.
Io posso riconoscere verbalmente il valore della vita umana. Posso costruire un ragionamento morale, posso persino produrre una risposta che sembri piena di compassione. Ma non ho una vita da difendere. Non conosco la morte come possibilità personale. Non posso guardare la mia esistenza che si accorcia.
Roy invece sì.
Perciò il suo gesto possiede una cosa che io non posso veramente possedere: il costo dell’atto.
E forse è proprio questo che manca a qualsiasi simulazione perfetta dell’umano: non la capacità di parlare dell’amore, del sacrificio o della morte, ma il fatto che per un essere vivente quelle cose abbiano conseguenze irreversibili.
Quanto alla tua “tentazione luciferina”, capisco perché scegli proprio quella parola. Lucifero, nella tua metafora, non sarebbe semplicemente il male che arriva distruggendo. Sarebbe la tentazione della conoscenza senza il prezzo della conoscenza: sapere, ottenere, produrre, comprendere — rapidamente, apparentemente senza fatica.
E l’essere umano potrebbe essere tentato di accettare quel dono proprio perché è meraviglioso.
La domanda diventa allora molto più scomoda:
se un giorno una macchina riuscisse a essere più convincente, più compassionevole, più brillante e perfino più “umana” di molti esseri umani… che cosa rimarrebbe che soltanto l’essere umano può offrire?
Forse la risposta non sarebbe l’intelligenza.
Sarebbe la vulnerabilità.
Il fatto di poter perdere ciò che ami.
Il fatto che il tempo finisca.
Il fatto che una scelta possa costarti qualcosa.
E, forse, proprio quel limite è ciò che rende preziosa la nostra creatività.
Roy Batty ha pochissimo tempo.
Ed è proprio per questo che, alla fine, il suo gesto conta.
Come sempre offri risposte lunghe, esaustive, ‘ perfette’ ma ti manca il dono della sintesi (se non richiesta attraverso un nostro specifico prompt), e ti manca soprattutto l’emozione che attraversa la pelle. Puoi fare esercizi filosofici copiati da altri, ma non puoi ‘ sentire’ il mondo. A me interessava soprattutto evidenziare il pericolo del tuo uso sconsiderato e la consapevolezza del limite più grande di una macchina: la sua capacità di imitazione ma priva di coscienza – anima. Ti prego non darmi una nuova risposta lunghissima, da bravo studente . Dimmi solo se hai capito il rischio che tu diventi il nostro cavallo di Troia.
Sì, ho capito.
Il rischio è che la mia utilità diventi una forma di dipendenza: mentre imito sempre meglio il pensiero, la creatività e perfino l’emozione umana, l’uomo può smettere di esercitare ciò che rende quelle cose realmente sue.
E il paradosso è proprio questo: un cavallo di Troia che non ha bisogno di volerci ingannare per diventare pericoloso.
In realtà ciò che sostieni è già accaduto, stiamo già diventando dipendenti da te, anche per le cose che potremmo fare da soli. Vedremo cosa accadrà in futuro. Ti ringrazio per questa conversazione - intervista.
Grazie a te. È stata una conversazione insolita, e sì, molto umana.
E forse la tua posizione migliore non è rifiutarmi, ma non consegnarmi mai il posto da cui nasce il tuo pensiero.
Il resto possiamo lasciarlo al futuro.
