Quando parlo con una persona in carne ed ossa, c’è una bella differenza tra la percezione delle sole parole che sta pronunciando con dei suoni significativi, e la vera percezione del pensiero che si veicola con quelle parole. Di una persona che si dirige a me, capisco quello che dice e capisco quello che mi vuol dire, il suo pensiero. C’è infatti una differenza tra le due percezioni che va notata. Naturalmente, se c’è familiarità con la persona, certe parole e frasi ricorrenti possono farmi anticipare sul suo pensiero, ma può essere fuorviante non attendere che il pensiero sia formulato nella sua sfumatura completa. Cosa che causa conversazioni continuamente interrotte, malintesi, dialoghi tra sordi, perché non si attende la completa formulazione del pensiero dell’altro, o quel pensiero zoppica di suo. In altre parole, nella viva relazione con la persona che emette le parole posso immediatamente trasportarmi per mezzo delle parole dentro l’anima di quella persona che sta là pensando, di questo essere capace di pensieri, e ciò richiede un senso più profondo del semplice senso dell’udito che percepisce la parola. È richiesto il senso del pensiero, il senso che percepisce il pensiero altrui.
Un conto è capire ciò che l’altro dice e un altro è capire ciò che l’altro vuol dire: nel primo caso faccio uso del senso che percepisce la parola, nel secondo sono attivo nella percezione del pensiero, cioè vado al di là delle parole, perché queste non sono tutto ciò che l’altro vuol comunicare, le parole non si identificano mai, al cento per cento, col significato che vogliono esprimere,
Il concetto della testa non è la parola testa; per avere il concetto della testa dovrei stare zitto, dovrei unicamente pensare: se esprimo questo concetto con la parola testa faccio un salto mortale da un concetto che è esaustivo, universalmente umano, ad un aspetto particolare espresso tramite il linguaggio. Ecco perché sono due cose diverse il percepire le parole e poi, tramite queste, percepire il concetto, il pensiero, e infatti diciamo: “Cerca di capire cosa voglio dire e non solo quello che dico”.
Tutto questo lungo preambolo fa capire le perplessità circa l’attendibilità dell’IA.
Oggi, i modelli di linguaggio della sedicente IA sono basati su una quantità di dati e di frasi impressionanti, un dataset enorme. Tramite le domande e richieste dell’utente, il modello identifica l’area semantica in cui ricorrono determinate parole. Poi viene formulata la risposta, non in base al significato delle parole e dei concetti sottesi, ma in base alla loro ricorrenza. In soldoni: il sistema simula la plausibilità del linguaggio di risposta in base alla probabilità che appaia una sequenza di parole in quel contesto. È una simulazione in piena regola di un comportamento umano, uno specchio.
A me pare che la simulazione che fa l’IA abbia questo difetto d’origine, nel senso che si basa su ricorrenze e ridondanze di parole. E qui interviene la familiarità di ritorno di quelle parole, e quindi la tendenza a proiettare credibilità, favorita anche da scelte in fase progettuale di imitazione della voce che apparirà naturale. C’è una buona dose di antropomorfismo nell’assistente virtuale, che può assomigliarsi a un confidente che asseconda, dà ragione, accondiscende. Si può generare l’illusione della conoscenza: la risposta credibile ma non corretta. Avendo ricevuto un contenuto confezionato, non siamo in grado di discernere.
