Conversational AI & Bias: come ripensare la progettazione delle conversazioni alla luce dei bias.

Copertina dell'articolo "Conversational AI & Bias"

Indice dei contenuti

Tempo di lettura: 6 minuti

Il termine “Bias” – o meglio “Bias cognitivo” – indica un giudizio (o una percezione) non pienamente oggettivo, bensì influenzato da un’idea magari superficiale che ci siamo fatti su una determinata situazione. Possiamo parlare tranquillamente anche di vero e proprio “pregiudizio”, che l’essere umano ha sviluppato nel corso della sua esperienza e che si è sedimentato col tempo fino a divenire parte della sua cultura individuale, portandolo spesso ad un errore di valutazione di fronte ad uno specifico fenomeno sociale.

Link video: International Women’s Day- Can You Solve the Riddle? (Mindspace)

L’Intelligenza Artificiale (IA) si nutre di dati che sono forniti alla macchina attraverso l’intervento umano, perlomeno nella sua fase iniziale. La capacità di inferenza di uno strumento di IA trae origine quindi dal dato che vi è stato caricato al suo interno e come tale, la sua cultura risente quindi dei bias di colui o coloro che lo hanno sviluppato e inserito. 

Tutto ciò non è solo letteratura, ma realtà documentata.

UN’ ESPERIENZA PERSONALE

All’incirca un anno fa, chi vi scrive, si è ritrovato esattamente in una situazione simile. Nella stesura di una base di conoscenza (ovvero l’insieme di tutte le domande e relative risposte iscritte nella memoria di un assistente virtuale) di supporto ad un servizio di e-commerce, mi sono reso conto che le frasi con cui esso si rivolgeva ai potenziali clienti erano tutte declinate al maschile. In particolare, tutte quelle frasi e quelle parole di circostanza con cui si introduce di solito una conversazione o si cerca di stimolarla, non erano affatto neutre ma presentavano un “bias” di genere. Vi erano espressioni del tipo “benvenuto” oppure domande di ingaggio come ad esempio “a cosa sei interessato?”, “puoi essere più specifico?”

Il ruolo di conversation designer deve tenere conto di queste sottigliezze che possono fare la differenza nella progettazione di un buon sistema di Intelligenza Artificiale e mettere da parte certe chiusure mentali che hanno portato ad esempio il sottoscritto, esponente del genere maschile, a pensare di rivolgersi in maniera inconscia esclusivamente al proprio “clan di appartenenza” ovvero a un uomo invece che a una donna. Non si tratta solo di un aspetto formale, ma di una modalità di inclusione dell’utente/cliente che se non rispettata genera una forma, comunque rilevante, di discriminazione. 

TIPOLOGIA DI BIAS

La letteratura scientifica e cognitiva hanno cercato entrambe di standardizzare varie tipologie di bias. 

Il seguente è un elenco che tiene conto delle varie tipologie di distorsioni che possono emergere in modo preminente nella stesura della base di conoscenza di un assistente virtuale:

  • Gender Bias: l’esempio appena descritto rappresenta un manifesto perfetto di questa tipologia di scarto della mente umana. Raramente si pensa in maniera neutrale, ma ci si rapporta sempre al genere al quale si appartiene.
  • Affection bias: quando tendiamo a prendere decisioni più legate all’emozionalità che alla razionalità. Questo bias può portare ad esempio a descrivere un progetto, un prodotto, un asset aziendale sul quale abbiamo lavorato e a cui siamo quindi particolarmente legati, omettendo dei difetti o dei punti di criticità.
  • Confirmation bias: quando tendiamo a inscrivere in un dato contenuto informazioni veritiere che confermano le nostre idee o sensazioni in merito. Come conversation designer, non sempre siamo in grado di fornire risposte nette e ben definite: questo è dovuto anche ad una mancanza di una conoscenza tecnica dell’argomento trattato, tale per cui la spiegazione fornita, ricalca più un’idea che ci siamo fatti, rispetto al reale funzionamento di ciò che si sta descrivendo.
  • Illusion of superiority: quando ci sentiamo al di sopra della media e prendiamo decisioni affrettate pensando che la nostra interpretazione delle cose sia per forza quella giusta. Il conversation designer crea flussi di conversazione che inducono l’utente a concentrarsi su dei contenuti ben specifici, ma non è detto che siano quelli che cerca. In particolar modo ciò accade quando sotto una domanda compaiono dei suggerimenti che hanno la funzione di incanalare l’interesse in una determinata direzione. Siamo sicuri che è quello che il nostro cliente vuole?
  • Survivorship bias: quando siamo portati a sovrastimare determinati casi che sembrano di maggior importanza rispetto ad altri apparentemente meno fondamentali. Il conversation designer può essere tratto in inganno da questa sensazione, sviluppando un flusso di comunicazione su argomenti che in quel momento sono più “in trend” e tralasciando tutta un’altra serie di issues che sono comunque fondamentali per l’utente che si collega con il dispositivo di Intelligenza Artificiale. Molto spesso infatti ciò che suscita più clamore non è detto che rappresenti per forza la maggioranza delle tendenze in quel momento in voga. 
  • Recency Bias: quel particolare bias che ci permette di estrapolare più facilmente nella nostra memoria le informazioni più recenti.

COME EVITARE DI INFLUENZARE I DATI – LE BEST PRACTICES

Trovare delle Best Practices che permettano di stabilire una sorta di guida per ridurre l’influenza dei bias cognitivi è un’impresa in via di definizione e che, essendo relativa appunto alla sfera psicologica dell’uomo, risulta tutt’ora mutabile e costantemente work in progress. Ci sono però degli accorgimenti utili da seguire per cercare di rimanere quanto più obiettivo possibile:

  • CONSAPEVOLEZZA: Conoscere l’esistenza dei bias cognitivi è un primo passo per la costruzione di una base di conoscenza più obiettiva.
  • RACCOLTA DEI DATI: avere una panoramica esaustiva dei dati che descrivono l’argomento trattato è una condizione necessaria e indispensabile. Solo in questo modo possiamo sapere come costruire dei contenuti completi che tengano conto di tutte le esigenze. Per un conversation designer questo aspetto risulta fondamentale per dare vita a una knowledge base equilibrata. Per questo motivo è utile, prima di iniziare la stesura di un flusso di comunicazione, analizzare molto bene l’argomento, il target di riferimento e confrontarsi costantemente con il cliente. 
  • COMPETENZA: Ogni assistente virtuale deve essere gestito da un conversation designer che sia competente su quell’argomento. Questa “cultura” può essere già presente oppure va costruita. Una buona conoscenza della materia trattata è un’ottima base di partenza che può anche permettere di sopperire a una minore quantità dei dati immagazzinati all’inizio, ma può presentare altresì una controversia. Essere troppo esperto, può portare infatti il conversation designer a cadere vittima ad esempio del bias dell’illusion of superiority, trattato in precedenza.  
  • TEAM: La dicitura “lavorare in team” è una costante della maggior parte degli annunci di lavoro. E dovrebbe valere anche per i conversation designer. Quattro mani e due cervelli permettono di filtrare meglio ogni tipo di giudizio distorto e contribuiscono a creare un approccio decisamente più neutrale. I bias dell’uno sono bilanciati dai bias dell’altro nella speranza in questo modo di riuscire ad imboccare più facilmente una via di mezzo.
  • MULTIDISCIPLINARIETÀ: Per fare dell’Intelligenza Artificiale uno strumento davvero utile e migliorativo per la qualità della vita degli esseri viventi, la componente primaria da cui partire è inevitabilmente proprio quella umana che trasmette le proprie caratteristiche esperienziali e culturali nello strumento tecnologico. Questa è la best practice a cui dedicheremo maggiore spazio perché non rappresenta solo un punto di partenza, ma una vera e propria filosofia e metodo di selezione del personale messo in atto già da qualche anno dalle principali aziende a livello mondiale.

Leggi anche:” Migliorare la base di conoscenza del tuo assistente virtuale con gli utenti

LA COMPONENTE UMANISTICA

Le distorsioni sull’interpretazione di determinati fenomeni sociali che formano l’attitudine dell’individuo, rischiano di entrare all’interno della macchina, replicando in maniera artificiale i comportamenti pregiudizievoli mostrati all’interno della società civile. Riuscire ad individuarli è difficilissimo ed è qui che entra in gioco l’altro fattore sul quale è necessario investire intensamente: la componente umanistica. Sempre più spesso le grandi aziende che operano nel settore delle tecnologie stanno assumendo all’interno dei loro organici figure come psicologi, filosofi ed esperti in comunicazione che hanno il compito di depurare l’effetto distorsivo prodotto dai bias derivanti dal caos della mente umana. 

Il compito di queste “nuove figure”, estranee al contesto puramente ingegneristico e informatico,  non è quello di cancellare i pregiudizi, quanto piuttosto di saperli riconoscere e analizzare prima che i dati siano filtrati all’interno di una memoria artificiale. Oltre a un mercato economico c’è quindi prima un mercato del pensiero da conquistare. Capire i trend principali dei flussi  della mente del target umano di riferimento è la prima operazione da compiere per avere successo e per costruire un’Intelligenza Artificiale immediatamente reattiva, capace di anticipare e intercettare le istanze del cliente/consumatore in tutte le sue molteplici sfaccettature.

Le preesistenti credenze che affollano il pensiero degli esseri viventi non si cancellano da sole, l’Intelligenza Artificiale non ha la capacità di neutralizzarle una volta che le assimila, non è questo il suo compito e sarebbe sbagliato pretenderlo. La domanda corretta da porsi allora non è quanto sia performante un dispositivo di Intelligenza Artificiale, ma piuttosto quanto umano esso sia.

GENITORI DIGITALI

In conclusione, bisogna pensare agli algoritmi un po’ come a dei piccoli bambini da educare. Se a un bimbo non si dice che a tavola si mangia seduti e non in piedi, lui continuerà a tenere questo comportamento sbagliato anche da adulto. 

Gli aspetti sociali, nelle loro molteplici forme culturali, tradizionali e di costume, non sono elementi superflui, ma parte integrante di questo mondo e come tali necessitano di essere analizzati attentamente  da profili specifici, per poter fare in modo che una funzione artificiale sappia rispondere sempre in maniera aggiornata alle esigenze e ai gusti che cambiano.

Il conversation designer deve quindi essere un comunicatore a 360°, deve tener conto di tutti i modelli pragmatici, cognitivi e anche persuasivi su cui la comunicazione stessa si basa. Non si tratta solo di una trascrizione di contenuti, ma anche e soprattutto di anticipare le inferenze dell’utente, capire quello che cerca e in che modo vorrà ottenere una determinata informazione.