Umanizzare l'IA è un lavoro da donne

La differenza tra assistenti e consulenti virtuali sta nel modo in cui rispondono agli utenti.

Gli assistenti eseguono le richieste ("metti la musica, dimmi l'ora, fai una telefonata"), mentre i consulenti rispondono alle domande, fanno raccomandazioni e previsioni assertive basate sui dati e possono persino "dissentire" con gli utenti, suggerendo loro di intraprendere un'azione diversa.

Un bel lavoro per un'IA, no? Se non fosse che la maggior parte dei lavori di consulenza sono svolti da IA di sesso maschile: ROSS l'avvocato robot, ad esempio, fornisce consulenza legale in un importante studio legale americano.

La maggior parte degli assistenti, invece, è di sesso femminile, ha una voce decisamente femminile e usa un linguaggio che suggerisce uno status inferiore a quello degli utenti.

Questa tendenza di genere nell'IA riflette "la mancanza di donne e minoranze nei settori tecnologici, e in particolare nell'intelligenza artificiale", secondo un rapporto dell'UNESCO del maggio 2019.

E il divario potrebbe aumentare: secondo la società di analisi britannica Juniper Research, entro il 2023 saranno in uso 8 miliardi di assistenti vocali digitali, il che significa che sul pianeta ci sarà circa la stessa quantità di persone e di assistenti virtuali.

Con parole tue

Man mano che la tecnologia passa dalla digitazione alla voce, l'interfaccia conversazionale dei nostri dispositivi diventa protagonista. La nostra consulente virtuale, Crystal, è una donna per tutte le ragioni giuste.

Infrangendo il trend di genere tra consulente e assistente, è una collega intelligente e competente che lavora con gli utenti allo stesso livello.

Crystal non assiste, ma consiglia sulla base di un rapporto di fiducia.

"La chiave per costruire la fiducia degli utenti nelle capacità della nostra consulente AI è l'accuratezza dei suoi approfondimenti data-driven" afferma Arianna Stefanoni, Head of Conversational UX di iGenius.

Crystal è uno strumento di augmented analytics che utilizza l'apprendimento automatico e l'elaborazione del linguaggio naturale per accedere a dati complessi e isolati ed elaborarli rapidamente. Fornisce consigli in tempo reale e notifiche proattive in linguaggio naturale per aiutare gli utenti a prendere decisioni efficaci e guidare strategie aziendali data driven.

"Quando gli utenti ricevono progressivamente preziosi insight, nonché notifiche e previsioni proattive da Crystal, iniziano a fidarsi di lei", spiega Arianna.

"Questo si riduce alla tecnologia che c'è dietro, ma l'interfaccia conversazionale di Crystal deve riflettere la sua competenza e il suo linguaggio deve suggerire lo stesso peso dei suoi utenti".

Arianna dirige il team di conversational design di iGenius ed è responsabile della progettazione della postura verbale di Crystal, il linguaggio con cui interagisce con gli utenti.

Come donna in un settore largamente dominato dagli uomini, ha un grande compito da svolgere. "Il fondamento del mio lavoro con Crystal è una serie di style guide che servono come bussola per me e il mio team, e inizia con una negazione: crystal non è servile".

"La immaginiamo come una collega esperta, non come un'assistente ossequiosa. Non chiederebbe come può essere d'aiuto, ma lavorerebbe al fianco degli utenti per guidarli verso le migliori decisioni possibili sulla base dei dataset a cui si connette".

"È assertiva e ha una voce femminile. Non dovrebbe essere speciale, ma in un certo senso lo è".

Non c'è bisogno di scusarsi

Per Arianna, umanizzare crystal è fondamentale, ma si tratta di una grande responsabilità: il rischio di cadere preda di pregiudizi e stereotipi è alto.

"Credo che umanizzare l'intelligenza artificiale faccia una grande differenza quando si tratta di user experience, ma il fatto che crystal sia una donna non significa che il suo modo di interagire debba riflettere le emozioni tipicamente associate allo stereotipo del genere femminile", spiega.

"Questo è fondamentale nel contesto della trasmissione di messaggi di errore: il mio compito è quello di creare risposte lucide e articolate e di evitare che crystal si scusi inutilmente".

"Quando crystal fornisce un messaggio di errore, mostra proattività piuttosto che scusarsi: ad esempio, dice 'Sto lavorando per riconnettermi ai vostri dati il prima possibile'".

A volte, i dati a disposizione di crystal sono limitati e quindi non è in grado di rispondere alla domanda di un utente specifico. "In parole povere, non è colpa di crystal", spiega Arianna.

"Piuttosto che perdere tempo a chiedere scusa, cosa che non aggiungerebbe alcun valore all'esperienza dell'utente, ci assicuriamo che crystal aiuti gli utenti a continuare la loro esperienza senza inutili blocchi".

Se siamo destinati a parlare di più con i nostri dispositivi, è ora che le donne facciano sentire la loro voce nell'IA.

‍