La differenza tra assistenti e consulenti virtuali sta nel modo in cui rispondono agli utenti.
Gli assistenti eseguono le richieste (metti la musica, dimmi l'ora, fai una telefonata), mentre i consulenti rispondono alle domande, fanno raccomandazioni e previsioni assertive basate sui dati e possono persino "dissentire" con gli utenti, suggerendo loro di intraprendere un'azione diversa.
Un bel lavoro per un AI, no? Se non fosse che la maggior parte dei lavori di consulenza sono svolti da IA di sesso maschile: ROSS l'avvocato robot, ad esempio, fornisce consulenza legale in un importante studio legale americano.
La maggior parte degli assistenti, invece, è di sesso femminile, ha una voce decisamente femminile e usa un linguaggio che suggerisce uno status inferiore a quello degli utenti.
Questa tendenza di genere in AI riflette "la mancanza di donne e minoranze nei settori tecnologici, e in particolare nell'intelligenza artificiale", secondo un rapporto dell'UNESCO del maggio 2019.
E il divario potrebbe aumentare: secondo la società di analisi britannica Juniper Research, entro il 2023 saranno in uso 8 miliardi di assistenti vocali digitali, il che significa che sul pianeta ci sarà un numero di persone pari a quello degli assistenti virtuali.
Con parole proprie
Man mano che la tecnologia passa dalla digitazione alla voce, l'interfaccia conversazionale dei nostri dispositivi diventa protagonista. Il nostro consulente virtuale, crystal, è una donna per tutte le ragioni giuste.
Rompendo la tendenza di genere tra consulente e assistente, è una collega intelligente e competente che lavora con gli utenti allo stesso livello.
Crystal non assiste, ma consiglia sulla base di un rapporto di fiducia.
"La chiave per costruire la fiducia degli utenti nelle capacità del nostro consulente AI è l'accuratezza degli approfondimenti basati sui dati che fornisce loro", afferma Arianna Stefanoni, responsabile dell'UX conversazionale di iGenius.
Crystal è uno strumento di analisi aumentata che utilizza l'apprendimento automatico e l'elaborazione del linguaggio naturale per accedere a dati complessi e isolati ed elaborarli rapidamente. Fornisce consigli in tempo reale e notifiche proattive in linguaggio naturale per aiutare gli utenti a prendere decisioni efficaci e guidare strategie aziendali basate sui dati.
"Quando gli utenti ricevono progressivamente preziosi insight, nonché notifiche e previsioni proattive da crystal, iniziano a fidarsi di lei", spiega Arianna.
"Questo dipende dalla tecnologia che c'è dietro, ma l'interfaccia conversazionale di crystaldeve riflettere la sua competenza e il suo linguaggio deve suggerire lo stesso peso dei suoi utenti".
Arianna dirige il team di progettazione conversazionale di iGenius ed è responsabile della progettazione della postura verbale di crystal, il linguaggio con cui interagisce con gli utenti.
Come donna in un settore largamente dominato dagli uomini, ha un grande compito da svolgere. "La base del mio lavoro con il cristallo è una serie di linee guida di stile che servono come bussola per me e il mio team, e inizia con una negazione: Crystal non è servile".
"La immaginiamo come un'assistente competente e non ossequiosa. Non chiederebbe come può essere d'aiuto, ma lavorerebbe al fianco degli utenti per guidarli verso le migliori decisioni possibili sulla base dei set di dati a cui si connette."
"È assertiva e ha una voce femminile. Non dovrebbe essere speciale, ma in un certo senso lo è".
Non c'è bisogno di scusarsi
Per Arianna, umanizzare Crystal è fondamentale, ma si tratta di una grande responsabilità: il rischio di cadere preda di pregiudizi e stereotipi è alto.
"Credo che umanizzare l'intelligenza artificiale faccia una grande differenza quando si tratta di esperienza utente, ma il fatto che Crystal sia una donna non significa che il suo discorso debba riflettere le emozioni tipicamente associate allo stereotipo del genere femminile", spiega.
"Questo è fondamentale nel contesto della trasmissione di messaggi di errore: il mio compito è quello di creare risposte lucide e articolate e di evitare che Crystal si scusi inutilmente".
"Quando crystal fornisce un messaggio di errore, mostra proattività piuttosto che scusarsi: ad esempio, dice 'Sto lavorando per riconnettermi ai vostri dati il prima possibile'".
A volte, i dati a disposizione di crystal sono limitati e non le permettono di rispondere alle domande di un utente specifico. "In parole povere, questo non è colpa di crystal", spiega Arianna.
"Piuttosto che perdere tempo a chiederle di scusarsi, cosa che non aggiungerebbe alcun valore all'esperienza dell'utente, ci assicuriamo che crystal aiuti gli utenti a continuare la loro esperienza senza inutili blocchi".
Se siamo destinati a parlare di più con i nostri dispositivi, è giunto il momento che le donne facciano sentire la loro vera voce in AI.