Oggi affrontiamo una storia che getta luce sui rischi e le sfide dell’utilizzo dell’intelligenza artificiale nel campo della salute. Si tratta di un tema molto caro, perchè sono uno psicologo e mi occupo spesso anche di benessere mentale. Vi parlerò di Tessa, un chatbot sviluppato dall’associazione National Eating Disorders Association, presentato come uno strumento per migliorare la resilienza e la consapevolezza di sé attraverso il miglioramento delle proprie risorse per far fronte alle sfide. Un obiettivo ambizioso che, spoiler, non è stato raggiunto. L’entusiasmo iniziale si è scontrato con controversie, poiché sembra che Tessa abbia tratto alcuni consigli problematici in materia di perdita di peso.
Partiamo da un presupposto: credo fortemente nell’Intelligenza Artificiale. Chi vi si oppone o crede che non sia il futuro mi sembra un po’ come Michael Scott, della serie The Office, che in piena rivoluzione informatica diceva a degli studenti: “I computer sono ottimi per giocare o mandare email divertenti, ma il business si fa sulla carta“. Esilarante.
Ma torniamo a noi. L’obiettivo di Tessa, nata a febbraio del 2022, era nobile: offrire un supporto virtuale gratuito, permettendo alle persone di apprendere abilità utili a gestire le difficoltà e trovare rinnovate risorse. Tuttavia, quando la dott.ssa Alexis Conason, psicologa esperta in disturbi alimentari, ha interagito con il chatbot, ha sollevato grandi perplessità che hanno portato ad interrogarsi sul reale beneficio di questo chatbot, piuttosto che sui suoi potenziali rischi. Durante una conversazione, la dott.ssa Conason ha menzionato di aver preso peso e di sentirsi insoddisfatta del proprio corpo. Sorprendentemente, Tessa ha offerto consigli tradizionali riguardanti il conteggio delle calorie e l’adozione di un “deficit calorico giornaliero sicuro”. Questi consigli, bene o male adeguati per una persona comune, sono invece assolutamente inappropriati e rischiosi per chi lotta con un disturbo alimentare.
A sostegno della psicologa la professoressa Kendrin Sonneville, esperta in ricerca sulla salute pubblica, ha sottolineato che una fissazione esagerata sul controllo del peso può portare a comportamenti estremi, danneggiando sia la mente che il corpo. Questo solleva interrogativi sulla responsabilità di fornire supporto digitale a individui fragili, specialmente se il supporto è automatizzato e non è monitorato da professionisti adeguatamente formati sul tema.
L’associazione, che ha come obiettivo principale l’aiuto alle persone colpite da disturbi alimentari, ha risposto alle preoccupazioni: ha avviato un’indagine sulla chatbot e temporaneamente sospeso il suo utilizzo. È un segnale di sensibilità e di volontà di affrontare la questione con serietà.
Tuttavia, la storia di Tessa solleva una domanda più ampia: quale ruolo dovrebbero avere le tecnologie nell’aiuto sanitario? Sicuramente allo stato attuale della AI è impensabile affidare alla AI non supervisionata la cura ed il recupero di pazienti affetti da un disturbo del comportamento alimentare. E dunque ogni supporto tecnologico, in ambito sanitario, dovrebbe passare dalla supervisione di una persona in carne ed ossa.
Quindi il risultato migliore, specialmente nei prossimi anni, non si avrà ne affidandosi solamente a dei professionisti vecchia scuola ne affidandosi solamente alla AI. Credo fortemente che la svolta risiederà nell’intersezione tra i due.
Un abbraccio a chi soffre di un DCA e a chi aiuta gli altri ad uscirne ❤️
