Etica e Intelligenza Artificiale in ambito biomedico: chi si sta occupando di questa delicata questione?
L’Intelligenza Artificiale (IA) è in procinto di diventare uno strumento o, per meglio dire, un ambiente di sviluppo per la medicina e le biotecnologie del prossimo futuro.
Non sono molti i medici che stanno prendendo sul serio e con consapevolezza questo rapido ed inevitabile sviluppo digitale del loro lavoro che ha, nonostante quello che si crede comunemente, radici piuttosto lontane che risalgono agli anni ’70 (a tal proposito vi consiglio di leggere questo altro mio articolo sulla storia della IA e anche questo altro, più generale sull’influenza della IA nelle varie specialità mediche e nella sanità pubblica).
Molti indicatori legati agli investimenti dell’industria biomedica e informatica, al grosso numero delle startup con forti interessi nel campo (>1200 nei soli USA) ed al crescente numero delle pubblicazioni scientifiche sul tema, ci rivelano che questa epocale trasformazione del lavoro in medicina è molto più vicina di quello che si creda.
Purtroppo, ad oggi, l’Italia non ha fatto grossi investimenti al riguardo e le startup che potrebbero essere connesse ad IA e medicina o salute pubblica sono meno di 20
In che modo l’intelligenza artificiale farà il suo ingresso in medicina? Quali conseguenze avrà la sua presenza nel contesto sanitario reale?
A queste domando ho dato una risposta estesa in un precedente articolo, basato su diversi articoli che ho letto al riguardo. Vi riassumo alcuni punti importanti, solo per riferimento:
- Le attuali capacità di diagnosi e terapia dei sistemi di IA attuali sono già superiori a quelle del medico medio che opera nel contesto reale.
- L’IA cambierà definitivamente il lavoro di molti medici, infermieri ed altre professioni paramediche da qui a pochi anni. Probabilmente sarà necessario un numero inferiore di unità umane, e quelle che rimarranno necessiteranno di nuove competenze trasversali.
- Le persone, da diversi sondaggi effettuati, non sono contrarie all’utilizzo di sistemi digitali per diagnosi o terapia se questo migliora gli esiti e la prognosi.
- Tutte le specialità mediche, dalla radiologia alla psichiatria, saranno toccate da questo cambiamento.
- Molti posti di lavoro saranno disponibili per tutte le figure sanitarie dotate di competenze trasversali utili allo sviluppo di sistemi di IA per la medicina e le discipline biomediche.
La cosa che sembra importante da rilevare al momento è che a questo cambiamento imminente non corrisponde per nulla un sufficiente livello di interesse e di coinvolgimento delle figure sanitarie che lo vivranno in prima persona, sul campo, ovvero medici, infermieri e ricercatori biomedici.
L’Intelligenza Artificiale come “Black Box” o come Oracolo per la Medicina?
Un gruppo di medici della Stanford University sostiene che l’intelligenza artificiale solleva sfide etiche che i leader della sanità dovrebbero provare ad anticipare e ad affrontare prima di abbracciare “sul campo” questa tecnologia, al contrario di come avviene di solito in medicina.
Rimanere ignoranti sulla costruzione e sulla progettazione di sistemi di apprendimento automatico per diagnosi e terapia o permettere che vengano costruiti come “scatole nere” (“black box”) che emettono diagnosi e suggeriscono terapie, potrebbe portare a risultati eticamente problematici.
La domanda critica, in questo momento, è la seguente: chi si occuperà di gestire gli aspetti di programmazione e di generazione della base di dati di questi sistemi? Ingegneri, medici o nuove figure professionali in via di sviluppo? Quali conseguenze avranno sulla medicina le loro scelte? E sul piano economico?
Pochi medici esperti si aspettano che l’IA li sostituisca completamente, almeno non a breve termine e si immagina che il deep learning ed il machine learning verrà utilizzato principalmente come “supporto decisionale”, per aiutare i medici a indirizzare diagnosi accurate e piani di trattamento personalizzati.
Ma sarà realmente così? Molti sistemi di IA in sviluppo in questo momento avviseranno e supporteranno su questioni critiche, e raccoglieranno milioni di dati per fare questo, ma fino a quando la supervisione di un umano sarà indispensabile o semplicemente utile?
Per tutte queste delicate questioni, alcuni medici hanno pubblicato l’editoriale del NEJM nel quale si discute su come alcuni pregiudizi o o impostazioni “ideologiche” potrebbero inavvertitamente (o meno!) essere introdotti negli algoritmi.
Ciò è già stato dimostrato in altri settori che usano l’intelligenza artificiale. Per esempio, ad oggi, ci sono sistemi di IA progettati per aiutare i giudici a prendere decisioni di condanna pronosticando se un criminale rischia di commettere più crimini. Queste tecnologie, per esempio, hanno mostrato una preoccupante propensione alla discriminazione razziale. Cose di questo genere potranno essere introdotte in algoritmi di IA per la sanità ?
Questi algoritmi potrebbero essere scritti per evitare pregiudizi, ma farlo è straordinariamente difficile, sostengono gli autori dell’editoriale, e come dargli torto.
Ciò è particolarmente vero negli Stati Uniti, dove i sistemi sanitari spesso subiscono pressioni rispetto a questioni economiche ed assicurative. L’impostazione teorica delle persone che programmano i sistemi di intelligenza artificiale potrebbero non corrispondere a quelli dei medici e di altri operatori sanitari.
Ad esempio, che cosa succederebbe se l’algoritmo fosse progettato intorno all’obiettivo di risparmiare semplicemente denaro? Oppure di favorire alcuni farmaci rispetto ad altri? Sono tutte domande aperte.
Gli strumenti di deep learning e di machine learning diventeranno presto attori importanti nella relazione terapeutica e dovranno essere vincolati da principi etici fondamentali, come la compassione, l’eguaglianza ed il rispetto per i pazienti, tutte variabili che dovrebbero aver guidato i clinici ed i ricercatori sino ad oggi. Le macchine andranno supervisionate da esseri umani, possibilmente medici, competenti ed abili in diverse discipline anche solo per queste fondamentali, importanti ragioni.
This work is licensed under a Creative Commons Attribution-NonCommercial-NoDerivatives 4.0 International License.
Valerio Rosso
Lascia un commento