Un ospedale può permettersi un algoritmo, ma può permettersi anche di controllarlo per anni, aggiornare i dati, formare medici e infermieri, verificarne gli errori e, se necessario, smettere di utilizzarlo? È da questa domanda che potrebbe passare una nuova forma di disuguaglianza sanitaria: non più soltanto tra chi ha accesso alle tecnologie e chi ne è escluso, ma tra chi possiede le risorse per governarle e chi no. È una delle chiavi di lettura che emerge dal nuovo “Report of the knowledge community on responsible artificial intelligence in health: from promise to practice” dell’Ufficio regionale per l’Europa dell’Organizzazione mondiale della sanità (Oms), che raccoglie il confronto avvenuto nell’arco di cinque settimane tra professionisti della salute, ricercatori, esperti di intelligenza artificiale, decisori pubblici e specialisti di regolamentazione.

Un nuovo divario tra gli ospedali

L’innovazione tende a concentrarsi negli ospedali e nei territori che dispongono già di infrastrutture digitali, dati e competenze, mentre quelli con meno risorse rischiano di perdere terreno. La disuguaglianza può crescere anche quando l’algoritmo funziona correttamente: un modello validato in un grande ospedale può non adattarsi all’assistenza primaria, alle zone rurali o a strutture meno attrezzate. Il rischio è quindi ampliare divari già esistenti. Anche medici e infermieri sono spesso destinatari di strumenti progettati per loro anziché con loro: senza un reale coinvolgimento, aumenta il rischio di introdurre sistemi poco adatti al lavoro quotidiano e alla sicurezza delle cure.

Comprare un algoritmo è solo l’inizio

C’è poi un secondo elemento che può allargare le distanze tra i sistemi sanitari: il costo dell’intelligenza artificiale non coincide solo con il suo prezzo d’acquisto. Una volta introdotto un sistema, servono risorse per la gestione e la qualità dei dati, gli aggiornamenti, la cybersecurity, le verifiche periodiche e la formazione di chi dovrà utilizzarlo. Per le strutture con infrastrutture digitali o competenze limitate, questi costi possono diventare insostenibili. Il Rapporto mette poi in discussione l’idea dell’AI come scorciatoia verso una sanità meno costosa. Molte applicazioni promettenti riescono a funzionare durante la fase pilota, quando dispongono di finanziamenti e risorse dedicate, ma faticano a diventare parte della pratica ordinaria. Il conto continua anche quando l’algoritmo non funziona come previsto. Nella valutazione economica, sostengono i partecipanti, dovrebbe essere considerato l’intero ciclo di vita della tecnologia, compreso il costo della sua eventuale de-implementazione.

Se il medico smette di mettere in dubbio la macchina

Il Rapporto individua anche un rischio meno immediato: fidarsi troppo di un algoritmo che funziona bene. È il cosiddetto automation bias, la tendenza ad affidarsi alle indicazioni prodotte da un sistema automatizzato anche quando esistono elementi che suggeriscono una valutazione diversa. La Knowledge Community considera il fidarsi troppo dell’AI e l’erosione del giudizio clinico, rischi importanti quanto gli errori prodotti dai modelli stessi. Se un professionista deve essere in grado di contraddire l’algoritmo, deve avere competenze, tempo e autorità per farlo. Il paradosso è che il problema diventa più difficile proprio quando l’AI si dimostra affidabile. Più frequentemente un sistema fornisce indicazioni corrette, più diventa importante preservare la capacità dei professionisti di valutarle criticamente.

Quando spegnere l’algoritmo

C’è infine una capacità che potrebbe misurare la maturità di un sistema sanitario: saper rinunciare all’intelligenza artificiale. Il Rapporto ricorda che buone prestazioni tecniche non garantiscono utilità clinica e che, in alcuni casi, la scelta responsabile può essere non utilizzare l’AI. Anche un algoritmo efficace può subire il cosiddetto model drift: con il cambiamento dei dati e delle pratiche cliniche, le sue prestazioni possono deteriorarsi. Per questo servono controlli continui anche dopo l’introduzione nella pratica clinica. Da qui la conclusione più netta del Rapporto: il rischio non è adottare l’AI troppo lentamente, ma farlo più velocemente di quanto i sistemi sanitari siano capaci di governarla. Servono responsabilità chiare, dati di qualità e interoperabili, controlli nel tempo, competenze del personale e partecipazione di pazienti e professionisti. La corsa all’AI potrebbe quindi non ridurre le distanze, ma favorire i sistemi sanitari che dispongono già delle risorse necessarie per utilizzarla. La vera frontiera dell’innovazione potrebbe non essere avere più algoritmi, ma sistemi capaci di decidere quali usare, come controllarli e quando farne a meno.

Leggi il Rapporto