Certificació de sistemes d'intel·ligència artificial en aplicacions sanitàries

Alexandre Perera

Universitat Politècnica de Catalunya (UPC), Espanya

Els sistemes i les aplicacions sanitàries segueixen un enfocament de risc zero que es tradueix en intensos —i sovint llargs— processos de control i reglamentació. Aquest paradigma de risc zero encara no s’ha aplicat amb èxit en els sistemes basats en intel·ligència artificial (IA) per a la salut. Els investigadors han dissenyat un conjunt d’eines d’auditoria que estandarditza el control de qualitat per als models sanitaris d’IA, i que inclou una base de dades dels riscs prèviament identificats en els sistemes d’IA de l’assistència sanitària. Una vegada auditat un nou sistema, una marca criptogràfica serveix com a segell tecnològic per verificar el compliment de cada predicció.

Ja s’ha analitzat un assaig de prova de concepte per a aquest conjunt d’eines, en un cas real a l’hospital Sant Joan de déu, i ha demostrat que aconsegueix reduir el risc d’errors en la predicció, com també el temps per a l’aprovació reglamentària del nou sistema basat en IA, de dos anys a només sis mesos.

Actualment, l'objectiu d'aquest equip és transferir aquest conjunt d'eines mitjançant un producte viable mínim a través d'una empresa derivada (spin-off), amb l’objectiu d’introduir-lo al mercat en un termini breu de temps. La gran confiança concedida als sistemes d’IA no sols reduirà el temps i els recursos necessaris per traslladar els nous avenços científics a la pràctica clínica, sinó que també assegurarà la traçabilitat i permetrà que els usuaris finals puguin verificar el compliment dels proveïdors d’IA del sector sanitari.