Principalele considerente de reglementare privind inteligența artificială (AI) pentru sănătate sunt trecute în revistă într-un document recent publicat. Acesta subliniază importanța stabilirii siguranței și eficacității sistemelor de inteligență artificială, a punerii rapide a sistemelor adecvate la dispoziția celor care au nevoie de ele și a promovării dialogului între părțile interesate, inclusiv dezvoltatorii, autoritățile de reglementare, producătorii, lucrătorii din domeniul sănătății și pacienți.

Având în vedere disponibilitatea tot mai mare a datelor din domeniul sănătății și progresul rapid al tehnicilor de analiză - fie că este vorba de învățare automată, bazată pe logică sau statistică - instrumentele de IA ar putea transforma sectorul sănătății. OMS recunoaște potențialul AI în îmbunătățirea rezultatelor în domeniul sănătății prin consolidarea studiilor clinice; îmbunătățirea diagnosticului medical, a tratamentului, a autoîngrijirilor și a îngrijirii centrate pe persoană; și completarea cunoștințelor, abilităților și competențelor profesioniștilor din domeniul sănătății. De exemplu, IA ar putea fi benefică în mediile în care există o lipsă de specialiști în domeniul medical, de exemplu în interpretarea scanărilor de retină și a imaginilor radiologice, printre multe altele.

Cu toate acestea, tehnologiile de inteligență artificială - inclusiv modelele lingvistice de mari dimensiuni - sunt implementate rapid, uneori fără o înțelegere deplină a modului în care acestea pot funcționa, ceea ce ar putea fi benefic sau dăunător pentru utilizatorii finali, inclusiv pentru profesioniștii din domeniul sănătății și pacienți. Atunci când utilizează date din domeniul sănătății, sistemele de inteligență artificială ar putea avea acces la informații personale sensibile, necesitând cadre juridice și de reglementare solide pentru protejarea confidențialității, securității și integrității, pe care această publicație își propune să contribuie la crearea și menținerea acestora.

Ca răspuns la nevoia tot mai mare a țărilor de a gestiona în mod responsabil creșterea rapidă a tehnologiilor de sănătate cu inteligență artificială, lucrarea prezintă șase domenii de reglementare a inteligenței artificiale în domeniul sănătății.

• Pentru a promova încrederea, se subliniază importanța transparenței și a documentației, cum ar fi prin documentarea întregului ciclu de viață al produsului și urmărirea proceselor de dezvoltare.
• Pentru gestionarea riscurilor, aspecte precum "utilizarea preconizată", "învățarea continuă", intervențiile umane, modelele de formare și amenințările la adresa securității cibernetice trebuie să fie abordate în mod cuprinzător, cu modele cât mai simple posibil.
• Validarea externă a datelor și claritatea cu privire la utilizarea preconizată a IA ajută la asigurarea siguranței și la facilitarea reglementărilor.
• Un angajament față de calitatea datelor, cum ar fi prin evaluarea riguroasă a sistemelor înainte de lansare, este vital pentru a se asigura că sistemele nu amplifică prejudecățile și erorile.
• Provocările reprezentate de reglementări importante și complexe - cum ar fi Regulamentul general privind protecția datelor (GDPR) în Europa și Legea privind portabilitatea și responsabilitatea în domeniul asigurărilor de sănătate (HIPAA) în Statele Unite ale Americii - sunt abordate cu accent pe înțelegerea domeniului de aplicare a jurisdicției și a cerințelor de consimțământ, în slujba confidențialității și a protecției datelor.
• Promovarea colaborării între organismele de reglementare, pacienți, profesioniști din domeniul sănătății, reprezentanți ai industriei și parteneri guvernamentali, poate contribui la asigurarea faptului că produsele și serviciile rămân conforme cu reglementările pe tot parcursul ciclului lor de viață.

Sistemele de inteligență artificială sunt complexe și depind nu numai de codul cu care sunt construite, ci și de datele pe care sunt antrenate, care provin din medii clinice și interacțiuni cu utilizatorii - de exemplu. O mai bună reglementare poate contribui la gestionarea riscurilor ca IA să amplifice prejudecățile din datele de instruire.

De exemplu, poate fi dificil pentru modelele de IA să reprezinte cu exactitate diversitatea populațiilor, ceea ce poate duce la prejudecăți, inexactități sau chiar la eșecuri. Pentru a contribui la atenuarea acestor riscuri, reglementările pot fi utilizate pentru a se asigura că sunt raportate atributele - cum ar fi sexul, rasa și etnia - ale persoanelor care figurează în datele de instruire și că seturile de date sunt intenționat reprezentative.

Noul document al OMS își propune să prezinte principiile-cheie pe care guvernele și autoritățile de reglementare le pot urma pentru a elabora noi orientări sau pentru a adapta orientările existente privind IA la nivel național sau regional.

Bogdan G.