Politici de Sanatate

Recomandări privind etica și guvernanța IA pentru modelele multimodale de mari dimensiuni

29 ianuarie
10:47 2024
Recomandări privind etica și guvernanța IA pentru modelele multimodale de mari dimensiuni

Ghidul, recent lansat, prezintă peste 40 de recomandări pe care guvernele, companiile de tehnologie și furnizorii de servicii medicale trebuie să le ia în considerare pentru a asigura utilizarea adecvată a LMM-urilor (modelelor multimodale de mari dimensiuni) – un tip de tehnologie de inteligență artificială (AI) generativă în creștere rapidă, cu aplicații în domeniul asistenței medicale. în vederea promovării și protejării sănătății populației.

LMM-urile pot accepta unul sau mai multe tipuri de date de intrare, cum ar fi text, videoclipuri și imagini, și pot genera diverse ieșiri care nu se limitează la tipul de date introduse. LMM-urile sunt unice în ceea ce privește imitarea comunicării umane și capacitatea lor de a îndeplini sarcini pentru care nu au fost programate în mod explicit. LMM-urile au fost adoptate mai rapid decât orice altă aplicație de consum din istorie, mai multe platforme – cum ar fi ChatGPT, Bard și Bert – intrând în conștiința publică în 2023. „Tehnologiile generative de inteligență artificială au potențialul de a îmbunătăți asistența medicală, dar numai dacă cei care dezvoltă, reglementează și utilizează aceste tehnologii identifică și iau în considerare pe deplin riscurile asociate”, a declarat dr. Jeremy Farrar, cercetător șef al OMS. „Avem nevoie de informații și politici transparente pentru a gestiona proiectarea, dezvoltarea și utilizarea LMM-urilor pentru a obține rezultate mai bune în materie de sănătate și pentru a depăși inegalitățile persistente în domeniul sănătății.”

Beneficii și riscuri potențiale

Noul ghid  prezintă cinci aplicații generale ale LMM pentru sănătate:

  • Diagnosticarea și îngrijirea clinică, cum ar fi răspunsul la întrebările scrise ale pacienților;
  • Utilizarea ghidată de pacient, cum ar fi investigarea simptomelor și tratamentul;
  • Sarcini administrative și de birou, cum ar fi documentarea și rezumarea vizitelor pacienților în cadrul dosarelor electronice de sănătate;
  • Educație medicală și de asistență medicală, inclusiv furnizarea de întâlniri simulate cu pacienți pentru cursanți; și;
  • Cercetarea științifică și dezvoltarea de medicamente, inclusiv pentru a identifica noi compuși.

În timp ce LMM încep să fie utilizate în scopuri specifice legate de sănătate, există, de asemenea, riscuri documentate de a produce declarații false, inexacte, părtinitoare sau incomplete, care ar putea dăuna persoanelor care utilizează astfel de informații pentru a lua decizii în materie de sănătate. În plus, LMM pot fi antrenate pe baza unor date de slabă calitate sau părtinitoare, fie că sunt bazate pe rasă, etnie, strămoși, sex, identitate de gen sau vârstă. Ghidul detaliază, de asemenea, riscuri mai largi pentru sistemele de sănătate, cum ar fi accesibilitatea la cele mai performante LMM-uri. De asemenea, LMM pot încuraja „prejudecata de automatizare” din partea profesioniștilor din domeniul sănătății și a pacienților, prin care sunt trecute cu vederea erori care altfel ar fi fost identificate sau alegeri dificile sunt delegate în mod necorespunzător unui LMM.

LMM-urile, ca și alte forme de inteligență artificială, sunt, de asemenea, vulnerabile la riscurile de securitate cibernetică care ar putea pune în pericol informațiile despre pacienți sau fiabilitatea acestor algoritmi și, în general, furnizarea de asistență medicală. Pentru a crea LMM-uri sigure și eficiente, se subliniază necesitatea implicării diferitelor părți interesate: guverne, companii tehnologice, furnizori de servicii medicale, pacienți și societatea civilă, în toate etapele de dezvoltare și implementare a acestor tehnologii, inclusiv în ceea ce privește supravegherea și reglementarea acestora.

 

Alte articole

TOP

REVISTA POLITICI DE SANATATE

Editii speciale

revista politici de sanatate-Republica Moldova

OncoGen

Abonează-te la newsletter

:
: