Într-un dialog despre limitele și potențialul inteligenței artificiale în sănătate, conf. dr. Florian Berghea, profesor asociat de reumatologie la UMF „Carol Davila” și director al Centrului pentru Studii privind Tehnologiile Medicale, explică de ce IA trebuie privită ca un instrument de sprijin, nu ca un substitut al gândirii clinice. De la riscurile „halucinațiilor” algoritmice și protecția datelor medicale până la impactul noilor reglementări europene, interviul conturează provocările reale ale integrării tehnologiei în practica medicală.

Cum vedeți astăzi utilizarea practică a inteligenței artificiale în activitatea medicală de zi cu zi — dincolo de entuziasmul teoretic din jurul IA?

Trăim un moment în care IA în medicină seamănă cu primii ani ai energiei nucleare: toată lumea vorbește despre ea, dar puțini înțeleg ce este deja realitate și ce a rămas doar o promisiune. Dacă privim onest, peisajul practic este mult mai modest decât cel din titlurile presei.

Cel mai matur domeniu este imagistica medicală, unde IA prioritizează urgențele și semnalează leziunile suspecte, ajutând radiologul să nu rateze detalii esențiale. În rest, utilitatea se rezumă mai degrabă la un ajutor administrativ, precum transcrierea consultațiilor, generarea de rapoarte preliminare sau extragerea codurilor de diagnostic. IA este totodată și un partener pentru explorarea diverselor teme clinice – medicul folosește capaciatea IA de a acoperi rapid o arie mare de informație medicală într-un mod sistematizat și exhaustiv. Tentația de a confunda acest sprijin cu inteligența clinică este mare și periculoasă, deoarece niciun sistem nu ia decizii medicale în locul doctorului. Decalajul dintre promisiuni și realitate rămâne semnificativ. Multe aplicații cu o acuratețe spectaculoasă în laborator își pierd dramatic din performanță în cabinetele reale, unde se lovesc de date incomplete și contexte complexe. IA este un instrument util, dar nu partenerul de decizie imaginat; nu trebuie să le vindem pacienților și colegilor o iluzie. Provocarea actuală este să evaluăm riguros și să integrăm tehnologia pas cu pas, pe bază de dovezi, nu de speranțe.

Care sunt fundamentele tehnologice pe care un medic ar trebui să le înțeleagă pentru a putea evalua realist un instrument bazat pe inteligență artificială?

Trebuie să evităm două extreme la fel de periculoase: respingerea tehnologiei și adoptarea ei orbească. Medicii nu trebuie să devină programatori, desigur – cu excepția celor pasionați !- dar e necesar să înțeleagă câteva principii fundamentale, așa cum un șofer știe ce înseamnă martorii de pe bordul mașinii, înțelege ce trebuie să facă și la ce să se aștepte.

Primul este conceptul de cutie neagră, deoarece majoritatea sistemelor iau decizii prin procese interne pe care nici creatorii lor nu le pot explica în totalitate. Când un algoritm indică o probabilitate mare ca un pacient să răspundă la un tratament, raționamentul nu poate fi verificat factual precum logica unui ghid clinic, ceea ce schimbă natura încrederii acordate. Al doilea element este halucinația, și anume capacitatea sistemului de a genera răspunsuri perfect plauzibile și impecabil formulate, dar complet false și inventate. Un medic care ignoră acest fenomen riscă să ia decizii clinice bazate pe informații fictive. Dar si reversul, ignorarea completă a ajutorului IA din cauza posibilului risc de halucinație, este de evitat. De asemenea, contează enorm datele de antrenament și validarea externă. Un model este definit de datele din care a învățat, iar dacă acestea provin dintr-un singur spital sau dintr-o singură populație, aplicarea lor universală poate fi fundamental eronată. Validarea externă reprezintă piatra de încercare, deoarece performanțele bune din faza de antrenare pot eșua lamentabil pe o cohortă independentă din alt spital sau din altă țară.

Dincolo de tehnic, trebuie conștientizat riscul etic al deprofesionalizării. Dacă tinerii medici își formează gândirea doar la umbra algoritmilor, își vor pierde capacitatea de a gândi independent și de a recunoaște cazurile atipice. De aceea, se propune ca minimum douăzeci la sută din situații să fie evaluate obligatoriu fără IA, garantând că medicul poate funcționa și când tehnologia dă erori sau lipsește. În final trebuie sa fim conștienți că niciun algoritm nu ne absolvă pe noi, medicii, de responsabilitatea actului medical.

În reumatologie, unde vedeți cele mai promițătoare aplicații ale inteligenței artificiale în următorii ani?

Reumatologia, prin bolile cronice, evoluțiile imprevizibile și volumul imens de date generate, este un teren ideal pentru IA. Cel mai avansat segment este imagistica, unde algoritmii pot detecta deja sacroiliita pe RMN sau pot cuantifica eroziunile articulare pe radiografii cu o precizie similară unui reumatolog experimentat, oferind un sprijin real în condițiile deficitului global de specialiști.

O altă zonă entuziasmantă, dar care cere prudență, este predicția răspunsului terapeutic. În loc să testăm succesiv diverse scheme, am putea anticipa, pe baza datelor clinice, biologice sau genomice, care terapie este optimă pentru un anumit pacient. Deși modelele nu sunt încă destul de robuste pentru practica curentă, direcția este clară.

De asemenea, monitorizarea continuă prin dispozitive purtabile și analiza datelor din dosarul electronic promit detectarea timpurie a puseelor de activitate, a comorbidităților cardiovasculare sau a depresiei, înainte de vizita programată a pacientului. Totuși, majoritatea aplicațiilor sunt încă în faza de cercetare sau de validare timpurie; drumul de la un articol științific la cabinet este lung, scump și plin de eșecuri, dar trebuie parcurs cu ochii deschiși.

Integrarea inteligenței artificiale în clinică aduce inevitabil întrebări despre date medicale și conformitate. Care credeți că sunt cele mai mari riscuri legate de guvernanța datelor și protecția pacientului?

Întrebarea atinge o zonă complexă și puțin conștientizată de către medici și mai ales de către pacienți (trebuie să remarcăm că prin unele zone, politicul și administrația o abordează mai profund).

Primul risc este iluzia anonimizării, deoarece anonimizarea completă este aproape imposibilă în era algoritmilor moderni, care pot re-identifica persoane din seturi de date considerate sigure, iar puține sisteme ating pragul impus de legislația europeană. Al doilea risc ține de fluxurile transfrontaliere de date. Multe instrumente utilizează soluții de stocare în cloud situate în alte jurisdicții, ceea ce înseamnă că datele pacienților din România pot ajunge în centre din Statele Unite sau Asia, într-un ecosistem juridic fragmentat și netransparent.

Apoi avem problema consimțământului, unde de cele mai multe ori pacienții semnează formulare fără să înțeleagă real cum le vor fi folosite datele pentru antrenarea modelelor sau cine are acces la ele și pentru cât timp. Nu în ultimul rând, există riscul bias-ului algoritmic. Un instrument antrenat preponderent pe o anumită populație va discrimina sau va da erori când este aplicat alteia, ducând la diagnostice întârziate, tratamente inadecvate și inechitate în accesul la îngrijire.

Trebuie să le cerem furnizorilor transparență totală contractuală privind sursele de date, metodele de testare pentru bias și politicilor de securitate; refuzul lor reprezintă un semnal de alarmă. Datele medicale nu pot fi tratate cu nonșalanța celor de pe rețelele sociale, deoarece miza este viața și sănătatea oamenilor, nu recomandarea unui film.

Pe măsură ce reglementările europene privind inteligența artificială devin tot mai stricte, credeți că acestea vor accelera adoptarea unor soluții sigure sau, dimpotrivă, vor încetini inovația în medicină?

Reglementarea a fost mereu și frână, și garanție; totul depinde de implementare. În Europa avem un construct legislativ fără precedent prin AI Act, care clasifică instrumentele în funcție de risc. Aproape tot ce ține de diagnostic, suport decizional clinic sau monitorizare intră la categoria de risc ridicat, impunând cerințe stricte de transparență, documentare și supraveghere umană. Suprapunerea acestuia cu Regulamentul dispozitivelor medicale creează un cadru dual de conformitate care oferă siguranță, dar riscă să devină un labirint birocratic descurajant.

Argumentul celor care cred în accelerare este solid, deoarece un cadru predictibil crește încrederea medicilor, pacienților și investitorilor, obligând industria să livreze soluții mai sigure și mai robuste. Însă argumentul celor care se tem de o încetinire este la fel de valid; standardele armonizate europene nu sunt finalizate, organismele notificate capabile să evalueze IA sunt insuficiente, iar costurile pot fi prohibitive pentru start-up-urile care aduc inovația cea mai disruptivă. Vedem deja cum Regulamentul dispozitivelor medicale a încetinit inovația în Europa, determinând unele companii să lanseze produse mai întâi în Statele Unite. Noi, medicii constatăm acest lucru pe pielea noastră: unele dintre cele mai performante surse medicale de informare bazate pe IA își închid porțile pentru europeni din cauza riscurilor de reglementare.

Reglementarea în sine nu este problema, ci viteza și claritatea aplicării ei. Un AI Act cu standarde tehnice complete și termene realiste va accelera adoptarea unor soluții de încredere. În schimb, incertitudinea juridică, lacunele normative și amânările vor frâna inovația și vor muta centrul de greutate al progresului medical în afara Europei, un risc pe care nu ni-l permitem. Repet: viteza este cheia – să fii câteva luni în urma competitorilor in industria IA este grav, să fii cu un an – poate fi fatal. Și nu pot încheia fără să întreb: este strategia de țară a României suficient de ambițioasă pentru provocările ridicate de această industrie?

Bogdan Guță