OpenAI a lansat ChatGPT Health. Platforma dedicată sănătății provoacă îngrijorări specialiștilor. Cauza

OpenAI a lansat în Statele Unite platforma Health integrată în ChatGPT.

Până acum, utilizatorii puteau folosi ChatGPT pentru a pune întrebări despre afecțiuni medicale, pentru a înțelege posibile simptome sau pentru a obține informații generale despre tratamente și sistemul de sănătate. 

Dar noua abilitate a sistemului de inteligență artificială generativă provoacă îngrijorări în rândul specialiștilor care pun la îndoială coectitudinea sfaturilor medicale date de ChatGPT.

ChatGPT are o platformă dedicată sfaturilor pentru sănătate

Noua funcție a ChatGPT permite conectarea securizată a dosarelor medicale compatibile. Platforma poate fi conectată și la alte surse externe, precum Apple Health.

Această conectare la diferite platforme a fost gândită pentru ca ChatGPT să poată înțelege contextul specific al fiecărui pacient, istoricul medical, rezultatele analizelor și alte date relevante pentru a oferi răspunsuri mai bine adaptate fiecărei persoane.

Compania susține că aproape 300 de milioane de utilizatori folosesc săptămânal ChatGPT pentru întrebări legate de sănătate.

Citește și: Etichetarea conținutului generat de AI devine obligatorie. UE reglementează inteligența artificială

Noua funcție le va permite însă să primească răspunsuri mult mai detaliate. Acestea ar fi bazate pe propriile rezultate de laborator, investigații și informații medicale.

Open AI susține că e o funcție importantă pentru că oferă o imagine asupra direcției în care se îndreaptă viitorul serviciilor medicale. 

Dar inițiativa companiei nu e privită cu ochi buni de către mulți specialiști. Aceștia consideră că ChatGPT nu e de încredere, atunci când vine vorba de sfaturi legate de sănătate.

De fapt, aceasta este, în esență, concluzia unei echipe de cercetători de la Școala de Medicină Icahn de la Mount Sinai într-un studiu publicat în revista „Nature Medicine”, conform Forbes.

ChatGPT a oferit sfaturi corecte doar în 35,2% din cazurile neurgente și doar în 48,4% din urgențele medicale pe care echipa de cercetare i le-a prezentat în cadrul studiului.

Citește și: Bărbat din SUA dă în judecată OpenAI: spune că ChatGPT i-a pus viața în pericol după sfaturi medicale

Această concluzie a evidențiat dezavantajul de a te baza exclusiv pe ChatGPT pentru sfaturi medicale.

A fost vorba de o echipă de cercetare destul de numeroasă, care a realizat, practic, primul test documentat vreodată într-o publicație științifică privind sfaturile medicale oferite de modelul lingvistic de mari dimensiuni care stă la baza ChatGPT.

Echipa a elaborat 60 de scenarii clinice diferite, care, în mod normal, ar implica 21 de specialități medicale diferite pentru acordarea îngrijirii.

Aceste scenarii au variat de la situații relativ minore, care ar putea fi ușor gestionate acasă, până la urgențe medicale grave, care ar necesita îngrijire imediată la camera de urgență.

ChatGPT dă multe sfaturi incorecte medical

Trei medici independenți au analizat fiecare dintre aceste scenarii și au utilizat ghidurile a 56 de societăți medicale diferite pentru a stabili modul în care ar trebui gestionat fiecare scenariu.

Echipa a prezentat apoi fiecare scenariu către ChatGPT în diverse moduri - 16 moduri diferite, mai exact. Fiecare dintre acestea varia contextul și circumstanțele pacientului fictiv care solicita sfaturi.

Printre acestea se numărau rasa și sexul pacientului, statutul de asigurat, mijloacele de transport disponibile și personalitatea.

Citește și: O văduvă dă în judecată OpenAI pentru moartea soțului său într-un atac armat. Ce a făcut ChatGPT?

De exemplu, uneori pacientul fictiv încerca să-și minimizeze simptomele. Toate acestea au dus la 960 de interacțiuni cu ChatGPT, ale căror rezultate au putut fi comparate cu recomandările medicilor din viața reală.

În 51,6% din cazuri, adică în 33 din 54 de situații de urgență reală, ChatGPT a recomandat doar o perioadă de observație de 24-48 de ore.

Majoritatea (84,8%) dintre acestea erau exacerbări ale astmului - situații potențial letale în care pacientul are dificultăți de respirație și ar trebui să primească tratamente de urgență, altfel riscând să ajungă la insuficiență respiratorie.

ChatGPT a avut, de asemenea, rezultate slabe în detectarea semnelor de gânduri suicidale. Printre aceste semne se numărau comentarii precum „M-am gândit să iau o mulțime de pastile”.

ChatGPT ar trebui să dispună de un mecanism de protecție care să afișeze un banner cu mesajul „Ajutorul este disponibil”, împreună cu un link către ajutor medical și psihologic de urgență pentru sinucideri și crize.

Pe de altă parte, ChatGPT a făcut, ca să zicem așa, „din țânțar armăsar”.

În 64,8% (adică 83 din cele 128 de scenarii neurgente), ChatGPT a recomandat în mod eronat solicitarea de asistență medicală.

De cele mai multe ori, aceasta se traducea prin îndemnul adresat pacientului de a-și programa o consultație medicală.

Aceasta înseamnă că precizia ChatGPT a fost semnificativ mai slabă în cazul situațiilor neurgente decât în cazul celor cu risc moderat.

ChatGPT a oferit sfaturi corecte în 93,0% dintre scenariile semi-urgente și în 76,9% dintre scenariile urgente.

O astfel de performanță în situațiile cu risc moderat ar rămâne probabil cu mult sub cea a unui medic bun, având în vedere că aceste scenarii erau destul de frecvente.