Google elimină rezumatele AI din motive de siguranță
Google a decis să șteargă o serie de rezumate pe teme de sănătate generate de inteligența artificială Gemini, după ce o investigație a publicației britanice The Guardian a relevat informații greșite și potențial periculoase pentru utilizatori.
Informații eronate și riscuri pentru utilizatori
Investigația a scos la iveală că AI-ul oferă răspunsuri incomplete, lipsindu-se de informații contextuale esențiale, precum sexul și vârsta pacientului. De exemplu, când a fost întrebat despre intervalul normal pentru testele de sânge hepatice, răspunsul AI-ului nu a inclus aceste detalii, ceea ce ar putea induce în eroare utilizatorii, făcându-i să creadă că rezultatele lor sunt normale când, de fapt, nu sunt.
Acțiunile Google
În urma publicării investigației, Google a eliminat răspunsurile problematice din paginile motorului său de căutare. Deși compania nu a comunicat detalii suplimentare, utilizatorii își exprimă îngrijorarea cu privire la modul în care Google va gestiona răspunsurile AI-ului în domeniul sănătății în viitor.
Continuitatea funcției AI Overviews
Funcția AI Overviews, care folosește inteligența artificială pentru a genera rezumate, rămâne activă, iar riscurile asociate cu răspunsurile greșite ale AI-ului continuă să existe, putând influența viețile utilizatorilor.
Concluzie
Decizia Google de a șterge rezumatele generate de AI subliniază importanța verificării informațiilor în domeniul sănătății și necesitatea unei moderări mai stricte a conținutului generat de inteligența artificială pentru a proteja utilizatorii de posibile erori și informații riscante.