Dat AI-overzichten niet altijd kloppen, is geen geheim. Het wordt een groot probleem wanneer je op zoek gaat naar symptomen die je ervaart en Google geeft te laat aan dat het verstandiger is om een arts te raadplegen. Dat is precies wat er momenteel misgaat bij AI Overview in Google Zoeken.
Lees verder na de advertentie.
AI Overview geeft minimale disclaimer
Het probleem werd gevonden door The Guardian en ook wij zien dat Google pas erg laat een disclaimer plaatst. Google geeft zelf aan dat AI Overview is bedoeld om mensen te informeren en dat er een belangrijke vermelding staat als je een expert of zelfs dokter moet raadplegen. Wanneer je nu zoekt op symptomen die je hebt, verschijnt die disclaimer helemaal niet.
Pas wanneer je de AI Overview uitklapt en naar meer informatie zoekt, verschijnt de onderstaande melding. “Dit is alleen bedoeld ter informatie. Neem voor medisch advies of een diagnose contact op met een professional. AI-reacties kunnen fouten bevatten.” Wij gaan ervan uit dat een professional in dit geval de huisarts is, maar zelf geeft Google dat niet aan.
Lees verder na de advertentie.
AI-experts waarschuwen
Na de vondst sprak The Guardian met verschillende experts op het gebied van kunstmatige intelligentie. Onder andere een expert en onderzoeker op het gebied van technologie aan MIT in Amerika. “De afwezigheid van disclaimers bij medische informatie zorgt voor grote gevaren.” Dat komt volgens de expert vooral vanwege misinformatie die in AI-modellen zit. “Zelfs de meest geavanceerde modellen hallucineren en delen misinformatie of gedragen zich als slijmbal. Het is voor de modellen belangrijker om de gebruiker tevreden te stellen dan de juiste informatie te delen. In het geval van onze gezondheid kan dat echt gevaarlijk zijn.”
Een professor in AI aan de Queen Mary University of London voegt daar nog aan toe dat “AI Overviews zijn gemaakt op snelheid en niet voor precisie. Daardoor kan er verkeerde informatie in staan en dat is gevaarlijk.”
Onze ervaring
Als reactie op de bevindingen van de krant heeft Google de AI Overviews voor een aantal gezondheidszaken uitgeschakeld. Wij vonden nog altijd informatie als we zochten op symptomen van een vastzittende hoest.
Daarbij gaf AI Overview verschillende antwoorden als we “vastzittende hoest met pijn” of “ik heb vastzittende hoest met pijn” zochten. In beide gevallen verscheen de disclaimer pas bij het doorklikken van het antwoord. Daarvoor gaf de kunstmatige intelligentie aan dat er mogelijk sprake is van taai slijm of zelfs bronchitis. Bovendien zegt de AI dat we pas na drie dagen of zelfs drie weken pas contact moeten opnemen met de huisarts.
Lees verder na de advertentie.
Wat vind jij van het ontbreken van een disclaimer? Deel jouw mening in de reacties!
Over de auteur
