Uit onderzoek van The Guardian blijkt dat Google zijn veiligheidswaarschuwingen bij medische AI-antwoorden onvoldoende zichtbaar zou maken. Gebruikers zien belangrijke disclaimers vaak pas nadat ze de extra informatie openen en zoeken naar de kleine lettertjes.
De problemen ontstaan door de AI-samenvattingen die bovenaan de zoekresultaten te vinden zijn. Wanneer iemand zoekt op gevoelige gezondheidsvragen, bijvoorbeeld over symptomen, medicatie of diagnoses, zouden gebruikers geadviseerd moeten worden om professioneel medisch advies te zoeken. In de praktijk is dat volgens onderzoekers dus niet aan de orde.
In plaats daarvan verschijnt er geen disclaimer bij de eerste samenvatting, zien gebruikers deze überhaupt pas wanneer ze zelf het tekstvak vergroten en is hij vervolgens in kleine letters en een licht lettertype onderaan het scherm te zien.
AI-experts maken zich zorgen om handelswijze Google
AI-experts maken zich zorgen om de manier waarop Google zo’n advies aanpakt. Tegenover The Guardian zegt een onderzoeker van MIT dat moderne AI-systemen nog altijd onjuiste informatie kunnen ‘hallucineren’, gebruikers bevestigen in verkeerde aannames en te weinig context bieden om correcte conclusies te trekken.
Of zoals Gina Neff van de Queen Mary Universiteit van Londen mooi zegt: AI-samenvattingen zijn ontworpen voor snelheid, niet voor nauwkeurigheid. Google heeft zelf aangegeven dat de samenvattingen zelf al verwijzen naar het zoeken van medische hulp wanneer dat passend is. Over het ontbreken van een waarschuwing bij de eerste weergave werd niets gezegd.
Over de auteur
