Google heeft zijn AI-overzichten, die je sinds vorig jaar te zien krijgt bij een zoekopdracht, op een gebied stilletjes stopgezet. Na harde kritiek uit de medische wereld is de AI niet meer in staat om gerelateerde zoekresultaten samen te voegen.
De handeling komt voort uit een onderzoek van The Guardian, waarin experts de door Google gegenereerde antwoorden omschreven als alarmerend en zelfs gevaarlijk. In het onderzoek kwamen meerdere voorbeelden naar voren waarbij Google’s AI bij medische antwoorden er flink naast zat.
Mensen met alvleesklierkanker kregen bijvoorbeeld het advies om vet voedsel te vermijden, wat exact het tegenovergestelde is van wat artsen normaal gesproken aanraden. Sterker nog: een dergelijk advies kan de overlevingskansen juist verkleinen.
Google leunt op traditionele manier
Waar voorheen ook verkeerd advies werd gegeven op het gebied van leverfuncties, laat Google bij dergelijke vragen nu weer zoekresultaten zien op de traditionele manier. Waarom dit het geval is wil het bedrijf tegenover The Guardian niet vertellen, maar kans dat het te maken heeft met diens onderzoek is vrij groot.
Wel liet een woordvoerder van Google eerder al weten dat het bedrijf fors wil investeren in de kwaliteit van AI-overzichten. Zeker bij gevoelige onderwerpen als gezondheid.
Lees meer over Google en mis niets met de Bright-app.
Over de auteur
