Dure AI-blunder voor Google

Google is deze week tientallen miljarden minder waard geworden op Wall Street. De prijs van aandelen ging met maar liefst 8 procent omlaag, toen bleek dat in een reclame voor de nieuwe chatbot juist perfect de beperkingen naar voren kwamen van deze nieuwe vorm van kunstmatige intelligentie.
Google introduceerde deze week de nieuwe dienst Bard, als antwoord op de integratie van ChatGPT in de zoekdienst Bing door Microsoft. In beide gevallen wordt kunstmatige intelligentie (AI) gebruikt om de zoekresultaten in een samenhangend verhaal te presenteren.
Bard ging de fout in bij de vraag "Wat kan ik mijn 9-jarige vertellen over de ontdekkingen van de James Webb-ruimtetelescoop". De chatbot antwoordde onder meer dat de telescoop "de eerste foto's van een planeet buiten ons eigen zonnestelsel heeft genomen". Maar dergelijke foto's werden al in 2004 gemaakt door de Very Large Telescope.
De fout werd gisteren ontdekt, juist toen Google een presentatie gaf over alle AI-innovaties waar het aan werkt. In een reactie zegt Google dat testers er nog hard aan werken om kinderziektes uit het systeem te halen voordat het breed wordt uitgerold.
Ironisch genoeg gaf de oude vertrouwde zoekmachine van Google wel het juiste antwoord...

Hallucinerende AI-tools

Experts wijzen al langer op dit soort fouten, ‘hallucineren’ genoemd, omdat AI zeer overtuigend totale onzin kan brengen. In dit geval refereerde Bard aan de eerste keer dat de Webb-telescoop exoplaneten vastlegde, maar het programma interpreteerde dit als de eerste keer ooit.
Een belangrijke blunder, omdat Bard er juist voor moet zorgen dat Google marktleider blijft in zoekmachines.
Overigens kan ook rivaal ChatGPT er wat van. De zoekmachine vertelde in geuren en kleuren over de uitslag van de Superbowl, een wedstrijd die nog moet worden gespeeld... De chatbot vermeldde niet alleen de uitslag (31-28), maar verzon er ook nog wat specifieke wedstrijdstatistieken bij.
Het lanceren van de nieuwe chatbots lijkt ietwat overhaast te zijn gegaan, en meer te zijn ingegeven door concurrentiemotieven dan door betrouwbaarheid. Misschien moeten we de antwoorden van een chatbot voorlopig checken in de huidige zoekmachine van Google voordat we ze voor waar aannemen? Op termijn zullen de chatbots ongetwijfeld betrouwbaarder worden, maar tot die tijd lijkt gezonde argwaan gerechtvaardigd.