Tijdelijke pauze voor AI?

Ruim 1100 prominenten uit de wetenschap en techsector hebben een open brief geschreven waarin zij stellen dat de ontwikkelingen op het gebied van AI (kunstmatige intelligentie) momenteel zo snel gaan, dat er een pauze moet worden ingelast. Onder de ondertekenaars zijn naast tal van academici, ook prominenten uit de techwereld, zoals als Elon Musk en Steve Wozniak. De pauze moet minstens zes maanden duren en moet gebruikt worden om regels op te stellen voor de omgang met de steeds complexere en geavanceerdere AI.
In de open brief schrijven de ondertekenaars dat AI-systemen nu al kunnen concurreren met mensen bij bepaalde taken. De schrijvers vragen zich af of er wel gestreefd moet worden naar het ontwikkelen van niet-menselijke systemen, die in de toekomst misschien wel slimmer zijn dan mensen en deze zullen vervangen. Dit soort vragen zouden eerst door politici beantwoord moeten worden.
De tijdelijke pauze zou moeten gelden voor alle AI die krachtiger is dan GPT-4, de nieuwste versie van de tekstgenerator ChatGPT.
Natuurlijk zitten er nogal wat haken en ogen aan het voorstel. Kun je de ontwikkeling van een product door commerciële bedrijven überhaupt wel afremmen of stopzetten? AI is een strijd geworden tussen Microsoft/ChatGPT en Google, en het is de vraag of zij de ontwikkeling ervan willen stoppen, terwijl de concurrent verdergaat… AI wordt immers volop ingezet in de zoekmachinestrijd tussen Google en Microsoft, en bij de strijd tussen hun kantoorapplicaties: Gmail versus Outlook, Word versus Google Docs. De belangen zijn dus (te) groot.

Reden voor bezorgdheid

De ontwikkeling van kunstmatige intelligentie die ontwikkeld wordt zonder specifiek doel, zoals ChatGPT, neemt een enorme vlucht, terwijl de wetgeving achterloopt. Recente rapporten laten zien dat ChatGPT-achtige modellen gedrag vertonen dat wel erg slim is. Microsoft investeert miljarden in de ontwikkeling van AI-tools, maar de buitenwereld weet niet precies waar de systemen op getraind worden of hoe ze gebouwd worden.
Dat geeft genoeg reden voor bezorgdheid. Zo kan de eenzijdige training van AI leiden tot vooroordelen, onjuiste informatie of discriminatie, ook bij de systemen die nu al in gebruik zijn. Zo is er het voorbeeld van een donkergekleurde studente die tijdens een examen niet werd herkend door de anti-spiekcamera’s, omdat het systeem alleen getraind was met studenten met een lichtere huidskleur.
Bovendien worden onjuiste antwoorden die met autoriteit gegeven worden (door systemen als ChatGPT) door mensen aangenomen als ‘de waarheid’, omdat mensen geneigd zijn te vertrouwen op automatisering. "Het komt van een computer dus het zal wel goed zijn."

Een ander punt is dat OpenAI (de maker van ChatGPT) de maatschappij lijkt te gebruiken als een groot laboratorium, waar ze de reacties van mensen kunnen zien en leren hoe mensen omgaan met AI. Er heerst nu een onterecht urgentie om dit nú te integreren in je eigen producten, anders ben je te laat.
Veel ondertekenaars hebben dan ook weinig illusies dat de brief gaat helpen, maar hebben toch de brief toch ondertekend omdat ze zorgen hebben. Een tijdelijk stopzetten van de AI-ontwikkeling is niet de oplossing, maar: "Het is wel belangrijk om het er nu over te hebben, omdat we aan de vooravond staan van de risicovolle scenario's."
Maar van een echte pauze in de ontwikkeling van AI lijkt voorlopig nog geen sprake. Behalve Microsoft en Google zijn ook communicatieplatforms Slack en Discord, betaaldienst Stripe en taal-app Duolingo bezig met het integreren van ChatGPT.