Tegengas voor AI

Nu de eerste be- en verwondering over wat AI (kunstmatige intelligentie) allemaal kan en de voordelen die dit met zich meebrengt, is ingedaald, lijkt er nu op dat het toch wat meer aandacht is voor de nadelen.
Het begon met de brief van een aantal wetenschappers en prominenten in de tech-wereld zoals Elon Musk en Steve Wozniak (mede-oprichter van Apple), die opriep tot een tijdelijke pauze in de ontwikkeling van systemen die krachtiger zijn dan ChatGPT-4.
Vervolgens verbood Italië ChatGPT tijdelijk vanwege privacyzorgen over het verwerken van persoonlijke informatie van Italiaanse gebruikers. En ook de Verenigde Staten willen nu dat er strenger getest wordt voordat AI wordt vrijgegeven, hoewel er niet duidelijk is welke rol de politiek hierin zou moeten spelen. De komende twee maanden worden de mogelijkheid van AI-audits onderzocht en van andere maatregelen die de zorgen over deze nieuwe systemen kunnen wegnemen.

AI steeds meer gebruikt

Intussen is de chatbot de laatste jaren al een standaardonderdeel geworden van websites, zoals Amazon, om mensen te helpen bij retourzendingen en terugbetalingen. Vorig jaar bracht OpenAI een geavanceerde versie uit, ChatGPT. ChatGPT gebruikt deep learning-technieken om tekst te produceren op basis van invoer. Maar in plaats van dat programmeurs gegevens moeten invoeren, worden grote hoeveelheden gegevens in het systeem ingevoerd. Vervolgens gebruikt het programma die informatie om zichzelf te trainen in het ‘begrijpen’ van informatie.
Hierbij geldt echter wel een kanttekening: het programma ‘weet’ niet wat het produceert. In feite is dit ‘begrijpen’ niet meer dan het logisch achter elkaar zetten van woorden die vaak in combinatie met elkaar voorkomen. Het programma ziet op basis van de grote hoeveelheden tekst die het aangeleverd heeft gekregen dat de woorden ‘de’ en ‘tafel’ bijna altijd als combinatie gebruikt worden en zet deze vervolgens achter elkaar.
Maar dit is slechts het begin. De schrijvers van de eerder genoemde open brief wijzen erop dat huidige AI-systemen beschikken over een intelligentie die gelijkwaardig is aan die van de mens. Zij vragen zich af of we ons moeten laten overspoelen met propaganda en onwaarheid, of we wel alle banen moeten automatiseren, en of we machines moeten ontwikkelen die ons uiteindelijk kunnen overtreffen of vervangen?
De briefschrijvers stellen dat dergelijke beslissingen niet mogen worden overgelaten aan ‘niet-gekozen technologieleiders’. Ze zeggen dat bedrijven veiligheidsprotocollen moeten ontwikkelen voor geavanceerd AI-ontwerp en -ontwikkeling, waarop toezicht kan worden gehouden door onafhankelijke externe experts.
Kortom, de discussie over dit onderwerp gaat nog wel even door.