ChatGPT is een krachtige nieuwe AI-chatbot die snel indruk maakt, maar veel mensen hebben erop gewezen dat hij een aantal ernstige valkuilen heeft. Vraag het wat je maar wilt, en je krijgt een antwoord dat klinkt alsof het geschreven is door een mens, die zijn kennis en schrijfvaardigheid heeft geleerd uit massa’s informatie op het internet.
Maar net als op het internet zijn waarheid en feiten niet altijd vanzelfsprekend, en ChatGPT maakt zich schuldig aan fouten. Nu ChatGPT op het punt staat onze toekomst te veranderen, zijn hier enkele van de grootste zorgen.
Wat is ChatGPT?
ChatGPT is een groot taalleermodel dat ontworpen is om menselijke gesprekken na te bootsen. Het kan zich dingen herinneren die je in het verleden tegen het hebt gezegd en is in staat zichzelf te corrigeren als het zich vergist.
Het schrijft op een mensachtige manier en heeft een schat aan kennis omdat het getraind is op allerlei soorten tekst van het internet, zoals Wikipedia, blogberichten, boeken en academische artikelen.
Het is gemakkelijk om te leren hoe je ChatGPT gebruikt, maar wat een grotere uitdaging is, is uit te vinden wat zijn grootste problemen zijn. Hier zijn er enkele die de moeite waard zijn om te weten.
1. Een uitdaging voor Nederlands op de middelbare school
Je kunt ChatGPT vragen om je schrijven na te lezen of aan te geven hoe je een paragraaf kunt verbeteren. Je kunt ook jezelf helemaal uit de vergelijking halen en ChatGPT vragen iets voor je te schrijven.
Leraren hebben geëxperimenteerd met het voeden van Nederlandse opdrachten aan ChatGPT en hebben antwoorden gekregen die beter zijn dan wat veel van hun leerlingen zouden kunnen doen. Van het schrijven van sollicitatiebrieven tot het beschrijven van belangrijke thema’s in een beroemd literair werk, ChatGPT kan het zonder aarzelen.
Dat roept de vraag op: als ChatGPT voor ons kan schrijven, moeten leerlingen dan in de toekomst nog leren schrijven? Het lijkt misschien een existentiële vraag, maar als leerlingen ChatGPT gaan gebruiken om te helpen bij het schrijven van hun essays, zullen scholen snel een antwoord moeten bedenken. De snelle inzet van AI in de afgelopen jaren zal veel bedrijfstakken schokken, en het onderwijs is er slechts één van.
2. Vooringenomenheid zit ingebakken in het systeem
ChatGPT is getraind op het collectieve schrijven van mensen over de hele wereld, vroeger en nu. Dit betekent dat dezelfde vooroordelen die in de gegevens voorkomen, ook in het model kunnen voorkomen.
In feite hebben gebruikers laten zien hoe ChatGPT verschrikkelijke antwoorden kan geven, sommige bijvoorbeeld die vrouwen discrimineren. Maar dat is slechts het topje van de ijsberg; het kan antwoorden opleveren die uiterst schadelijk zijn voor een reeks minderheidsgroepen.
De schuld ligt ook niet alleen bij de gegevens. De onderzoekers en ontwikkelaars van OpenAI kiezen de gegevens die gebruikt worden om ChatGPT te trainen. Om te helpen wat OpenAI “vooringenomen gedrag” noemt, vraagt het gebruikers om feedback te geven op slechte uitkomsten.
Met het potentieel om mensen schade toe te brengen, kun je stellen dat ChatGPT niet aan het publiek had moeten worden vrijgegeven voordat deze problemen zijn bestudeerd en opgelost.
Een soortgelijke AI-chatbot genaamd Sparrow (eigendom van Google’s moederbedrijf Alphabet) werd in september 2022 vrijgegeven. Het werd echter achter gesloten deuren gehouden vanwege vergelijkbare zorgen dat het schade zou kunnen veroorzaken.
Misschien had Meta de waarschuwing ook moeten koppen. Toen het Galactica uitbracht, een AI-taalmodel dat werd getraind op academische papers, werd het snel teruggeroepen nadat veel mensen het bekritiseerden omdat het verkeerde en bevooroordeelde resultaten uitvoerde.
3. ChatGPT heeft niet altijd gelijk
Het faalt in elementaire wiskunde, kan eenvoudige logische vragen niet beantwoorden, en gaat zelfs zo ver dat het volledig onjuiste feiten aanvoert. Zoals gebruikers van sociale media kunnen getuigen, kan ChatGPT het meer dan eens bij het verkeerde eind hebben.
OpenAI weet van deze beperking en schrijft dat: “ChatGPT schrijft soms plausibel klinkende maar onjuiste of onzinnige antwoorden.” Deze “hallucinatie” van feit en fictie, zoals sommige wetenschappers het noemen, is vooral gevaarlijk als het gaat om zoiets als medisch advies.
In tegenstelling tot andere AI-assistenten zoals Siri of Alexa, gebruikt Chat GPT niet het internet om antwoorden te zoeken. In plaats daarvan construeert het woord voor woord een zin, waarbij het op basis van zijn training het meest waarschijnlijke “token” kiest dat daarna moet komen.
Met andere woorden, ChatGPT komt tot een antwoord door een reeks gissingen, wat mede de reden is dat het foute antwoorden kan beargumenteren alsof ze helemaal waar zijn.
Hoewel het geweldig is in het uitleggen van complexe concepten, waardoor het een krachtig leermiddel is, is het belangrijk niet alles te geloven wat het zegt. ChatGPT is niet altijd correct – althans, nog niet.
4. OpenAI heeft alle macht
Met grote macht komt grote verantwoordelijkheid, en OpenAI heeft veel macht. Het is een van de eerste AI-bedrijven die de wereld echt opschudden met niet één, maar meerdere AI-modellen, waaronder Dall-E 2, GPT-3, en nu, ChatGPT.
OpenAI kiest welke gegevens worden gebruikt om ChatGPT te trainen en hoe het omgaat met de negatieve gevolgen. Of we het nu eens zijn met de methoden of niet, het zal deze technologie blijven ontwikkelen volgens zijn eigen doelstellingen.
Hoewel OpenAI veiligheid hoog in het vaandel heeft staan, is er veel dat we niet weten over hoe de modellen tot stand komen. Of je nu vindt dat de code open source moet worden gemaakt, of het ermee eens bent dat het delen ervan geheim moet houden, we kunnen er niet veel aan doen.
Uiteindelijk kunnen we er alleen maar op vertrouwen dat OpenAI ChatGPT op een verantwoorde manier zal onderzoeken, ontwikkelen en gebruiken. Als alternatief kunnen we ervoor pleiten dat meer mensen inspraak krijgen in de richting waarin AI zich moet ontwikkelen, zodat we de kracht van AI delen met de mensen die het zullen gebruiken.
5. Het kan schade veroorzaken in de echte wereld
Eerder noemden we hoe onjuiste informatie door ChatGPT echte-wereld-schade kan veroorzaken, met als meest voor de hand liggende voorbeeld verkeerd medisch advies.
Er zijn ook andere zorgen. Valse socialemedia-accounts vormen een enorm probleem op het internet en met de introductie van AI-chatbots zou internetoplichting gemakkelijker uitvoerbaar worden. De verspreiding van valse informatie is een andere zorg, vooral als ChatGPT zelfs foute antwoorden overtuigend goed laat klinken.
De snelheid waarmee ChatGPT antwoorden kan produceren die niet altijd correct zijn, heeft al problemen veroorzaakt voor Stack Exchange, een website waar gebruikers vragen kunnen stellen en antwoorden kunnen krijgen.
Al snel na de introductie werden antwoorden van ChatGPT van de site verbannen omdat een groot aantal ervan fout was. Zonder voldoende menselijke vrijwilligers om de achterstand te sorteren, zou het onmogelijk zijn om de kwaliteit van de antwoorden op een hoog peil te houden, waardoor de website schade oploopt.
De grootste problemen van AI aanpakken
Er is veel om enthousiast over te zijn met ChatGPT, OpenAI’s nieuwste ontwikkeling. Maar buiten de directe toepassingen zijn er enkele serieuze problemen die het begrijpen waard zijn.
OpenAI geeft toe dat ChatGPT schadelijke en bevooroordeelde antwoorden kan produceren, om nog maar te zwijgen van zijn vermogen om feiten met fictie te vermengen. Met zo’n nieuwe technologie is het moeilijk te voorspellen welke andere problemen zich zullen voordoen. Dus tot die tijd, geniet van het verkennen van ChatGPT en pas op dat je niet alles gelooft wat het zegt.