|
|
 |
 |
Mensheid, pas op! Zelfbewuste AI komt eraan en zal ons in de nabije toekomst onderwerpen! Althans, zo leggen AI doomers de waarschuwingen uit van leiders in de AI industrie. Er moeten regels komen voor het te laat is! Maar hebben ze een punt, kunnen machines ons echt inhalen en een akelige wereld creëren zoals in films als Terminator? De geleerden zijn het er in ieder geval niet over eens.
Het is echter een vraag die mij bijzonder boeit. Ik verdien tegenwoordig namelijk mijn brood met het ontwikkelen van toepassingen van machine learning in de chemie. Het is een tak van scheikunde die in de jaren tachtig van de vorige eeuw ontsproot en die chemometrie is gaan heten. De vooruitgang die sinds die vroege jaren geboekt is, is spectaculair te noemen. Ik vraag me dus vanzelfsprekend af waartoe dit allemaal zou kunnen leiden.
De vraag of we al in de buurt zijn van een AI met zelfbewustzijn is actueel vanwege de enorme populariteit van Large Language Models (LLMs), zoals ChatGPT. Technisch gezien is een LLM een deep learning neural network. Toen in de jaren zestig dit wiskundige formalisme bedacht werd, kwam iemand op die naam omdat het menselijke brein ook wel eens zo zou kunnen werken. Dat is nog steeds niet zeker, maar de naam bleef hangen tot de dag van vandaag.
Voor een wiskundige is een neuraal netwerk zoals ChatGPT een geavanceerde robot die mechanisch een samenhangend stuk tekst kan produceren, niets meer maar vooral ook niets minder. Een soort statistische papegaai, om maar eens kort door de bocht te gaan. Recent onderzoek toont aan dat sommige LLMs al redelijk meekomen in redenerings-testen, maar de draad kwijtraken zodra die tests een beetje gevarieerd worden – iets waar jij of ik geen enkele moeite mee zouden hebben. Een LLM is een mechanisme zonder bewustzijn of benul van wat al die woorden die het aan elkaar knoopt eigenlijk betekenen.
Een deel van het vertrouwen in de mogelijkheden van AI komt door de "menselijke" terminologie. Een neuraal netwerk is technisch gezien een wiskundige procedure, een algorithme, dat iedere input kan fitten aan iedere output. Training is het ijken van dat stuk wiskunde met invoer waarvoor we de resultaten al kennen. Hallucinatie kan optreden zodra een algorithme een vraag moet beantwoorden buiten het bereik van de data waarmee het getraind is,waardoor het zelfverzekerd apekool kan verkopen. Het redeneren dat de nieuwste LLMs zouden kunnen, is eigenlijk een iteratieve verfijning van de uitvoer, maar geen fundamenteel andere technologie. Zo bezien worden de verwachtingen voor een zelfbewuste AI enigzins getemperd.
Een fascinerende vraag is of een zelfbewuste AI, als die ooit ontwikkeld zou worden, een beetje op ons lijkt? Als je zo’n synthetisch wezen een vraag zou stellen als "waarom ben je hier?", begrijpt het wezen je dan als een individu of als een groep? En als zo'n wezen instinctief werkt, zou het deze vraag dan überhaupt begrijpen? Hoe zouden ze met elkaar communiceren – in een taal waar wij wat mee kunnen? Zelfbewuste AI zou zo maar eens van een heel andere planeet kunnen lijken te komen.
Maar op dit moment kan niemand nog met zekerheid zeggen of een zelfbewuste AI er ooit komt, alle enthousiaste voorspellingen ten spijt. Voorlopig zit het mogelijke gevaar van AI vooral in menselijke fouten en misbruik. Maar vorm vooral je eigen mening. Informatie verzamelen en een afgewogen oordeel vormen, is nou echt een eigenschap van een denkend, zelfbewust wezen.
Gepubliceerd in Wetenschap. Meer over Kunstmatige intelligentie of Scheikunde.
© 1993-2026 J.M. van der Veer
jmvdveer@algol68genie.nl
