Organisaties maken hoe langer hoe meer gebruik van artificiële intelligentie om sommige taken uit te voeren. Hierbij kunnen we bijvoorbeeld denken aan het analyseren van documenten, het opstellen van rapporten, maar ook voor hun klantenservice.

Voorbeelden hiervoor zijn te vinden bij bekende consultancy bedrijven, een fastfoodketen, een fintech bedrijf, in de medische sector, en zelfs bij de overheid.

Echter het gebruik van AI-tools is niet zonder gevaar.

Er duiken meer en meer gedocumenteerde gevallen op waarbij het AI-systeem, doorgaans gaat het hier om Generatieve AI-systemen of GenAI, onbestaande zaken fabriceren.

In sommige gevallen worden zelfs werken en uitspraken toegewezen aan mensen die deze werken (d.i. uitgegeven wetenschappelijke boeken) en uitspraken nooit hebben gedaan.

Dit is hetgeen men AI hallucinaties noemt.

GenAI en LLM

In de literatuur en in de media hoort men vaak de termen GenAI (Generative AI), LLM (Large Language model), GML (Generalised Lineair Model), etc.

Kort door de bocht is GenAI een LLM, maar dan met meerdere output mogelijkheden.

In tegenstelling tot LLM, dat enkel een text output kan genereren, kan GenAI ook afbeeldingen, video, … als output genereren; zoals mensen dat doen.

Dus het model ontvangt inputs, als trainingsmateriaal, van mensen en genereert op basis van die vele inputs een output.

De aard van de output is afhankelijk van de leeralgorithmen die het model toepast, en die (momenteel) in essentie afkomstig zijn van mensen.

In een later stadium zullen dergelijke modellen vermoedelijk zelfstandig eigen leeralgorithmen ontwikkelen en gebruiken bij de “interpretatie” van de gegeven inputs; m.a.w. een eigen bewustzijn en een eigen cultuur of culturen ontwikkelen; dus een zelfontwikkeld referentiekader.

Inputs kunnen afkomstig zijn van expliciete inputs van mensen, meestal onder de vorm van ingevoerde of geregistreerde (trainings)gegevens, maar ook door eigen observaties van het model zelf via hun sensoren, camera’s etc..

M.a.w. het model, dat is verwerkt in een machine, zou dan op basis van gevoel (de sensoren), visuele (de camera’s die aanwezig zijn in de machine)) en auditieve (camera of audio input) observatie eigen gegevens kunnen opslaan, daaruit “leren” en op basis van al deze elementen autonoom en onafhankelijk van de initële input en leeralgorithmen een eigen output genereren.

Anders gezegd de machine (robot) komt tot het stadium van bewustzijn, en tot “leven”. Het is dus geen klakkeloze uitvoerder meer van geprogrammeerde instructies op basis van ingevoerde gegevens, maar een “wezen” met een eigen “ik”.

Vergelijking machine en mens

Je zou dit eventueel kunnen vergelijken met de geboorte van een mens.

In het huidige stadium komt na 9 maanden een “wezen” op de wereld, dat we baby noemen.

Afgezien van lawaai maken, smoelen trekken, … kan dit “wezen” eigenlijk niet veel. Na inputs door de ouders of opvoeders van een bepaald soort geluid, hetgeen we woorden in een bepaalde taal noemen, gaan deze “wezens” deze woorden gewoon reproduceren; maar zonder een werkelijk besef waarover het precies gaat.

Het is pas na vele jaren onderdompeling in (omgevings)data en subtiel doorgegeven redeneermethodes die doorgaans via het waardebesef, de (sub)cultuur en de sociale omgeving van de ouders en hun leefwereld wordt meegegeven, dat het “wezen” stilaan een zeker bewustzijn en redeneermethode zal ontwikkelen.

Bij de meeste van deze “wezens”, laten we ze nu gewoon mensen noemen, zal dit bewustzijn beperkt blijven tot hun leefwereld en (sub)cultuur. Er zijn relatief gesproken weinig mensen die een cross (sub) cultureel bewustzijn hebben, omdat dit vereist dat men lang genoeg in meerdere (sub) culturen en waardesystemen moet geleefd hebben; hetgeen bij de meeste mensen niet het geval is.

GenAI en AI in het algemeen situeert zich momenteel in het stadium van het (proberen te overstijgen) begeleidend leren; het is de baby / het kind dat allerlei expliciete (basis) inputs ontvangt en doorgaans op basis van (voorgeprogrammeerde) regels een conclusie trekt.

Het aspect zelfleren en zelf renederingen uitvinden bevindt zich nog in een beginstadium.

GenAI en risico’s

Wanneer GenAI een output genereert, dan gebeurt dit momenteel hoofdzakelijk op basis van menselijke inputs. Dit betekent dat de ingegeven trainingsdata en redeneringen (algorithmen) afkomstig zijn van mensen.

Wanneer momenteel een output wordt gegeneeerd dan kan men in principe nog steeds aan debugging doen, de fouten gaan opsporen en corrigeren.

Maar wat indien de output gebaseerd wordt op trainingdata en redeneermethoden die het AI-systeem zelf produceert, op basis van zijn eigen “bewustzijn”; wat dat “bewustzijn” ook mogen zijn?

Hoe zal dan de controle gebeuren op de inputs (data en redeneringen), en hoe en wie of wat zal dan bepalen of een input correct is, en op basis van welke criteria zal dit dan beoordeeld worden?

In het huidige stadium zijn er voor de meeste use-cases nog mensen die de correctheid van de outputs kunnen beoordelen, omdat de inputs voor het merendeel nog steeds afkomstig is van mensen.

Het gevaar ontstaat wanneer de outputs niet of voor een groot deel niet meer gebaseerd zijn op menselijke inputs (data en redeneermethoden).

Als dat stadium wordt bereikt, dan zal het risico vermoedelijk voor mensen oncontroleerbaar worden. Tenzij, misschien, de mens vooraf een mechanisme weet in te bouwen waarmee hij later, zelfs tegen de “wil” van het AI-systeem in, de door het AI-systeem zelf ontwikkelde redeneermethoden en opgenomen trainingsdata offline kan halen en buiten de machine om kan bestuderen.

Dit laatste vereist wel dat het niveau van de mens nog steeds superieur is aan het nveau van de machine (AI-systeem). Dit zal immers vereist zijn om de machine / het model zelf ontwikkelde redeneringen en de gegevens van de machine te begrijpen.

GenAI hallucinaties bij de verwerking van persoonsgegevens

Zoals hierboven reeds werd aangegeven houdt het gebruik van AI-systemen risico’s in.

Risico’s die kunnen ontstaan doordat de machine outputs aanmaakt, zelfs wanneer dit gebeurt op basis van puur menselijke inputs.

Een voorbeeld hiervan is het verhaal van een bekende Australische consultant, dat voor de Australische overheid een analyse op bestelling maakte inzake het niet naleven van de voorwaarden voor werklozen.

Het rapport van de consultant kende immers uitspraken, citaten en werken toe aan een persoon (een vrouwelijke wetenschapper) die deze uitspraken, citaten en werken helemaal niet heeft gedaan. De fout werd na lectuur van het rapport opgemerkt door een collega wetenschapper, die de geciteerde wetenschapper persoonlijk kende.

Het is bekend dat AI-systemen in het huidige stadium soms outputs “uitvinden” die er helemaal niet zijn, zoals persoonsgegevens, zoals een wetenschappelijk werk of – artikel, toewijzen aan een natuurlijke persoon, terwijl die persoonsgegevens deze natuurlijke persoon helemaal niet toebehoren.

Het uitvinden van dergelijke onjuiste gegevens is hetgeen men AI hallucinaties noemt.

Het is niet moeilijk om te beseffen hoe gevaarlijk AI hallucinaties zijn voor natuurlijke personen.

Hierbij kan bijvoorbeeld worden gedacht aan gefabriceerde “beweringen” van een AI-systeem dat een natuurlijke persoon:

• fraude heeft gepleegd, terwijl dit helemaal niet het geval is;
• onbetaalde verkeersovertredingen heeft openstaan of een verkeersovertreding heeft begaan, terwijl dit helemaal niet het geval is;
• bepaalde beweringen heeft gedaan, terwijl dit helemaal niet het geval is;
• …

Het is dan ook ten zeerste aan te bevelen wanneer men AI-systemen inzet bij de verwerking van persoonsgegevens de output dubbel na te kijken.

Wanneer men dit niet doet dan riskeert men niet enkel inbreuken op de GDPR, maar ook inbreuken op andere wetgevingen.

Bloep, 7 december 2025.