Het gebruik van AI-agents kan medewerkers ontlasten van dagelijkse routinetaken.

Echter dit gebruik is niet zonder gevaar.

Aangezien AI-agents soms worden ontwikkeld om zelfstandig beslissingen te nemen, kunnen deze genomen beslissingen ernstige gevolgen hebben voor de personen voor wie de beslissing wordt genomen.

Hierbij valt bijvoorbeeld te denken aan:

• medisch diagnoses, die door een AI-agent louter genomen wordt op basis van (foute of achterhaalde) gegevens in een databank;
• het nakijken van een overeenkomst door een AI-agent, zonder controle door een jurist;
• het berekenen of herberekenen van een dagvergoeding op basis van (fouten, achterhaalde of onvolledige) dossiergegevens in een databank;
• ….

Belangrijk te onthouden punten

1. Gedupliceerde, onjuiste en inconsistente gevens kunnen enorme gevolgen hebben voor de personen die de geautomatiseerde beslissingen van AI-agents moeten ondergaan.
2. Het implementeren van een project waarbij AI-agents in productie worden geplaatst moet grondig worden voorbereid.
3. Het ter beschikking stellen van een gespecialiseerde AI-agent aan medewerkers zonder kennis en ervaring met de specifieke materie die een AI-agent behandelt is niet aan te bevelen.

Eilanden van inconsistente gegevens

Organisaties beschikken soms over eilanden van geïsoleerde systemen, maar ook gedupliceerde, foute, onvolledige en inconsistente gegevens in hun tabellen en databanken.

Inconsistentie van gegevens in dezelfde tabel

In sommige databanken ziet men weleens inconsistenties met betrekking tot de wijze dat bepaalde soorten gegevens staan geregistreerd.

Deze inconsistenties doen zich niet enkel voor tussen de verschillende tabellen in de databank, maar soms zelfs in eenzelfde tabel van de databank.

Inconsistentie, in een zelfde tabel, die kunnen voorkomen zijn bijvoorbeeld:

• het ontbreken van cruciale gegevens;
• namen waarvan alle letters hoofdletters zijn, als namen die geregistreerd zijn in een mengeling van hoofdletters en kleine letters, … ;
• het gebruiken van een veld voor het registreren van een stuk informatie waarvoor het veld initieel niet was bedoeld, zoals een 3de adresveld gebruiken om er een buitenlands telefoonnummer in te registreren;
• een klantennummer of dossiernummer dat uit verschillende delen bestaat registreren met spaties, zonder spacies, met en zonder punten of met en zonder streepjes, …;
• …

Dergelijke inconsistenties worden doorgaans in legacy systemen gedetecteerd, en de oorsprong ervan zijn doorgaans specifieke software modules die de door de gebruiker ingevoerde gegevens niet controleren.

Indien de databank niet vooraf wordt gezuiverd van deze inconsistenties, dan loopt men achteraf het risico dat de AI-agent fouten zal maken bij het nemen van beslissingen om tot actie over te gaan.

Niet genormaliseerde gegevens

Een tweede gevaar voor de aanwezigheid van inconsistente gegevens is een niet genormaliseerde databank.

Hoewel het niet normaliseren van gegevens in sommige use-cases merites heeft, zoals het sneller kunnen opzoeken van gegevens, is het niet de enige reden waarom organisaties niet genormaliseerde databanken hebben.

In sommige organisaties ontstaat deze situatie louter op basis van de werking van de organisatie.

Bijvoorbeeld omdat men werkt met gespecialiseerde teams die ieder verantwoordelijk zijn voor hun eigen P/L, en er dus geen belang bij hebben om telkens aan een ander team te moeten vragen om iets voor hen uit te voeren.

In een dergelijk geval ontstaat de verleiding om een deel van de data van een ander team gewoon te kopiëren en nadien telkens te laten synchroniseren of te repliceren.

Ongedocumenteerd zal na meerdere jaren deze gekopieerde gegevens een eigen leven gaan beginnen te leiden, bijvoorbeeld omdat men op deze secundaire gegevens gaat voortbouwen, met alle gevolgen vandien.

Gevolgen voor AI-agents

Onjuiste, gedupliceerde en inconsistente gegevens waarop een AI-agent een beroep gaat doen om zelfstandig een beslissing te nemen kunnen ernstige gevolgen hebben voor personen.

Mensen hebben immers het recht om niet, zonder menselijke tussenkomst, te worden onderworpen aan een geautomatiseerde verwerking dat (rechts)gevolgen voor hem of haar heeft.

Wanneer een AI-agent, of een groep van AI-agents zelfstandig beslissingen kunnen nemen op basis van de in de bestanden van de organisatie aanwezige gegevens, zoals bijvoorbeeld het starten van een rechtspleging, dan kan dit voor de betrokkene ernstige gevolgen hebben.

Temeer wanneer achteraf zou blijken dat de gegevens waarop de AI-agent zich heeft gebaseerd fout zouden zijn, en er geen enkele menselijke tussenkomst was om het opstarten van de rechtspleging onafhankelijk te beoordelen en, indien nodig, te stoppen.

Aandachtspunten

Net zoals men zou beginnen met het implementeren en in productie zetten van een AI-chatbox, dient men voor een AI-agent dezelfde voorzichtigheid in acht te nemen.

Dit omvat o.a.:

• het maken van een grondige analyse en business case voor de voorgenomen use case implementatie;
• het verifiëren van de kwaliteit van de te gebruiken gegevens;
• het verifiëren of de kwaliteit van de basisgegevens steeds en continue worden gecontroleerd op fouten, inconsistenties en duplicaten;
• bij de ontwikkeling van de AI-agent, het voorzien in extra controles waaronder menselijke controles;
• …

Datamarts

Indien sommige van de gegevens waarop de AI-agent een beroep gaat doen om een beslssing of tussenbeslissing te nemen afkomstig zijn van een datamart, dan moet men erop toezien dat het synchronisatie- of replicatieproces ingebouwde datacontroles heeft.

Het gebruik van datamarts is niet zo ongewoon, zeker wanneer de basis databank heel groot is.

Beveiligingde communicatie

Persoonsgegevens in de datamart worden best gepseudonimiseerd.

Indien een (workflow) oplossing gebruik maakt van meerdere AI-agents die gezamenlijk een specifieke taak uitoefenen, waarbij bijvoorbeeld een of meerdere AI-agents autonoom beslissingen kunnen nemen, dan wordt de communicatie tussen deze AI-agents best beveiligd,

Toegangscontrole

De toegang tot het opzetten en configureren van de AI-agent moet worden beveiligd.

Ook de toegang tot het gebruik als gebruiker zou moeten worden beveiligd, zodat bijvoorbeeld onbevoegden niet kunnen tussenkomen bij de vraag van een AI-agent voor menselijke goedkeuring alvorens verder te gaan met het proces.

Medewerkers zonder ervaring en kennis

Soms vervangt men medewerkers, waarvan men denkt wiens werk en taken gemakkelijk kunnen worden vervangen door automatisatie zoals AI-agents, door onervaren medewerkers zonder kennis en ervaring met de specifieke materie.

De ervaring leert dat dit vaak een vergissing is.

Het vervangen van ervaren medewerkers ontslaat een onervaren vervanger niet om de door een AI-agent genomen beslissing te beoordelen, indien het systeem een menselijke beoordeling en beslissing voorziet en toelaat.

Deze beoordeling en het nemen van de juiste beslissing vereist vaak kennis en ervaring, hetgeen de onervaren medewerker vaak niet heeft.

In de praktijk ziet men dan op de werkvloer ook vaak dat de onervaren, en soms ook de ervaren, medewerker gewoon het resultaat van het geïmplementeerde algoritme goedkeurt of in het geval van een AI-agent zal goedkeuren; omdat men er vanuit gaat dat het voorstel of het resultaat van het systeem wel juist zal zijn.

Dit kan voor de betrokken personen die afhankelijk zijn van een dergelijke beslissing enorme gevolgen hebben. Bijvoorbeeld omdat de genomen onterechte beslissing een latere herziening noodzaakt, maar intussen is het kwaad al wel geschied.

Het is daarom geen goed idee om onervaren medewerkers en medewerkers zonder kennis van zaken alleen te laten met een geautomatiseerd proces, zoals het proces dat uitgevoerd wordt door een AI-agent.

Opgelet

Deze blog is geen advies noch een aanbeveling. Iedere organisatie heeft unieke kenmerken en heeft daarom ook haar eigen problemen.

Heeft u een specifiek probleem bij de geautomatiseerde verwerking van persoonsgegevens, neem dan gerust contact op.

Bloep, 14 juni 2026.