Wat de EU AI Act betekent voor ERP-implementaties

Wat betekent de EU AI Act voor ERP? Lees hoe Europese AI-regelgeving invloed heeft op AI in bedrijfssoftware, data en compliance.

Kunstmatige Intelligentie (AI) wordt steeds vaker onderdeel van ERP-software (Enterprise Resource Planning). Denk aan systemen die voorraad voorspellen, inkoopadviezen geven, facturen automatisch verwerken, productieplanningen optimaliseren of afwijkingen in financiële gegevens signaleren. Voor veel organisaties is dat handig, omdat ERP-processen vaak veel data bevatten en daardoor geschikt zijn voor slimme automatisering.

Tegelijkertijd roept het gebruik van AI nieuwe vragen op. Welke gegevens gebruikt het systeem? Hoe komt een advies tot stand? Wie controleert de uitkomst? En wanneer moet je kunnen aantonen dat AI verantwoord wordt ingezet? Door de komst van de EU AI Act wordt dit steeds belangrijker. Deze Europese AI-regelgeving raakt namelijk niet alleen AI-bedrijven, maar ook organisaties die AI-functies gebruiken binnen hun bedrijfssoftware.

Wat is de EU AI Act?

De EU AI Act is Europese wetgeving voor kunstmatige intelligentie. Het doel van deze regelgeving is om AI veiliger, transparanter en beter controleerbaar te maken. De wet kijkt daarbij niet alleen naar de technologie zelf, maar vooral naar de manier waarop AI wordt gebruikt. Een AI-functie die een tekstvoorstel doet, heeft bijvoorbeeld een andere impact dan een systeem dat beslissingen neemt over personeel, krediet of toegang tot diensten.

De AI Act werkt met risiconiveaus. Hoe groter de mogelijke impact van een AI-systeem, hoe strenger de regels. Sommige toepassingen zijn verboden, terwijl andere toepassingen vooral transparant moeten zijn. Voor organisaties betekent dit dat AI niet langer alleen een technische keuze is. Het wordt ook een onderwerp voor beleid, datakwaliteit, leveranciersbeheer en compliance.

Waarom is de EU AI Act relevant voor ERP?

ERP-systemen vormen vaak het hart van een organisatie. Ze bevatten gegevens over financiën, inkoop, voorraad, productie, personeel, projecten, leveranciers en klanten. Zodra AI op basis van die gegevens voorspellingen maakt of adviezen geeft, kan de AI-wetgeving EU ook relevant worden voor ERP-processen.

Dat betekent niet dat iedere AI-functie binnen ERP meteen risicovol is. Veel toepassingen zullen vooral ondersteunend zijn, zoals automatische boekingsvoorstellen, vraagvoorspellingen of signaleringen bij afwijkingen. Toch is het belangrijk om te weten welke AI-functionaliteiten je gebruikt en welke bedrijfsprocessen daardoor worden beïnvloed. Juist omdat ERP zo centraal staat, kan een verkeerde voorspelling of onduidelijk advies snel gevolgen hebben voor meerdere afdelingen.

Welke ERP-toepassingen kunnen onder de AI Act vallen?

Binnen ERP zie je AI vooral terug in processen waar veel data en herhaling bij komen kijken. Denk aan voorraadbeheer, productieplanning, factuurverwerking, inkoopadvies, capaciteitsplanning, demand forecasting en onderhoudsvoorspellingen. AI kan bijvoorbeeld signaleren dat een machine waarschijnlijk onderhoud nodig heeft, dat een leverancier structureel te laat levert of dat de vraag naar een product binnenkort stijgt.

Ook HR- en personeelsplanning binnen ERP verdienen extra aandacht. AI die helpt bij personeelsplanning is meestal iets anders dan AI die medewerkers beoordeelt, kandidaten selecteert of prestaties voorspelt. Zodra een systeem invloed krijgt op beslissingen over mensen, wordt het risico groter. Daarom is het verstandig om per toepassing te bekijken of AI alleen ondersteunt, of dat het daadwerkelijk invloed heeft op belangrijke beslissingen.

Hoe werkt de risicobenadering van de AI Act?

De regelgeving voor kunstmatige intelligentie deelt AI-systemen in op basis van risico. Toepassingen met minimaal risico krijgen weinig extra verplichtingen. Bij beperkte risico’s draait het vooral om transparantie. Denk aan duidelijk maken dat iemand met AI communiceert of dat content door AI is gegenereerd. Bij hoog-risico toepassingen gelden strengere eisen, zoals documentatie, datakwaliteit, logging, menselijk toezicht en controleerbaarheid.

Voor ERP betekent dit vooral dat organisaties moeten begrijpen waarvoor AI wordt ingezet. Een AI-module die helpt bij voorraadoptimalisatie zal in veel gevallen minder gevoelig liggen dan een AI-systeem dat personeelsbeslissingen ondersteunt. De kernvraag is dus niet alleen: zit er AI in ons ERP-systeem? De betere vraag is: welke processen beïnvloedt deze AI en wat kan er misgaan als de uitkomst niet klopt?

Wat betekent compliance met de AI Act?

Compliance met AI Act begint bij overzicht. Veel organisaties gebruiken inmiddels AI zonder precies te weten waar het allemaal zit. Soms gaat het om ingebouwde functies binnen ERP-software, maar soms ook om losse AI-tools die medewerkers gebruiken voor analyses, rapportages, documentverwerking of tekstvoorstellen. Dat maakt het lastig om risico’s goed in te schatten.

Een praktische eerste stap is daarom een AI-inventarisatie. Welke AI-functies worden gebruikt binnen ERP? Welke data gaat erin? Welke adviezen of voorspellingen komen eruit? En wie neemt uiteindelijk de beslissing? Compliance draait niet alleen om regels volgen, maar ook om aantoonbaar kunnen uitleggen hoe AI binnen bedrijfsprocessen wordt gebruikt.

Waarom ERP-data extra aandacht vraagt

ERP-data is vaak bedrijfsgevoelig. Denk aan inkoopprijzen, marges, leveranciersafspraken, voorraadniveaus, productiecapaciteit, financiële gegevens en personeelsinformatie. Wanneer AI met deze data werkt, moet duidelijk zijn waar die gegevens worden verwerkt en wie toegang heeft tot de uitkomsten. Zeker bij externe AI-tools is dit een belangrijk aandachtspunt.

Een risico zit vooral in zogenoemde schaduw-AI. Dat gebeurt wanneer medewerkers buiten de officiële software om AI-tools gebruiken, bijvoorbeeld door rapportages, facturen of leveranciersgegevens in een losse AI-tool te plakken. Vaak gebeurt dat met goede bedoelingen, maar het kan wel zorgen voor onduidelijkheid over databeveiliging, privacy en compliance. Voor ERP-teams is het daarom belangrijk om duidelijke afspraken te maken over welke AI-tools wel en niet gebruikt mogen worden.

Praktische stappen voor ERP-teams

Voor ERP-teams hoeft de komst van de EU AI-regels niet meteen te betekenen dat er een groot juridisch project moet worden opgestart. Begin vooral praktisch. Breng in kaart waar AI in het softwarelandschap zit, welke processen ermee worden ondersteund en welke afdelingen ermee werken. Vanuit daar kun je bepalen welke toepassingen extra controle of documentatie nodig hebben.

Een goede basis bestaat uit een paar concrete stappen:

• Breng alle AI-functies binnen ERP en gekoppelde systemen in kaart.
• Controleer welke bedrijfsdata door AI wordt gebruikt.
• Leg vast welke AI-uitkomsten alleen advies zijn en welke processen ze beïnvloeden.
• Zorg dat medewerkers weten welke AI-tools ze mogen gebruiken.
• Maak duidelijk wie verantwoordelijk blijft voor beslissingen.
• Vraag leveranciers hoe zij omgaan met de EU AI Act.
• Controleer regelmatig of AI-functionaliteiten nog passen bij het interne beleid.

Wat vraag je aan je ERP-leverancier?

ERP-leveranciers bouwen steeds vaker AI-functionaliteiten in hun software. Dat kan veel opleveren, maar het betekent ook dat organisaties kritischer moeten kijken naar wat er precies wordt geleverd. Vraag daarom niet alleen welke AI-functies beschikbaar zijn, maar ook hoe deze werken en hoe de leverancier omgaat met transparantie, dataveiligheid en documentatie.

Goede vragen zijn bijvoorbeeld: welke data gebruikt de AI-functie? Wordt data gebruikt om modellen verder te trainen? Kan de uitkomst worden uitgelegd? Is er logging beschikbaar? Welke instellingen heeft de gebruiker zelf in handen? En welke ondersteuning biedt de leverancier bij compliance met AI Act? Zulke vragen helpen om AI niet als losse gadget te behandelen, maar als onderdeel van een betrouwbaar ERP-landschap.

Conclusie

De EU AI Act maakt duidelijk dat AI binnen bedrijfssoftware niet vrijblijvend is. Voor organisaties die ERP-software gebruiken, wordt het belangrijker om te weten welke AI-functionaliteiten aanwezig zijn, welke data daarbij wordt gebruikt en welke processen daardoor worden beïnvloed. Zeker omdat ERP-systemen vaak centraal staan in de organisatie, kan AI impact hebben op veel meer dan één losse afdeling.

Dat betekent niet dat bedrijven AI moeten vermijden. Integendeel: AI kan ERP-processen slimmer, sneller en voorspelbaarder maken. Maar de tijd van experimenteren zonder overzicht raakt wel voorbij. Wie AI verantwoord inzet, duidelijke afspraken maakt met leveranciers en grip houdt op data, kan profiteren van innovatie zonder de controle te verliezen.

Bron

European Comission -  AI Act