AI Act-compliance bij NeemtOp

De EU AI Act (Verordening 2024/1689) is de eerste uitgebreide wetgeving wereldwijd voor kunstmatige intelligentie. Hij werd van kracht in augustus 2024, met gefaseerde inwerkingtreding van specifieke verplichtingen tussen 2025 en 2027.

Voice AI-systemen zoals NeemtOp vallen onder de categorie 'beperkt risico' (Art. 50) — dit betekent dat gebruikers geïnformeerd moeten worden dat ze met AI communiceren. Voor zorg- en juridische sectoren gelden aanvullende eisen uit Art. 10 (data governance) en Art. 72 (post-market monitoring).

Onder Art. 50 moet een beller aan het begin van een gesprek geïnformeerd worden dat hij met AI praat. NeemtOp doet dit automatisch:

• Elke inkomende call opent met een korte AI-disclosure ('Hallo, ik ben de digitale assistent van [bedrijf]...').
• De disclosure is aanpasbaar in bewoording, niet in het feit dát hij er is.
• Bij doorverbinden naar een mens vervalt de AI-modus en wordt dit helder gecommuniceerd.

Uitzonderingen: bij hulpdiensten of situaties van acute nood kan de disclosure worden ingekort. Dit is alleen relevant voor zeer specifieke use cases.

Voor systemen die in 'hoog-risico'-categorieën werken (zoals bepaalde zorg- of juridische toepassingen) moet een data governance-register worden bijgehouden. Voor NeemtOp betekent dat:

• Documentatie over welke data de AI is getraind op (alleen jouw bedrijfsinformatie en FAQ's, niet op klantgesprekken).
• Beschrijving van bias-checks en representativiteit van trainingsdata.
• Audit-trail van data die in gesprekken wordt verwerkt en wanneer deze wordt verwijderd.

We leveren dit register op aanvraag aan klanten in gereguleerde sectoren.

Na ingebruikname moeten we incidenten en onverwacht gedrag monitoren en rapporteren. Onze aanpak:

• Realtime dashboards met call-volumes, escalatie-percentages en drop-offs.
• Elke hallucinatie of fout antwoord wordt gelogd en beoordeeld.
• Ernstige incidenten (bv. AI geeft onjuiste medische of juridische info) worden binnen 15 dagen gemeld aan de Rijksinspectie Digitale Infrastructuur (RDI), conform Art. 73.

Als je NeemtOp gebruikt, ben je 'deployer' (in AI Act-termen) van een AI-systeem. Je hoofdverplichtingen:

• Informeer bellers dat ze met AI praten — NeemtOp doet dit automatisch voor je.
• Houd toezicht op het systeem — wij leveren dashboards en rapportages.
• Bewaar logs minimaal 6 maanden — wij bewaren 30 dagen standaard, langer op aanvraag voor gereguleerde sectoren.
• Als je werkt in een hoog-risico sector (zorg, juridisch, kritieke infrastructuur): voer een fundamentele rechten-impactassessment (FRIA) uit. Wij leveren de documentatie die je daarvoor nodig hebt.