De nieuwe Europese AI-wetgeving (AI Act) komt eraan. Als ondernemer krijg je ermee te maken – óók als je de AI zelf niet hebt gebouwd. Gebruik je AI in je processen? Dan moet je weten of jouw toepassing als hoog risico wordt gezien. In dat geval gelden er strengere regels en ben je deels verantwoordelijk voor het naleven daarvan.
Key Takeaways
- AI-gebruik kan jou als ondernemer aansprakelijk maken
- Hoog-risico AI vereist toezicht en documentatie
- Vraag altijd nalevingsinfo op bij je leverancier
Wat is een hoog-risico AI-toepassing?
Volgens de AI Act zijn AI-systemen hoog risico als ze invloed hebben op iemands rechten of toegang tot diensten, beslissingen nemen met grote impact, en gebruikt worden in gevoelige sectoren zoals werk, onderwijs, financiën of gezondheid.
Voor ondernemers kun je denken aan toepassingen zoals een sollicitatieplatform dat AI gebruikt om kandidaten te scoren, AI in klantenservice die automatisch klachten afwijst, scoringsmodellen voor krediet of verzekering, diagnostische tools in de zorg of risicobeoordelingen bij verhuur of leningen.
Voorbeelden voor ondernemers:
In de praktijk zijn voorbeelden van AI-toepassingen die voor ondernemers onder de hoog-risicocategorie kunnen vallen: een sollicitatieplatform dat AI gebruikt om kandidaten te scoren, AI in klantenservice die automatisch klachten afwijst.
- Een sollicitatieplatform dat AI gebruikt om kandidaten te scoren
- AI in klantenservice die automatisch klachten afwijst
- Scoringsmodellen voor krediet of verzekering
- Diagnostische tools in de zorg
- Risicobeoordelingen bij verhuur of leningen
Wie is verantwoordelijk?
Als je AI gebruikt in je onderneming (bijv. via een softwarepakket), dan ben je een gebruiker (deployer). Jij bent dus verantwoordelijk voor:
- Correct gebruik van de tool
- Menselijk toezicht waar nodig
- Transparantie richting klanten en personeel
- Documentatie van incidenten en gebruik
Gebruik je een AI-systeem verkeerd of zonder toezicht, dan kun je aansprakelijk zijn – ook al heb je het niet zelf ontwikkeld.
Wat moet je doen als ondernemer?
- Check of jouw toepassing hoog risico is
Gebruik je AI bij selectie, beoordeling of toewijzing van mensen/diensten? Dan is extra waakzaamheid nodig. - Vraag documentatie op bij de leverancier
Vraag of het systeem onder de AI Act valt en wat hun nalevingsstatus is. - Zorg voor menselijk toezicht
Laat belangrijke beslissingen (zoals een afwijzing) altijd controleren door een medewerker. - Houd logboeken bij
Documenteer wat het systeem doet en wanneer er fouten optreden. - Informeer je medewerkers of klanten
Laat weten dat er AI wordt ingezet, en waarvoor. - Bereid je voor op audits of meldplicht
Zorg dat je interne processen op orde zijn, vooral bij incidenten.
Samengevat:
Als jouw onderneming AI gebruikt voor processen met impact op mensen, dan ben je verplicht om verantwoordelijkheid te nemen. Wacht niet tot de wet formeel ingaat, maar regel nu al toezicht, transparantie en documentatie. Zo voorkom je juridische problemen én versterk je het vertrouwen van klanten en medewerkers.
Laat weten als je dit artikel wilt inzetten op je website of in een nieuwsbrief – ik kan het ook herschrijven voor LinkedIn of een andere kanaalgerichte vorm.
