Doelgroep: MBO niveau 4 – eerstejaars studenten.

Periode 2, Thema 3 voor Security, Privacy en Ethiek

Wat is de AI EU Act?

De AI EU Act is een wet die ervoor zorgt dat kunstmatige intelligentie (AI) op een veilige, ethische en eerlijke manier gebruikt wordt. AI komt in heel veel dingen voor zoals bijvoorbeeld in slimme assistenten zoals Siri of Google Assistant en apps die je gezondheid bijhouden. De wet zorgt ervoor dat bedrijven en ontwikkelaars goed nadenken over hoe ze AI gebruiken en hoe ze omgaan met jouw gegevens en maakt duidelijk dat AI een risico kan vormen voor de privacy en veiligheid van gebruikers als het verkeerd wordt gebruikt.

De rol van softwareontwikkelaars in ethiek en privacy

Mijn visie: Als softwareontwikkelaar ben je niet alleen iemand die code schrijft en er voor zorgt dat de applicatie simpelweg werkt, maar ook iemand die de verantwoordelijkheid heeft om verder te kijken naar de gevolgen van die applicatie. Wanneer je apps, websites of andere software ontwikkelt gebruik je vaak persoonlijke gegevens van gebruikers zoals namen, e-mailadressen of zelfs informatie over hun gezondheid. Het is jouw taak om ervoor te zorgen dat deze gegevens veilig worden opgeslagen en niet worden misbruikt.

Het gaat dus niet alleen om de technische werking van je software, maar ook om de ethische keuzes die je maakt. Dit betekent dat je moet nadenken over hoe je software gebruikt kan worden:

Bewust zijn van privacy: Zorg ervoor dat gebruikers weten welke gegevens je verzamelt en waar ze voor gebruikt worden.

Transparantie: Leg altijd uit hoe je software werkt en welke gegevens verzameld worden, zodat gebruikers een keuze kunnen maken in of ze dit zelf ook willen of niet.

Waarom is deze wet nodig?

We gebruiken steeds meer AI in ons dagelijks leven. AI kan dingen doen zoals beslissingen nemen (of je bijvoorbeeld een lening kan krijgen of niet), data van jou verzamelen (zoals je naam, locatie of zelfs je gezondheid), etc. Deze wet zorgt ervoor dat AI niet zomaar alles kan doen zonder dat jij het weet. Het is belangrijk dat het veilig blijft en dat AI geen onterecht kwaad kan doen of schade kan veroorzaken aan een persoon zoals bij o.a. discriminatie of data misbruik het geval zou zijn.

Wat regelt de AI EU Act?

Veilige AI: AI moet veilig zijn voor jou en mag je geen schade doen. Als een AI gebruikt wordt om een besluit te nemen over jou moet het eerlijk zijn en niet op basis van onware informatie.

Bescherming van jouw gegevens: Als AI werkt met jouw persoonlijke gegevens (zoals je naam of je medische gegevens) moet het veilig zijn en correct worden behandeld. Jij hebt het recht om te weten welke gegevens worden verzameld en wat ermee gebeurt.

Transparantie: Bedrijven moeten duidelijk uitleggen hoe AI werkt en welke gegevens het verzamelt. Ze moeten het ook duidelijk maken wanneer je te maken hebt met AI, zodat je weet dat je niet met een mens praat.

Jouw rechten: Jij als gebruiker hebt rechten. Je kunt bijvoorbeeld vragen om je gegevens in te zien of om ze te laten verwijderen als je dat wilt.

Waarom is deze wet belangrijk?

Stel je voor dat je een app gebruikt die je gezondheidsinformatie verzamelt. Deze app gebruikt AI om te kijken of je misschien een ziekte hebt, maar als de AI verkeerde gegevens gebruikt kan het verkeerde conclusies trekken. De AI EU Act zorgt ervoor dat dit soort fouten niet kunnen gebeuren en dat jouw gegevens veilig blijven.

Het is dus belangrijk dat je weet dat jouw persoonlijke informatie wordt beschermd wanneer AI ermee werkt, zodat je niet zomaar je gegevens verliest of dat iemand misbruik maakt van de informatie die je hebt gedeeld.

Waarom is deze wet belangrijk voor jou als student?

Als softwareontwikkelaar in de toekomst krijg je mogelijk te maken met AI-systemen. De wet zorgt ervoor dat de toepassingen die jij ontwikkelt veilig, eerlijk en betrouwbaar zijn voor de gebruikers. Het is dus belangrijk dat je begrijpt hoe AI-systemen werken en hoe je ervoor kunt zorgen dat ze geen schade veroorzaken voor de privacy van mensen.

Risiconiveaus

De wet maakt onderscheid tussen verschillende risiconiveaus die AI-systemen met zich meebrengen en stelt eisen voor elk niveau:

Onaanvaardbare risico’s: Dit betreft AI die echt schadelijk kan zijn voor de veiligheid of rechten van mensen. Voorbeeld; gezichtsherkenning in openbare ruimtes door de overheid is verboden tenzij het echt noodzakelijk is.

Hoge risico’s: AI die wordt gebruikt in belangrijke gebieden zoals gezondheidszorg, onderwijs of werkgelegenheid wordt als hoog risico beschouwd. Deze AI-toepassingen moeten voldoen aan strenge regels om ervoor te zorgen dat niets misgaat.

Gelimiteerd risico: AI-systemen die met gebruikers communiceren moeten duidelijk maken dat je met een AI-systeem spreekt. Voorbeeld; chatbots die duidelijk moeten maken dat je met een machine praat.

Minimaal of geen risico: AI die geen grote impact heeft op de gebruikers, zoals AI in games of spamfilters, valt in deze categorie. Deze AI hoeft niet zoveel regels te volgen.

De wet heeft als doel om het gebruik van AI veilig en betrouwbaar te maken en biedt een code van praktijken voor het gebruik van AI-modellen die mogelijk systemische risico’s inhouden en zorgt ervoor dat bedrijven ethisch omgaan met gegevens en geen onterecht gebruik maken van AI-technologie.

Hier is een filmpje die de verschillende risico’s op een simpele manier uitlegt. Ook licht deze de kritiek op de AI EU Act een beetje toe:

Wat zijn de verschillende rollen in de AI EU Act?

In de AI EU Act worden verschillende rollen gedefinieerd voor bedrijven en mensen die werken met kunstmatige intelligentie (AI). Het is belangrijk om te begrijpen welke rol je speelt als ontwikkelaar of bedrijf, omdat je verantwoordelijk bent voor hoe AI wordt gebruikt. Hier zijn de belangrijkste rollen:

Provider (Leverancier): Als provider ontwikkel je AI-systemen of breng je ze op de markt. Jij zorgt ervoor dat de AI-systemen voldoen aan de regels van de wet en dat ze veilig en eerlijk zijn voor gebruikers.

Voorbeeld: Als je een AI-app ontwikkelt die gezichten herkent ben jij de provider. Jij moet ervoor zorgen dat de app de privacy van mensen respecteert en geen misbruik maakt van de verzamelde gegevens.

Deployer (Gebruiker): Als deployer gebruik je AI die door een ander bedrijf is gemaakt. Je zet de AI in om specifieke taken uit te voeren, bijvoorbeeld op een website of in een app. Jij moet ervoor zorgen dat je de AI veilig inzet en geen risico’s creëert voor je gebruikers.

Voorbeeld: Als je een bedrijf hebt dat AI-chatbots gebruikt om klanten te helpen ben jij de deployer. Jij moet ervoor zorgen dat de chatbot veilig omgaat met gebruikersdata.

Distributor (Distributeur): Als distributeur zorg je ervoor dat AI-systemen beschikbaar worden gesteld aan anderen door ze bijvoorbeeld via winkels of online platforms te verkopen.

Voorbeeld: Als je AI-software verkoopt aan andere bedrijven ben jij de distributeur. Jij zorgt ervoor dat de AI voldoet aan de wet en dat het veilig is voor de eindgebruikers.

Product Manufacturer (Productfabrikant): De productfabrikant maakt AI-systemen en is verantwoordelijk voor het ontwerpen en produceren van de technologie. Dit geldt vooral voor bedrijven die AI-hardware ontwikkelen zoals robots of sensoren.

Voorbeeld: Als je een bedrijf hebt dat robots maakt die AI gebruiken om werk uit te voeren ben jij de productfabrikant. Jij zorgt ervoor dat de robots voldoen aan de wet en veilig gebruikt kunnen worden.

Boetes voor Schendingen van de AI EU Act

Als bedrijven en ontwikkelaars zich niet houden aan de regels van de AI EU Act kunnen ze zware boetes krijgen. Dit is belangrijk om te weten, want als softwareontwikkelaar kun jij ook betrokken raken bij het ontwikkelen van AI-systemen en moet je zorgen dat je deze regels volgt. Hier is wat je moet weten over de mogelijke penalties:

Hoge Boetes voor Grote Fouten

Als een bedrijf AI gebruikt op een gevaarlijke manier zoals AI die de privacy van mensen niet beschermt of schadelijke beslissingen neemt (o.a. discriminerende beslissingen) kunnen ze een boete van tot wel 6% van hun wereldwijde omzet krijgen.

Voorbeeld: Stel dat een bedrijf een AI gebruikt die onterecht mensen uitsluit van een dienst zoals het weigeren van toegang tot een website op basis van vooroordelen. Dit kan leiden tot een grote boete.

Boetes voor Niet-Naleven van de Transparantie Regels

Bedrijven moeten duidelijk uitleggen hoe hun AI werkt en welke gegevens het verzamelt. Als ze dit niet doen kunnen ze een boete krijgen van tot wel 4% van hun omzet.

Voorbeeld: Als je een gezondheidsapp ontwikkelt en gebruikers niet informeert over hoe hun gezondheidsgegevens worden verzameld kan dit leiden tot een boete.

Strengere Boetes voor Herhaalde Overtredingen

Als een bedrijf herhaaldelijk de regels overtreedt kunnen de boetes hoog oplopen zelfs tot meerdere keren de jaarlijkse omzet. Dit is om te zorgen dat bedrijven zich serieus aan de wet houden en niet door blijven gaan met fouten maken.

Voorbeeld: Als een bedrijf bijvoorbeeld herhaaldelijk onterecht gegevens van gebruikers verzamelt zonder toestemming kunnen ze hoge straffen krijgen.

Samenvatting

De AI EU Act zorgt ervoor dat AI veilig en eerlijk werkt. Het beschermt jouw gegevens en zorgt ervoor dat bedrijven goed met je informatie omgaan zonder je privacy te schenden. Het zorgt ervoor dat we AI op een veilige, eerlijke en ethische manier gebruiken.

Reflectie en mijn visie: de AI EU Act is een belangrijke stap om ervoor te zorgen dat kunstmatige intelligentie (AI) op een veilige en eerlijke manier wordt gebruikt. Als software ontwikkelaar is het belangrijk om niet alleen te zorgen dat technologie goed werkt zoals ik al vele malen op deze site heb gedeeld, maar ook dat we nadenken over hoe deze technologie de privacy en rechten van mensen beïnvloedt. De wet legt de nadruk op bepaalde punten zoals transparantie, veiligheid en het respecteren van gegevens en deze dit wil ik ook toepassen in mijn werk. Blijf transparant in de dingen die je doet, zorg ervoor dat het veilig blijft voor iedereen en respecteer elkaars gegevens.

Mijn visie is dat AI altijd als een gereedschap gebruikt moet worden om het leven van mensen beter te maken met respect voor hun privacy en gelijkheid. De AI EU Act helpt hierbij door regels op te stellen, maar het is dus ook belangrijk dat wij als ontwikkelaars zelf verantwoordelijkheid nemen.

Ethisch: Technologie moet eerlijk en duidelijk zijn en we moeten ervoor zorgen dat de technologie niet ten koste gaat van mensenrechten. Op deze manier kunnen we zorgen voor een toekomst van de digitale wereld die in ieder geval betrouwbaar en correct is voor iedereen.

TLDR: uiteindelijk betekent dit voor jou als toekomstige softwareontwikkelaar dat je moet leren hoe je AI verantwoordelijk kunt gebruiken in je projecten en de privacy van je gebruikers kunt beschermen.

Bronnen

European Commission. (z.d.). AI Act. European Commission. Geraadpleegd op 23 maart 2025, van https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

IAPP. (z.d.). EU AI Act cheat sheet. International Association of Privacy Professionals. Geraadpleegd op 23 maart 2025, van https://iapp.org/media/pdf/resource_center/eu_ai_act_cheat_sheet.pdf

Vischer. (z.d.). Part 7: The EU AI Act – what it means in practice for most companies. Geraadpleegd op 23 maart 2025, van https://www.vischer.com/en/knowledge/blog/part-7-the-eu-ai-act-what-it-means-in-practice-for-most-companies

UNESCO. (z.d.). Ethics of Artificial Intelligence. United Nations Educational, Scientific and Cultural Organization. Geraadpleegd op 24 maart 2025, van https://www.unesco.org/en/artificial-intelligence/recommendation-ethics

IT-Academie Overheid. (2022, juli 12). Podcastserie Ethiek in de praktijk van het CIP – Afl. 8. Techniek die ethiek ondersteunt. Geraadpleegd op 24 maart 2025, van https://www.it-academieoverheid.nl/actueel/nieuws/2022/07/12/podcastserie-ethiek-in-de-praktijk-van-het-cip

UNESCO. (2023). Recommendation on the ethics of artificial intelligence. United Nations Educational, Scientific and Cultural Organization. Geraadpleegd op 24 maart 2025, van https://unesdoc.unesco.org/ark:/48223/pf0000381137

Tech Policy. (2024, december 21). The EU’s AI Act Explained [Video]. YouTube. Geraadpleegd op 31 maart 2025, van https://www.youtube.com/watch?v=s_rxOnCt3HQ