CIP-werkconferentie – AI Act in de praktijk – Jasper Kars van het Ministerie van BZK

Op 29 november jl. organiseerde CIP de eerste CIP-werkconferentie. Met ca. 200 professionals is daar nagedacht over de implementatie van de nieuwe AI-Act. Vanuit de thema's Ethiek, Informatiebeveiliging, Privacy en Inkoop.

In de podcast geeft Jasper Kars van het Ministerie van BZK zijn visie op de uitdagingen, die vanuit ethiek voor ons liggen. ”De impact van deze technologie is vergelijkbaar met die van elektriciteit en de stoommachine, zegt hij. Daarom moet ook de ethische kant van de nieuwe wet worden getoetst, zodat deze waarde gedreven kan worden ingebed“.  

Transcript

Jasper Kars: Dat is een enorme technologie. Dat is vergelijkbaar met de stoommachine, met de elektriciteit, met het schrift. Zo'n grote impact - durf ik te zeggen - verwacht ik dat AI gaat hebben.

Robin Rotman: Welkom bij de AI Act in de praktijk. We zijn vandaag bij de CIP-werkconferentie en hier bespreken bijna 200 professionals: hoe we ons samen kunnen voorbereiden op de komst van die AI Act. Dit is een podcast van het Centrum Informatiebeveiliging en Privacybescherming. Naast mij zit nu Jasper Kars. Hij werkt bij het ministerie van Binnenlandse Zaken en hij is betrokken bij de voorbereidingen van de AI Act en de nationale inbedding. Het leuke is, Jasper: jij kijkt vooral naar de ethische kant van het verhaal, de ethische kant van de AI. Help me een beetje: waar kijk jij dan allemaal naar?

Jasper Kars: De ethische kant van AI kan in eerste instantie best wat abstract klinken, want ethiek gaat over waarden, gaat over wat in een bepaalde situatie het juiste om te doen is, maar ik denk dat AI het juist heel concreet maakt. Dat gaat namelijk over de vraag: vinden wij het in een concrete situatie verantwoord om een bepaald algoritme of een AI-systeem in te zetten en wat betekent dat voor individuele burgers, organisaties? Op die manier kijken wij ook als BZK naar AI en algoritmes. Wij willen dat het op een verantwoorde manier wordt ingebed en ingezet in de samenleving en dat vraagt best veel. Dat is echt een specifiek aandachtspunt waar wij ons als BZK sterk voor maken, ook omdat wij als BZK gaan over grondrechten en de grondwet. Daar zit ook duidelijk een ethische component aan.

Robin Rotman: Over wat voor waarden praat je dan? Dat gaat over non-discriminatie. Dat gaat misschien over privacy.

Jasper Kars: Zeker. In onze Werkagenda Waardengedreven Digitaliseren hebben we die wat explicieter gemaakt, maar je noemt er al twee die - denk ik - ontzettend belangrijk zijn. Een andere is ook autonomie, in een verdigitaliserende wereld als individu nog ruimte hebben om keuzes te maken. Dat vinden we ook erg belangrijk. Transparantie, privacy, non-discriminatie zijn hele belangrijke publieke waarden die wij echt moeten borgen in deze digitale wereld, want we zijn het - denk ik - nu allemaal met elkaar erover eens dat de technologie niet waardevrij is. Ik wilde zeggen: niet meer, maar het is niet waardevrij. Dat is het nooit geweest. Daarom zeg ik: het is echt een inzicht dat wij hebben opgedaan. Daar zet ik me voor in in mijn professionele leven.

Robin Rotman: Dat is het grappige van deze conferentie. Die AI Act komt op ons af. We weten natuurlijk voor een belangrijk deel wat daarin komt te staan. Brussel heeft daar natuurlijk van alles over gezegd. In Nederland moeten we daar nog over praten. Tegelijkertijd heb je AI zelf. Geen mens die weet hoe dat zich de komende 15, 20 jaar gaat ontwikkelen. Het gaat gepaard met een hoop vraagtekens, maar als je je focust op de ethiek, - het maakt ons niet zo heel veel uit wat we toetsen - als we het alleen maar toetsen op de ethische kant, dan zitten we safe en dan kan het zich ontwikkelen zoals het wil. Als het daaraan voldoet, dan zitten we goed. Is dat een beetje waar je dan heen neigt? Dat lost een hoop op.

Jasper Kars: Dan isoleer je - denk ik - ethiek net iets te veel. Ethiek is een belangrijke randvoorwaarde. Het is echt heel belangrijk dat je als organisatie let op dat je bij de inzet van een AI-systeem oog hebt voor die publieke waarden waar we het over hebben, de ethische kant, maar aan de andere kant moet je ook, als jij een algoritme wil inzetten, weten dat het bijvoorbeeld veilig is, dat het echt doet wat het belooft te doen. Je kunt zeggen dat dat ook ethiek is, maar voor mij is dat een breed scala aan verschillende aspecten waarop je moet letten en ethiek is daar een hele belangrijke van en het komt overal terug. In dat opzicht is het misschien ook de belangrijkste randvoorwaarde dat je het juiste doet, maar dat is in de praktische zin soms nog best lastig, zeker als het een heel technisch vraagstuk betreft.

Robin Rotman: Ja, want het is natuurlijk ook weer lastig om precies te formuleren: wat is dan precies respect voor privacy, non-discriminatie, menselijke autonomie vertaald naar hele praktische AI-systemen en hoe toets je dan of het inderdaad menselijke autonomie is? Dat is ook een beetje een tricky verhaal.

Jasper Kars: Daar sla je ook de spijker op de kop. Dat is een uitdaging. Daarvoor hebben wij ook in Europa - denk ik - een belangrijke rol. Europa heeft een sterke mensenrechten- of grondrechtengedreven aanpak bij digitalisering. Dat zie je nu ook weer terug bij de AI Act. Wat daarin belangrijk is, is dat je de wat meer hoogover normen ook concreet maakt in standaarden en die zo uniform mogelijk opstelt zodat je in Nederland - maar hopelijk ook in heel Europa, maar laten we even op Nederland focussen - als organisatie weet welke standaarden je moet volgen om ook ethisch het juiste te doen. Ontslaat dat je als organisatie van het voeren van het ethische gesprek? Nee, maar het helpt heel veel mensen die concreet echt te maken krijgen met dit soort vraagstukken om dan ook in de uitvoering bijvoorbeeld het juiste te doen.

Robin Rotman: Om even de reikwijdte een beetje te duiden: hoe groot is AI binnen de Nederlandse overheid alleen al? Waar zit dat en waar gaat dat allemaal terechtkomen in die toekomst?

Jasper Kars: In de toekomst? Als we de Wetenschappelijke Raad voor het Regeringsbeleid mogen geloven, - en dat vinden wij een rapport waarvan we zeggen: dat volgen we echt - gaan we bij Opgave AI uit van een systeemtechnologie. Dat is een technologie die domeinoverstijgend is en impact heeft op alle facetten van de samenleving. Dat is een enorme technologie. Dat is vergelijkbaar met de stoommachine, met de elektriciteit, met het schrift. Zo'n grote impact - durf ik te zeggen - verwacht ik dat AI gaat hebben op hoe we met elkaar communiceren, hoe we werken, hoe we leren, hoe we communiceren.

Robin Rotman: Dat geldt niet alleen voor de overheid. Dat geldt voor ons allemaal. We moeten er allemaal wat mee.

Jasper Kars: Voor de gehele samenleving, maar als overheid hebben we een speciale rol om ervoor te zorgen dat zo'n transitie op een waardegedreven manier kan plaatsvinden, op verantwoorde manier niet alleen ontwikkeld, gebruikt, maar ook ingebed raakt in de samenleving. Jouw vraag over waar we nu al meer concreet AI zien bij de overheid of in het publieke domein, de publieke sector: ik denk dat een heel mooi en hoopgevend voorbeeld het zorgdomein is, waar AI al helpt bij het detecteren van bijvoorbeeld kanker. Dan is het een assistent van de professional. Dat is - denk ik - een heel mooi voorbeeld. Aan de andere kant zie je het in allerlei toepassingen. Ik zat te denken: wat voor een AI heb ik vandaag alleen al gebruikt om hiernaartoe naar Putten te komen? AI wordt gebruikt om te kiezen welk muzieknummer ik beluister, welke route ik hiernaartoe krijg. In mijn dagelijkse gebruik zou je bijvoorbeeld ook generatieve AI daaraan kunnen toevoegen. In dat opzicht is het al overal.

Robin Rotman: Die generatieve AI: het is een jaar geleden dat ChatGPT is gelanceerd. Generatieve AI oftewel je gooit er een kwartje in en er komt van alles uit en je kan het overal toepassen, in de muziek, in de kunst, maar misschien ook om beleidsplannen te maken of om een ontwerp te maken. Iedereen kan er van alles mee doen. In hoeverre is dit iets waar die AI Act iets mee moet? Wat betekent dat dan?

Jasper Kars: Daarom wil ik niet te veel vooruitlopen, maar op dit moment vindt er tussen lidstaten een discussie plaats die inderdaad gaat over de vraag hoe foundation models - dat zijn de onderliggende modellen waar ook veel van die grote taalmodellen zoals ChatGPT op gebaseerd zijn - gereguleerd moeten worden, hoe stevig je eisen daaraan moet stellen. Er zijn een aantal lidstaten die meer uitgaan van een aanpak waarbij ze zeggen: nee, de ontwikkelaars, de innovatie moet alle ruimte kunnen krijgen. Daartegenover staan lidstaten die zeggen: dit is zo fundamenteel; we moeten nu de kans aangrijpen om dit op een uniforme manier te reguleren, zeker met de toekomst, want de verwachting is toch dat die modellen exponentieel zullen toenemen qua capaciteit, wat ze kunnen, maar ook qua toegankelijkheid, waar je het allemaal kan toepassen; dit is nu het juiste momentum is om juist ook die stap te zetten. Even wat geschiedenis: toen de AI Act eerst werd samengesteld, was ChatGPT nog niet zo openbaar beschikbaar. Toen had niemand het over generatieve AI.

Robin Rotman: Ik had ChatGPT even moeten inschakelen om te vragen wat voor vragen ik hierover aan jou moet stellen.

Jasper Kars: Dan hadden we - denk ik - een leuker gesprek gehad.

Robin Rotman: We stellen vast dat iedereen ermee te maken gaat krijgen. Dat zijn niet alleen de ambtenaren. Dat zijn niet alleen de bewindspersonen. Dat zijn niet alleen de managers. Dat zijn wij allemaal. Het wordt ook alleen maar groter en meer en meer en meer. We willen dat dat waardegedreven is. We vinden het belangrijk dat we het juiste doen. We zitten hier op een conferentie waarbij al die professionals aan het nadenken zijn hoe we ons daarop gaan voorbereiden. Dit is niet alleen een taak voor de FG's. Dit gaat ons allemaal aan. Heb jij al leuke inzichten voorbij horen komen over die hoe-vraag?

Jasper Kars: Precies. Zeker. Het doet mij heel erg goed dat hier vandaag zoveel mensen zijn die het thema ook belangrijk vinden en hiernaartoe gaan. We hadden een break-out sessie speciaal voor ethiek en die zat helemaal vol. Dat doet natuurlijk heel erg goed. Dat geeft ook aan dat het een belangrijk onderwerp is geworden voor organisaties. Daar moeten we wat mee, maar bij wat we er precies mee moeten, zie je bij organisaties soms nog vraagtekens bestaan. Ik denk dat het heel belangrijk is. Nederland is al een van de vooruitlopende landen als het gaat om ethiek binnen AI en dat helpt ons straks ook om goed voorbereid richting die implementatie van de AI-verordening te gaan.

Jasper Kars: Om het even concreet te maken: zo'n Algoritmeregister dat we hebben gelanceerd, - ook bijna een jaar geleden trouwens - is een mooi voorbeeld van een instrument dat nu al - niet verplicht - overheden stimuleert om open te zijn over hun algoritmegebruik en in de AI Act zit er waarschijnlijk een verplichting rondom een EU-database om daar AI-systemen in op te nemen, met andere woorden kun je als overheid al oefenen met hoe dat eruitziet en nu al het juiste doen. Zo zijn we ook bezig met het ontwikkelen of het doorontwikkelen van een Algoritmekader waarin je verschillende stappen doorloopt die belangrijk zijn om tot verantwoorde inzet van algoritmen in AI te komen. Daarin zijn we als Nederland - denk ik - echt een voorloper en dat mag ook best gezegd worden.

Jasper Kars: Dat gaat ook over de academische wereld. We hebben heel veel academische kennis in huis. Ik vind dat ook heel mooi om te zien dat je dat vandaag ook terugziet: mensen die echt al ideeën bijhebben. Ik zag al een aantal mooie ideeën, bijvoorbeeld over het organiseren van een ethische commissie met mandaat. Met andere woorden: verschillende mensen buigen zich interdisciplinair over een AI-systeem en zeggen: kunnen we dit inzetten, is het verantwoord om dit in te zetten? Niet alleen: is het juridisch verantwoord? Dan zou je meer in de FG-hoek komen. Ook: mag het juridisch, maar vinden we het ook wenselijk? Dan zou zo'n commissie ook het mandaat geven om daar de beslissing in te nemen. Dat was bijvoorbeeld een idee dat is aangedragen door mensen die aan zo'n casus hebben gewerkt. Dat vond ik een hele goede. Zo heb ik nog een paar andere mooie dingen gehoord. Ik zei ook al: het is een cadeautje voor ons, want dat kan ons ook helpen bij de bewustwording. Uiteindelijk moeten we het samen doen, als BZK natuurlijk, vooral ook mede-overheden en wijzelf. Dat is een mooi cadeautje als wij nu al ideeën krijgen vanuit de sector, want zo zouden we de komende jaren samen - want we moeten het samen doen - richting die implementatie kunnen gaan.

Robin Rotman: Er komen interessante tijden aan, Jasper.

Jasper Kars: Zeker.

Robin Rotman: Dank je wel, Jasper Kars. Ik wens je heel veel succes met jouw mooie werk. Je kan ook de andere afleveringen terugluisteren via www.cip-overheid.nl. Dank je wel.

Jasper Kars: Dank.