Kunstmatige intelligentie (AI) is een systeemtechnologie, een technologie die overal in de samenleving is toe te passen en daardoor de samenleving fundamenteel zal veranderen, stelt de Wetenschappelijke Raad voor het Regeringsbeleid (WRR). Om de publieke waarden van onze maatschappij te beschermen en te garanderen, moeten overheid en samenleving zich buigen over vijf ‘Opgaven AI’, schrijft de WRR in een recent rapport. Prof. dr. mr. Corien Prins, voorzitter van de WRR, geeft uitleg.
“De komst van AI kun je het beste vergelijken met de komst van elektriciteit, de verbrandingsmotor of de computer”, steekt Corien Prins van wal. “Ook dat waren nieuwe technologieën die alomtegenwoordig werden, voor tal van doelen zijn te gebruiken en de economie en samenleving op een ingrijpende en onvoorspelbare wijze hebben veranderd. Met AI staan we, volgens ons, nu op een keerpunt: de overstap van de ontwikkeling en toepassing ervan binnen de wetenschap naar de brede toepassing ervan in de maatschappij. Dat betekent dat AI, net als ooit elektriciteit of de verbrandingsmotor, ingebed moet worden in onze maatschappij. Dat vergt een langdurige wisselwerking tussen samenleving en techniek, waarbij de precieze uitkomst niet te voorspellen is. AI zal uiteindelijk invloed hebben op onder andere veiligheid en gezondheid, autonomie en vrijheid, burgerrechten en de rechtstaat, rechtvaardigheid en inclusie. Allemaal zaken waarbij AI naast nieuwe kansen ook uitdagingen en gevaren met zich mee kan brengen. Als we niet oppassen, kunnen publieke waarden als privacy, vrijheid en gelijkwaardigheid in het gedrang komen.”
Demystificatie
Mede daarom vroegen in 2018 maar liefst dertien bewindspersonen van negen ministeries de WRR een advies uit te brengen over de potentiële invloed van AI op publieke waarden en daarbij te schetsen wat er nodig is om AI optimaal in de Nederlandse samenleving in te bedden. Dit leidde eind 2021 tot het rapport Opgave AI. De nieuwe systeemtechnologie.1 Hierin formuleert de WRR enkele opgaven voor overheid en samenleving. De eerste daarvan is ‘Demystificatie van wat AI is en kan’.
Prins: “Tijdens onze vele gesprekken in het veld hoorden we vooral twee uitersten: enerzijds de mensen die stellen dat AI de oplossing is voor bijna alle problemen in de samenleving, anderzijds mensen die AI wantrouwen. Wij waarschuwen voor beide. Te hooggespannen verwachtingen leiden tot desillusie en ondoordachte toepassingen, terwijl overtrokken angsten leiden tot afkeer van de technologie en het niet benutten van de kansen die ze biedt. Om de maatschappelijke discussie met name over de invloed van AI op de publieke waarden goed te kunnen voeren, is meer realisme nodig. De WRR pleit daarom voor meer ‘AI-wijsheid’, zowel bij de overheid als in de maatschappij. In de medische sector, bijvoorbeeld, zou de overheid het leren omgaan met digitale technologie moeten stimuleren. Zodat zorgverleners weten wat het is, wat het kan, wat het niet kan en hoe je aan de patiënt bijvoorbeeld uitlegt dat de keuze van de therapie mede op basis van AI is genomen. De overheid moet uiteraard zelf ook goed beslagen ten ijs komen in contacten met AI-ontwikkelaars en bijvoorbeeld op voorhand afspraken maken over wie rechthebbende is van de data.”
Dialoog
In het verlengde van de aanbeveling tot meer AI-wijsheid ligt de opgave ‘Engagement’, oftewel ervoor zorgen dat bij vraagstukken over AI ook de expertise van burgers en maatschappelijke organisaties actief wordt betrokken. Prins: “We moeten voorkomen dat het een monoloog door technische specialisten en deskundige gebruikers blijft. Discussies over AI moeten vooral een dialoog worden waarin ook de partijen aan het woord komen die in de praktijk te maken krijgen met de toepassing van AI, bijvoorbeeld vertegenwoordigers van patiënten. Om de betreffende maatschappelijke partijen hiertoe uit te rusten, adviseren wij de overheid deze partijen te ondersteunen bij het uitbreiden van hun werk naar het digitale domein, in het bijzonder AI.”
Onderhandelingstafels
‘Contextualisering’, luidt een andere opgave van de WRR. “Daarmee geven we aan dat AI meer is dan alleen een algoritme. Ook de omgeving moet gereed worden gemaakt voor AI, bijvoorbeeld het samenbrengen van noodzakelijke datasets. Inbedding van AI vereist, kortom, ook hardware, ondersteunende technologieën, een data-infrastructuur, adequate opleiding en training voor de mensen die ermee gaan werken en ook voorlichting aan mensen die ermee te maken gaan krijgen, bijvoorbeeld patiënten. Voor een deel zullen private en maatschappelijke partijen dit op zich kunnen nemen, maar de overheid moet een voortrekkersrol nemen in sectoren die maatschappelijk van groot belang zijn, zoals de gezondheidszorg.
AI werkt in de gezondheidszorg alleen als de omgeving zo is ingericht dat de benodigde data uniform, van voldoende kwaliteit en toegankelijk zijn. Daarmee kom je ook op het terrein van het ontwikkelen van standaarden. De WRR wijst erop dat een aantal landen, waaronder China, en enkele commerciële partijen hierbij de toon zetten en daardoor nu de keuzes domineren. Wij sporen in ons rapport de overheid aan ervoor te zorgen dat Nederland, de EU en andere landen die dezelfde publieke waarden onderschrijven, bij het ontwikkelen van standaarden nadrukkelijk aan de internationale onderhandelingstafels aanschuiven en daar weloverwogen keuzes maken. Het is daarom nodig als overheid ook ten aanzien van AI een buitenlandbeleid, dus een integrale AI-diplomatie, te ontwikkelen, stellen wij.”
Stip op de horizon
De opgave ‘Regulering’ sluit nauw aan bij deze aansporing. “We constateren dat de Nederlandse overheid nu overwegend afwachtend en reactief is ten aanzien van de regulering van AI. Zo overheerst bijvoorbeeld de gedachte dat met de komst van de Europese AI Act alles wel netjes geregeld is.2 Dat is echter niet zo. Zo regelt deze act bijvoorbeeld niets over de bescherming van consumenten en ook van patiënten tegen risico’s van AI-toepassingen. Als WRR roepen we de overheid op de regulering van AI actief op te pakken en te benaderen vanuit een visie over hoe wij onze maatschappij op de langere termijn met grootschalige toepassing van AI ingericht willen zien. Die visie moet reeds nu de stip op de horizon zijn bij het inbedden en reguleren van AI. Voor de gezondheidszorg, bijvoorbeeld, betekent dit dat kwaliteit en toegankelijkheid van zorg altijd voorop moeten staan. Van daaruit moeten we kijken welke rol AI kan spelen om dit te realiseren, welke vormen van AI daarbij zinvol zijn, welke kwaliteitseisen je daaraan moet stellen, wie de eigenaar is van wat en wie waarover wat heeft te zeggen, enzovoort.
De wetgever moet niet afwachten wat er komen gaat, maar de regie pakken en proactief greep op de ontwikkelingen houden. Zo niet, dan verliest hij het vermogen om die ontwikkelingen op tijd te kunnen bijsturen. Daarvoor is het nodig dat Nederland bij het reguleren van AI samenwerkt met andere landen, maar daarnaast ook een eigen AI-identiteit ontwikkelt. AI-toepassingen voor de zorg, bijvoorbeeld, moeten uiteindelijk geïmplementeerd worden in en daarom aansluiten bij de typische kenmerken van het Nederlandse zorgmodel en van de Nederlandse maatschappij. Ik ben dan ook blij dat de minister van VWS begin mei een brief naar de Tweede Kamer zond over AI in de gezondheidszorg.”3
Verder brengen
Al met al, concludeert Prins, zijn er in Nederland al enkele mooie initiatieven van AI in de zorg. “Die komen tot nu toe vooral voort uit motivatie en inzet op specifieke projecten en de individuele specialist. De grote uitdaging is nu dit verder te brengen. Momenteel vormen daarbij financiering en autonomie forse hobbels. Daarnaast - en dat is waar ons rapport over gaat - is er een langetermijngerichte en brede visie van de overheid nodig. Waar willen we als Nederland met AI naar toe en hoe komen we daar?”
Dit artikel is het vierde in een serie artikelen over kunstmatige intelligentie (AI). In het volgende artikel vertellen dr. Marleen Kok en dr. Hugo
Horlings hoe zij TIL's met AI detecteren in coupes van borstkankerweefsel.
Referenties
1. Wetenschappelijke Raad voor het Regeringsbeleid. Rapport 105. Opgave AI. De nieuwe systeemtechnologie. Den Haag; 2021. Te raadplegen via www.wrr.nl/publicaties/rapporten/2021/11/11/opgave-ai-de-nieuwe-systeemtechnologie
2. The Artificial Intelligence Act. Te raadplegen via artificialintelligenceact.eu/
3. Kuipers EJ. Waardevolle arteficiële intelligentie (AI) voor Gezondheid. 9 mei 2022. Te raadplegen via www.tweedekamer.nl/kamerstukken/brieven_regering/detail?id=2022Z08868&did=2022D17916
Dr. Marten Dooper, wetenschapsjournalist
Oncologie Up-to-date 2022 vol 13 nummer 4
DEEL DIT ARTIKEL:
De Wetenschappelijke Raad voor het Regeringsbeleid (WRR) is een onafhankelijk adviesorgaan. De WRR informeert en adviseert de regering en het parlement over sectoroverstijgende vraagstukken die grote impact hebben op de samenleving. De adviezen zijn gebaseerd op wetenschappelijk onderzoek en gericht op een langetermijnperspectief.