Ethiek en digitalisering

De laatste jaren zien we een toename van technologische ontwikkelingen, innovaties en de hoeveelheid data, wat leidt tot digitalisering. Digitalisering verandert de samenleving en de overheid zelf. Nieuwe technologische mogelijkheden hebben invloed op de aanpak van de maatschappelijke opgaven en de kerntaken van de provincie. We moeten niet alleen de mogelijkheden van digitalisering benutten, maar ook voor de risico’s hiervan beperken. Dit vraagt politiek en bestuurlijk om een nieuwe rol voor de provincie, met aandacht voor ethiek.

Dit is in lijn met onze visie ‘Waardevol Digitaliseren’ (2019) waarbij er aandacht is voor ethiek en maatschappelijk verantwoord werken. Hierin stellen we het volgende: als provincie willen we de samenleving van morgen mede vormgeven vanuit publieke waarden en wettelijke functies. Het is de kerntaak van de provincie om publieke waarden (veiligheid, democratie, zelfbeschikking, non-discriminatie, participatie, privacy en inclusiviteit) te waarborgen in de aanpak van de maatschappelijke opgaven en de mens hierbij centraal te stellen.

Zoals in het coalitieakkoord 2023-2027 ‘Krachtig Zuid-Holland’ staat beschreven, doet de provincie dit door: in te zetten op een open overheid. Bij dit alles worden veiligheid en privacy geborgd en waardevolle data beschermd. Waarbij we oog houden voor de ethische dilemma’s. Zoals privacy, de behoefte aan persoonlijk contact en de digitale geletterdheid van onze inwoners. Met aandacht voor ethiek, waarbij waarden en grondrechten worden gewaarborgd in een digitaliserende wereld.

Daarmee volgt de provincie de lijn van de Werkagenda Waardengedreven Digitaliseren van de Rijksoverheid (2022). Waarin staat beschreven dat dit belangrijk is om: te bouwen aan een veilige, inclusieve, en kansrijke digitale samenleving voor alle Nederlanders en Europeanen. Door een digitale overheid die waardengedreven en open werkt voor iedereen. Voor een digitale samenleving waarin iedereen kan meedoen, waarin veiligheid en vertrouwen centraal staan en waarbij iedereen de regie heeft over zijn eigen digitale leven.

PAL advies

De Provinciale Adviescommissie Leefomgevingskwaliteit (PAL) is een onafhankelijke commissie van externe deskundigen. Zij adviseert Gedeputeerde Staten en Provinciale Staten over onderwerpen die van invloed zijn op de kwaliteit van de leefomgeving. De fysieke leefomgeving digitaliseert waardoor er geen sprake meer is van een duidelijke scheiding tussen de fysieke leefomgeving en de digitale leefomgeving. De inzet van slimme algoritmen en nieuwe technologieën helpen bijvoorbeeld bij het monitoren van biodiversiteit of luchtkwaliteit. En data en modellen vormen steeds meer de basis voor ons beleid. Met deze ontwikkelingen is het des te belangrijker om ethiek vroegtijdig een plek te geven in dit proces.

In juni 2022 werd de PAL verzocht om een verkenning naar wat digitalisering binnen het domein leefomgeving behelst, welke effecten of ethische vragen erbij ontstaan, en hoe de provincie haar handelen in deze kan toetsen. Eerst is het vraagstuk met medewerkers van de provincie verkend aan de hand van casussen. Daarnaast heeft de PAL heeft op 20 mei 2022 een lezing ‘Digitalisering binnen het domein van de fysieke leefomgeving’ georganiseerd om inhoudelijke kennis over het onderwerp naar de provincie te halen. Met deze inzichten is de PAL tot een advies gekomen om ethische vraagstukken binnen de organisatie regelmatig onafhankelijk te toetsen.

Uit het advies van de PAL kwamen de volgende punten:

De organisatie moet actief inzetten op bewustwording rondom ethiek en digitalisering.
De organisatie moet kan een interne ethische denktank instellen om collega’s te kunnen ondersteunen. Deze denktank kan bestaan uit medewerkers actief in digitalisering, een ethicus en communicatieadviseurs.
Voor besluitvorming over de inzet van ICT kan een interne handleiding met afwegingskader worden opgesteld; bij voorkeur door een breed team met ook sociale en maatschappelijke disciplines en eventueel enkele vertegenwoordigers uit PS.
De organisatie kan een onafhankelijke Ethische Adviesraad (EAR) instellen voor onafhankelijke toetsing. Een adviesraad kan ambtenaren, GS en PS van advies dienen bij het opstellen van interne richtlijnen en bij complexe ethische vraagstukken. De ethische raad zou daarnaast vanuit eigen initiatief projecten steekproefsgewijs kunnen beoordelen.

Ethische denktank

Om medewerkers van provincie Zuid-Holland te informeren en ondersteunen bij ethische vraagstukken bij het gebruik van data en technologie is de ‘ethische denktank’ in 2023 in het leven geroepen. Onder de ethische denktank vinden verschillende activiteiten plaats op het gebied van ethiek, publieke waarde en de impact van technologie en data op de maatschappij. Ongeveer 4 keer per jaar in 2023-2024 komt de ethische denktank bijeen, waarbij medewerkers vanuit allerlei verschillende afdelingen en achtergronden welkom zijn. We nodigen de leden van de ethische denktank ook uit om 'ambassadeur' van het onderwerp te zijn in de organisatie. Een ambassadeur krijgt relevante trainingen aangeboden op dit thema en wordt gevraagd de ogen en oren in de organisatie te zijn in het herkennen van morele vraagstukken die in de organisatie spelen.

Ethische instrumenten

Er zijn verschillende ethische instrumenten die ambtenaren en bestuurders binnen provincie Zuid-Holland kunnen ondersteunen om bewust stil te staan bij ethische vraagstukken in hun werk. Instrumenten bestaan uit trainingen/opleidingen, workshops, gespreksmethodieken, presentaties, adviezen, evaluaties, toetsing of audits, beleid, kaders en richtlijnen. Door het toepassen van een ethisch instrument wordt het voor de individuele ambtenaar en bestuurder mogelijk om op een systematische manier te komen tot een verantwoorde afweging en handelingsopties bij ethische vraagstukken. Enkele ethische instrumenten die worden toegepast in 2023-2024 bij de provincie zijn:

Het Moreel Beraad
Begeleidingsethiek
De Impact Assessment Mensenrechten en Algoritmes (IAMA)
De Ethische Data Assistent (DEDA)
Code Goed Digitaal Openbaar Bestuur (CODIO)

Interprovinciale ethische commissie (IEC)

Op 16 januari 2023 zijn de gezamenlijke provincies gestart met het oprichten van een interprovinciale ethische commissie (IEC) voor digitalisering. De IEC krijgt een onderzoekende rol en zal zich vooral richten op maatschappelijke vraagstukken die alle provincies raken. Zoals de energietransitie, de stikstofopgave en de woningbouwopgave.

De IEC zal zich niet buigen over individuele casussen, maar kijken naar gemeenschappelijke elementen in de morele vragen waarvoor provincies zich gesteld zien bij de inzet van digitale technologie, data en algoritmen bij de uitvoering van hun publieke opgaven. Rond die gemeenschappelijke morele vragen kan de IEC onderzoek in gang zetten. De uitkomsten worden als advies en handreikingen gedeeld met de bestuurders en beleidsprofessionals van de provincies.

In juli 2023 heeft de IEC haar eerste advies uitgebracht over het gebruik van ChatGPT en generatieve AI in provinciale werkzaamheden. In dit advies worden de diverse ethische aspecten van generatieve AI belicht en in hoeverre deze overeenkomen met de waarden die provincies uitdragen.

De IEC bestaat uit de volgende leden:

dr. Jeroen v.d. Hoven, TU Delft (voorzitter)
Anne-Marie Spierings, gedeputeerde Provincie Noord-Brabant
dr. Esther Keymolen, Universiteit Tilburg
Erna Ruijer, Universiteit Utrecht
ir. Roel Dobbe, TU Delft
Nelleke Groen, provinciale staten Utrecht, jurist cybersecurity

Interprovinciale werkgroep Ethiek en Digitalisering

Provincie Zuid-Holland is betrokken en lid van bij de interprovinciale werkgroep Ethiek en Digitalisering, waarvan alle andere provincies ook lid zijn. De werkgroep richt zich op het delen en verbinden van kennis tussen provincies. Op het gebied van het waarborgen van ethiek in de organisaties en leren van ethische vraagstukken rondom technologie en data. De werkgroep was betrokken bij de oprichting van de interprovinciale ethische commissie.

Daarnaast heeft de werkgroep de interprovinciale gids Ethiek en Digitalisering ontwikkeld in 2020. De gids helpt provincies bij de ethische verantwoorde inzet van data en digitale technologie. Deze Gids dient ter inspiratie voor iedere provinciemedewerker en bestuurder die te maken krijgt met ethische vraagstukken bij het gebruik van data en technologie. Daarnaast biedt de gids inzichten in hoe ethiek op een natuurlijke manier een plek kan krijgen binnen de provinciale organisatie en binnen concrete projecten.

De gids gaat in op:

De beginselen die voor provincies belangrijk zijn.
Richtlijnen hoe de organisatie in te richten zodat ethisch kan worden omgegaan met data en digitale technologie.
Ideeën over hoe ethiek een goede plek te geven binnen de uitvoering van projecten.

Momenteel (2023-2024) is de werkgroep bezig met een doorontwikkeling van de ethische gids.

Samenwerking Technology en Innovations TU Delft

TU Delft en de provincie Zuid-Holland verstevigen hun samenwerking. Experimentele technologieën brengen onzekerheden, botsende waarden en mogelijk onverwachte gevolgen met zich mee. Overheden krijgen te maken met verschillende uitdagingen: aan de ene kant kunnen innovatieve technologieën de bedrijfsvoering en dienstverlening beter en efficiënter maken, terwijl ze aan de andere kant een mogelijk probleem kunnen zijn voor onze publieke en democratische waarden. Kortom, in de fase tussen het ontwerp en de doorvoering komt men vele uitdagingen tegen op het gebied van ethiek.

Promovendus Joost Mollen van de TU Delft gaat de komende jaren bij de provincie onderzoek doen naar de raakvlakken tussen ethiek, beleid, innovatie en technologie. Deze samenwerking tussen de provincie en TU Delft is erop gericht fundamentele waarden zoals democratie, vrijheid en gelijkwaardigheid door te voeren in innovatieve technische toepassingen van beleid. Het onderzoek duurt 4 jaar, van 2021-2025. In de samenwerking zal Joost zoveel mogelijk gebruik maken van actuele provinciale vraagstukken en projecten.