Regulering van technologie vraagt om ander beeld van de mens

Bij de regulering van digitale technologie, zoals generatieve AI en algoritmen, gaat het meestal over de technologie en niet zozeer over de mens die ermee omgaat. Althans, niet de mens zoals die werkelijk in elkaar zit. We moeten ervan uitgaan dat de mens nooit helemaal voorspelbaar is, is de boodschap van prof. dr. Esther Keymolen, anders wordt de regulering nooit effectief. Zij aanvaardt op vrijdag 19 april de leerstoel Regulering van digitale technologie aan Tilburg University. In haar werk richt zij zich op de ethische en filosofische vragen van technologische regulering.

Digitale technologie doordrenkt ons leven steeds meer: social media, navigatiesystemen, ChatGPT en vele andere toepassingen zijn gemeengoed geworden. Ons leven wordt er voor een deel zelfs door bepaald. Met nieuwe wet- en regelgeving worden onze data in deze systemen zo goed mogelijk beschermd. En de risico’s die kleven aan deze nieuwe technologieën zo veel mogelijk beperkt: denk aan de AVG (algemene Verordening Gegevensbescherming), de AI Verordening en de Ethische Richtsnoeren voor Betrouwbare AI.

Met de mens wordt in al deze regulering wel degelijk rekening gehouden, maar effectief is dat vaak nog niet. Esther Keymolen illustreert dit aan de hand van vier categorieën mensen die zich met digitale technologie bezighouden: de burger, de beroepsmatige gebruiker of ontwikkelaar, de ambtenaar en de wetenschapper.

Als burger accepteren we bijvoorbeeld cookies zonder precies te weten waar we ja op zeggen; de kleine lettertjes lezen we niet. Soms hebben we behoefte aan andere gebruiksvoorwaarden. Zoals de privacy regelen per groep in plaats van individueel, of willen we beschikbare informatie juist niet weten – zoals de kans op een erfelijke ziekte. De regelgeving gaat ervan uit dat de mens zelf de regie voert over diens data, maar die mens is een fictie, stelt Keymolen.

Ethiek

Van de techniekprofessional en tech-bedrijven verwacht men technologie te ontwerpen en gebruiken volgens ethische en juridische principes. Maar eenvoudig is dat niet. Wat is bijvoorbeeld eerlijke technologie? Hoe doe je recht aan menselijke waardigheid in technologische praktijken? Men formuleert netelige juridische en ethische kwesties steeds vaker als technische vragen. Men denkt dat het antwoord programmeerbaar is. Toch kan niet al het menselijk leven in data en systemen worden gevangen. Soms is daarom een bredere publieke discussie of politieke beslissing meer op zijn plaats dan een technische.

Ambtenaren die met digitale technologie werken doen enorm hun best om het goed te doen, bijvoorbeeld door te checken of algoritmes niet discrimineren. Maar afdoende is dat vaak niet – wat gebeurt er met de mensen die toch niet in een hokje passen? Hier biedt de technologie geen hapklare oplossing voor.

Men kijkt vaak naar de wetenschapper voor advies. Echter, ook zij hebben niet overal een eenduidig antwoord op, vooral bij de inzet van technologie. De wetenschap schetst diverse scenario’s. Toch moeten sommige vragen politiek beantwoord worden in de democratische arena.

Positief beeld van de mens

De oplossing is volgens Keymolen om, in navolging van de filosoof Helmuth Plessner, de mens niet te zien als iemand die tekortschiet als het gaat om digitale technologie, maar als een creatief, dynamisch persoon die in verbinding staat met de omgeving. Volgens dit positieve mensbeeld is de mens voortdurend bezig het leven vorm te geven, en is daar nooit klaar mee. Het is deze veranderlijkheid die de mens kenmerkt en die regulering dient te beschermen.

Daarom moeten we niet alleen investeren in het afstemmen van de technologie op de mens, wat nog steeds essentieel is maar nooit perfect. Ook moeten we oplossingen bedenken voor wanneer het mis gaat, alternatieven regelen, voorzien in checks and balances, en exit strategieën bedenken. Een pluralistische aanpak is nodig. Pas als we de onvoorspelbaarheid van de mens koesteren, zal de technologie ons dienen.

Inaugurele rede

Prof. dr. Esther Keymolen spreekt op vrijdag 19 april 2024 om 16.15 uur haar inaugurele rede uit in de aula van Tilburg University. Titel rede: Technological Times: Looking out for the Human. De rede is ook te volgen via livestream.