In zijn ‘Brief Answers to the Big Questions’ stelt professor Stephen Hawking de ‘grote vraag’ of artificial intelligence ooit slimmer wordt dan wij. Hij beschrijft de kansen die ai ons biedt, de geweldige mogelijkheden die erdoor ontstaan en de risico’s die ai vormt wanneer wij als mensen niet in staat blijken te zijn haar in de juiste banen te leiden. Ook speelt de auteur met de vraag welke plaats ai dient te krijgen in onze voedselketen. Komt er een moment dat we digitaal leven als nieuwe levensvorm kunnen zien?
Als adviseur informatiebeveiliging houd ik mij bezig met de risico’s rond technologie. Specifiek de risico’s rond de beschikbaarheid, integriteit en vertrouwelijkheid van informatie en systemen. Mijn drive is dat ik de processen en diensten waar onze samenleving van afhankelijk is – zorg, energie of transport – wil beschermen. Hoewel ik van huis uit geen techneut ben, zijn technologie en de manier waarop wij als mens met technologie omgaan, mij gaan interesseren.
Bill Gates
Wij zijn als mensen gestopt zijn met het stellen van de grote vragen. Sterker, in veel gevallen stellen we helemaal geen vragen meer. De Covid-19-periode is hierin interessant. Terwijl sommigen geloven dat Bill Gates de wens heeft een gps-tracker bij ons in te spuiten, realiseer ik mij dat bijna iedereen, inclusief mijzelf, 24/7 rondloopt met een gps-tracker zonder hier ook maar een seconde over na te denken.
Als informatiebeveiliger ben ik (helaas) geneigd mij te focussen op de risico’s van nieuwe ontwikkelingen. Het is echter niet mijn bedoeling om te bespreken of al die technologie een ‘goede’ of een ‘slechte’ ontwikkeling is. Wat ik wil adresseren, is de manier waarop we momenteel met dergelijke vragen om gaan. Want buiten de ict- of academische sector, een paar fanatieke journalisten en de 5G-demonstranten om, worden de grote vragen over technologie en de impact daarvan op onze samenleving bijna niet gesteld.
De impact van technologie
Ook al interesseren wij ons niet voor deze grote vragen, de impact die technologie heeft op onze levens is gigantisch en neemt alleen maar toe. Om bij het voorbeeld van Hawking (1942-2018) te blijven: denk aan de kansen die ai ons biedt. Ondersteuning bij uitroeiing van ziekten, modellering rond het heropbouwen van ecosystemen en het efficiënter gebruik van middelen. Technologie biedt echter nooit alleen kansen om de wereld te verbeteren. Technologie kan en zal altijd misbruikt worden of verkeerd worden ingezet.
Ai zal onze samenleving compleet hervormen. Wanneer robots en software ons werk beter kunnen doen dan wijzelf, worden wij overbodig. We hebben de fabrieken in de lagelonenlanden niet langer nodig wanneer het werk hier gedaan kan worden door een team van tien Nederlandse ict’ers. Voordeel: minder zorgen over mensenrechten in de productieketen en minder belastend voor het milieu. Nadeel: wat gaan die fabrieksarbeiders dan doen voor de kost? Denk maar niet dat je als slimme kantoormedewerker of als creatieveling zal worden gespaard. Ai excelleert in het nemen van complexe beslissingen en schrijft prachtige muziek en geweldige boeken.
Zoals Hawking het omschrijft: waar de impact van ai op korte termijn wordt bepaald door diegene die aan de knoppen draait, is het op langere termijn de vraag of er nog wel iemand achter de knoppen zit. Waar we momenteel nog druk op zoek zijn naar betekenis in ons werk en in de wereld, ontstaat er langzaam maar zeker een wereld waarin we overbodig raken. Zoals we de afgelopen Covid-19-maanden hebben gezien, is te veel verveling niet goed voor de mens. Op welke manier kijken we daarom als samenleving naar de toepassingen van ai? Welke taken willen we als mens wel of niet uit handen geven? Welke rol zien we in de toekomst voor onszelf weggelegd?
Ben je als gebruiker de klant of het product?
De impact van technologie komt ook naar voren als we kijken naar de mensenrechten die we in sommige landen als vanzelfsprekend beschouwen, maar waar in andere landen hard om gestreden moet worden. Privacy is hierbij een interessant voorbeeld. De afgelopen jaren zijn we in toenemende mate technologieën gaan accepteren die onze data verwerken voor zaken die vooral in het belang van de verwerker zijn, en minder in het belang van de gebruiker. Toch gebruiken de meeste mensen deze technologieën wel. Omdat ze zinvol zijn, omdat ze verslavend zijn of omdat we gewoon niet veel beters te doen hebben.
Een belangrijk onderdeel van deze acceptatie is dat mensen niet begrijpen waar ze gebruik van maken. We benaderen technologie als een zwarte doos waar we, met de juiste combinatie van handelingen, een positieve dopamine stimulans van krijgen in de vorm van een grappige meme. Maar willen we hiervoor wel betalen met onze persoonsgegevens? Of mag het verdienmodel van deze bedrijven niet afhankelijk zijn van onze bereidheid om onze persoonsgegevens te verkopen?
George Orwell
Naar wie moeten we kijken voor antwoorden op deze grote vragen? De Tweede Kamer die dit jaar voor het eerst start met een commissie Digitale Zaken? De omgang met technologie staat niet geagendeerd als verkiezingsthema voor 2021. De kolossale en abstracte wetgeving vanuit de EU of VN? De senatoren van de VS die Mark Zuckerberg ondervroegen waren zo ‘way out of their league’ dat ik moest denken aan mijn leerkrachten op de basisschool die altijd slaags raakten met het smartboard bij ons in de klas. Als alle schandalen rond Facebook & co ons iets kunnen leren, is het wel dat een gezonde digitale toekomst niet per se in lijn ligt met de zakelijke belangen van Big Tech.
Onlangs las ik een onderzoek waarin geconcludeerd werd dat de toenemende digitalisering bij de overheid de afstand tussen burgers en de overheid vergrootte. Burgers vinden technologie ingewikkeld, onpersoonlijk en voelen zich mede daardoor steeds minder gehoord. Dan hebben we het nog over relatief eenvoudige digitale toepassingen zoals DigiD en het digitaal loket. Ik kan mij dan ook niet voorstellen dat mensen begrijpen hoe encryptie werkt en wat het zou betekenen als de overheid een backdoor zou introduceren. Als we niet in staat zijn om technologie te begrijpen, hoe kunnen we er dan ooit een fatsoenlijk besluit over nemen? Met als risico (om George Orwell verkeerd te citeren) dat ‘als iemand niet zelf kan nadenken, anderen het denken voor diegene zullen doen’.
Digitale transformatie van onze samenleving professioneel aanpakken
Dagelijks zijn bedrijven met klanten in gesprek over digitalisering. Daarbij kijken de partijen niet alleen naar de techniek. De digitale transformatie is een veelomvattend verandertraject waarin organisatorische, culturele en menselijke aspecten cruciale succesfactoren zijn. Maar wie kijkt er vanuit deze bril naar de samenleving als geheel?
De belangrijkste ingrediënten voor een geslaagde transformatie ontbreken momenteel. We missen een plan, er wordt niet gekeken naar culturele of menselijke aspecten, de middelen ontbreken en we hebben geen helder resultaat gedefinieerd als stip op de horizon. Op welke manier kunnen we dan bepalen of we de juiste kant op gaan? Dit gebrek aan organisatie zouden we bij geen enkel ander politiek onderwerp accepteren.
We moeten onszelf de grote vragen stellen
Gaat de digitale tijd ons gelukkiger maken of wordt het onze ondergang? Is de mens in staat niets uit te voeren en perfect gelukkig te zijn of zullen we onze tijd gebruiken om elkaar te terroriseren? Wie bestuurt een wereld die niemand nog begrijpt? Wat is privacy ons waard? Welke plek krijgt ai in onze samenleving?
De eeuwige tweestrijd tussen utopie en dystopie is van alle tijden. Maar het vraagstuk is nog nooit zo complex geweest en de tijdsdruk zo groot. Is er net zoals bij de milieucrisis een ‘point of no return’? En zo ja, wanneer passeren we dit? Of zijn we hier al voorbij?
Voor de ict’ers is het belangrijk om na te blijven denken over de ethische en sociologische impact van hun werkzaamheden. Maar wie kijkt er naar de risico’s voor de samenleving als geheel? De politiek moet de digitale transformatie van onze samenleving serieuzer nemen en vanuit een brede maatschappelijke visie beleid maken voordat we de controle verliezen.
De digitale transformatie gaat iedereen aan. We moeten betrokken blijven om mede vorm te geven aan onze digitale samenleving en de politiek en het bedrijfsleven te kunnen controleren. Maar daarvoor moeten we wel de moeite nemen om iets van nieuwe technologie te begrijpen.
Laten we ons verdiepen! Laten we nieuwsgierig wezen! Laten we de grote vragen stellen, nadenken, filosoferen en discussiëren. We staan nog maar aan het begin van de digitale wereld. Let’s use our tech for good.
Auteur: Erik Becker, cybersecurityexpert CGI
