Ai vraagt in praktijk om slim management

Artificial intelligence (ai)-systemen zijn bepaald niet snel en gemakkelijk in bestaande werkprocessen in te voeren en het managen ervan is door de weerbarstige praktijk op zijn zachtst gezegd ‘een hele klus’. Dat blijkt uit het boek ‘S.L.I.M. managen van ai in de praktijk’. Lauren Waardenburg, Marleen Huysman en Marlous Agterberg bieden inzicht in de daadwerkelijke toepassing en het gebruik van ai.

De auteurs hopen met dit boek managers ervan te overtuigen om verder te kijken dan de ai-hype. Daarover is ook in Nederland veel opwinding. Ons dagelijks leven zou er ingrijpend door veranderen. Maar hoe staat het in werkelijkheid met de implementaties, met name in traditionele organisaties?  De techniek is één ding, de organisatorische inpassing is andere koek.  In elke fase van een ai-project moet de ondernemingsleiding zich afvragen of ai wel slim wordt gemanaged. Als dat niet gebeurt, kan het raar lopen. Vele voorbeelden in het boek tonen dat aan.

Ondergesneeuwd

De auteurs pleiten er voor het gat tussen ontwikkelaars, het ai-systeem en gebruikers te overbruggen. Een ‘intelligence specialist’ kan de gebruiker ondersteunen bij ai-gerelateerde werkzaamheden. Ook kan deze functionaris de ai-uitkomsten vertalen en uitleggen. Maar bij de Nationale Politie loopt die interventie bepaald niet volgens het boekje. Door tussenkomst van een ‘specialist’ raken de daadwerkelijke uitkomsten van het ai-systeem volledig ondergesneeuwd. Belangrijk doel was ai te laten bepalen in welke buurt en wanneer agenten surveilleren. Echter slechts een klein deel van wat de ai voorspelt, blijkt in het advies aan de politieleiding en agenten terecht te komen. De rest wordt aan het zicht onttrokken. De specialist geeft alleen de informatie door die hij relevant acht. Deze ‘curatie’ voltrekt zich in het verborgene. Volgens de onderzoekers is daarbij van objectiviteit geen sprake meer.

Ze ontdekten ook dat het politiekader en de betrokken agenten blind vertrouwen op wat hen wordt aangereikt. Ze zijn zich niet bewust van het subjectieve karakter daarvan. Ze blijven de ‘vertaling’ beschouwen als de uitkomst van de ai. Vervolgens worden de adviezen van de specialisten vrijwel letterlijk door het management overgenomen en omgezet in werkopdrachten. Met dit voorbeeld tonen de auteurs aan wat er kan gebeuren als organisaties de werkelijke taken van de brugfunctie uit het oog verliezen. Een vertaling is zinvol, maar dit mag er niet toe leiden dat de resultaten van de ai worden afgeschermd. De specialist moet de gebruiker helpen bij het begrip en de toepassing van ai. Zo kan het ‘veld’ zelf kritisch blijven kijken naar de betekenis van de uitkomsten in een bepaald werkgebied.  

Hosanna

De verdienste van dit boek is dat het geen aaneenschakeling vormt van succesverhalen. Hosanna blijft achterwege zoals het een wetenschappelijke studie betaamt. En dat terwijl bewust is gekozen voor ogenschijnlijk goedlopende projecten. Interessant is ook dat geen cases zijn geselecteerd waarbij ai de kern is van het businessmodel, zoals bij techbedrijven waaronder Google, Uber, Spotify, Netflix of het Chinese Baidu. Gekozen daarentegen is voor een socio-technische benadering bij acht traditionele organisaties buiten de techsector. Daarbij is gekeken wat er gebeurt als ai daadwerkelijk de werkvloer of de klant bereikt. 

Bij Centraal Beheer ontstond na invoering van een ai-chatbot verwarring. Veel klanten dachten met een robot te praten terwijl ze via WhatsApp of in een chat met een helpdeskmedewerker communiceerden. De verzekeraar  moest aanpassingen doen om duidelijker onderscheid te maken.

KLM ontwikkelde een ai-systeem voor de planning van de catering. De medewerkers zagen dit niet als een bedreiging maar als een cadeau. Ze hielden meer tijd over voor het oplossen van complexe last-minute-problemen. De gefaseerde implementatie vergrootte het vertrouwen. Het systeem werd geaccepteerd, terwijl de noodzakelijke veranderingen in het werk soepel tot stand kwamen. Bij de politie was daarentegen sprake van een ripple-effect. Ondersteuning van het management met een ai-systeem leidt ertoe dat agenten langer achter hun computer moesten zitten om criminaliteit te rapporteren. 

Het ai-project bij het Leids Universitair Medisch Centrum verrijkt het werk van de radiologen. Ze kunnen meer van hun kostbare tijd besteden aan complexe diagnostiek. Het werk wordt niet overgenomen, maar ondersteund. Andere cases is een project bij Volkswagen voor slimme generatoren, de sociale robot bij zorgverlener Philadelphia en de inzet van ai voor rekrutering bij een niet nader genoemde multinational op gebied van fast moving consumer goods.

Interessant is het anti-witwassysteem waarmee ABN Amro analisten ondersteunt bij het opsporen van verdachte transacties. De bank die de afgelopen drie jaar al een miljard euro heeft besteed om witwassen te voorkomen, steekt de komende twee jaar nog eens een miljard in het op orde krijgen van de poortwachtersfunctie. Bovendien kost een schikking met het Openbaar Ministerie om strafvervolging wegens gebrekkig toezicht en de nodige wetsovertredingen te voorkomen de bank bijna een half miljard.

Fraai perspectief

AI kan dus in potentie veel voordeel geven. Maar erg veel over de werking van het ai-systeem komen we niet te weten. Wel over de organisatorische inpassing en de eerder genoemde brugfunctie die bij de bank weer heel anders is ingevuld dan bij de politie. Dit soort praktijkvoorbeelden biedt een fraai perspectief op wat de introductie van ai in de praktijk voor organisaties betekenen. Je leert hoe je aan data komt en ziet wanneer een systeem goed genoeg is om taken over te nemen. En zeker minstens zo belangrijk is de vraag hoe medewerkers op het werken met ai zijn voor te bereiden.

Tot slot geeft het boek vier centrale aanbevelingen voor het managen van ai. Wie binnen de eigen organisatie met ai aan de slag wil, zal hier zeker kennis van moeten nemen.  

‘S.L.I.M. managen van ai in de praktijk’ is een uitgave van de Stichting Management Studies in samenwerking met Mediawerf. ISBN 978-94-90463-80-9.