Deze week werd bekend dat Rutger Hauer was overleden. Voor velen bekend van de televisieserie Floris, maar in de rest van de wereld veel bekender door zijn rol in de eerste Blade Runner film.
Waar ging de film ook alweer over? In de film speelt Rutger Hauer de rol van Roy Batty, een Nexus-6 robot die te boek staat als menselijke replicant zonder emoties en empathie.
De replicanten of androids zijn in het leven geroepen om in mensonvriendelijke omgevingen te werken en te produceren. Maar de replicanten blijken zelf te kunnen leren, ontwikkelen emoties en breken regelmatig uit om haar makers te belagen, wat onwenselijk is. Replicanten kennen daarom een maximale levensduur van vier jaar en de uitbrekers worden vroegtijdig gepensioneerd door Blade Runners. Vergrijzing onder androids komt niet voor. De film speelt zich overigens af in 2019 en heeft als ondertitel “Man Has Made His Match… Now It’s His Problem”.
En toen verscheen vanuit DNB deze week het stuk over Artificiële Intelligentie (AI). Het zal zeker toeval zijn, maar toch. Gelukkig zijn we in ons 2019 nog niet op gelijke hoogte met het 2019 van Blade Runner.
AI op een verantwoorde manier inzetten
DNB heeft in het document een aantal algemene principes beschreven voor een verantwoord gebruik van AI in de financiële sector, en daarbuiten. Denk ik dan als buitenstaander. De principes zijn soliditeit, verantwoordelijkheid, rechtvaardigheid, ethiek, deskundigheid en openheid (in het Engels: soundness, accountability, fairness, ethics, skills en transparency oftewel SAFEST). Een kader waarbinnen bedrijven AI op een verantwoorde manier kunnen inzetten.
In het DNB stuk zijn twee delen te onderscheiden, enerzijds is het een historische verhandeling hoe we gekomen zijn tot waar we nu staan. Als u al weet wie Alan Turing was (komt overigens ook voor in Blade Runner in een geïnverteerde vorm) dan kunt u hoofdstuk twee gewoon overslaan. Hoofstuk drie geeft weer wat we heden ten dage al hebben aan AI binnen de sector. Daar zit ook redelijk wat aan kinderschoenen tussen als je dat vergelijkt met wat Roy Batty en zijn generatie 6 in de film al kan. Er staat ons dus nog wat te wachten is mijn verwachting.
SAFEST
Voordat de sector zich nu volledig stort in deze generatie 6, is het DNB er alles aan gelegen om dit op een verantwoorde wijze te laten verlopen. Dat resulteert in wat in hoofdstuk vier van het DNB stuk wordt beschreven; het gaat dan om een beheerste en integere bedrijfsvoering als het gaat om de inzet van artificiële intelligentie. Een verantwoorde inzet bij financiële dienstverlening betekent dat ondernemingen bij het ontwikkelen van toepassingen rekening moeten houden met alle bovengenoemde aspecten zoals genoemd in SAFEST.
De thema’s binnen SAFEST zijn niet heel uitzonderlijk en een beetje onderneming werkt daar nu al mee in bijvoorbeeld het ontwikkelen van producten. Daarnaast sluit SAFEST ook goed aan op de principes die ook de Autoriteit Persoonsgegevens hanteert. Alleen al op basis van de term compliance-by-design is een parallel te trekken.
Naarmate het gebruik van AI belangrijker wordt in de besluitvorming van een financiële onderneming, en de potentiële gevolgen hiervan voor de onderneming en haar klanten groter worden, zal de lat van DNB en AFM voor een verantwoorde en uitlegbare inzet van AI hoger komen te liggen. DNB en AFM zullen hier in het toezicht op financiële instellingen ook nadrukkelijk naar kijken en verder onderzoek doen naar de belangrijkste aspecten van het gebruik van AI – zoals transparantie.
Opmerkingen en suggesties delen met DNB
Het huidige discussiedocument van DNB bevat de voorlopige visie van DNB op een verantwoord gebruik van AI in de financiële sector. DNB is van mening dat de vraagstukken en ideeën die in dit document aan de orde komen, gebaat zijn bij een bredere discussie. DNB roept relevante stakeholders op om hun opmerkingen en suggesties met DNB te delen via ai@dnb.nl. In de loop van 2020 zal DNB verslag doen van de uitkomst van dit proces.
Compliance officer al Blade Runner?
Echter, bij een goede en verantwoorde inzet van AI voorzien wij geen rol voor DNB of AFM als de Blade Runner van de AI toepassingen in de sector. De compliance officer zal zich aan moeten passen naar de nieuwe situatie. Het is nog meer van belang dat hij/ zij weet wat de business doet. Waar deze het geld mee verdient en waar deze het geld mee wil verdienen (missie en visie). AI zal binnen de huidige business vooral zien op optimalisatie van het verdienmodel. Voor toekomstige business is het ontwikkel pad het meest interessant. Bij de optimalisatie en ontwikkeling zullen overwegingen en besluiten worden genomen die direct de ethiek raken en waar het dus relevant wordt voor de compliance officer. Het is aan de compliance officer om deze overwegingen en besluiten te ‘challengen’. Aangezien de normen open zijn is er grote ruimte voor eigen invulling. Van de compliance officer zal door toezichthouders worden verwacht dat deze nog meer optreedt als geweten van de organisatie.
Het volledige DNB-discussiedocument kunt u online vinden.
Een mooie start om na te denken over een invulling van “Man Has Made His Match… Now Compliance has to prevent It for becoming a Problem”.
