Artificial Intelligence

Artificial Intelligence: controle houden is van levensbelang

11 Dec 2018

In een samenleving die steeds meer wordt bestuurd door algoritmen, is het beheer van algoritmen van levensbelang. Hoe zorgt u dat u controle houdt over de nieuwe toepassingen? En hoe houdt u het vertrouwen van klanten? In gesprek met AI-specialist Frank van Praat van KPMG. Zijn belangrijkste tip: zorg voor transparantie.

 

Met beeldherkenning tumoren herkennen op scans, zichzelf vullende schappen in de supermarkt of auto’s die zelf afremmen als zich op de weg een gevaarlijke situatie voordoet. Datagedreven systemen beïnvloeden ons doen en laten steeds meer. En bepalen ook steeds vaker ons gedrag: dankzij zelfscannende kassa’s hoeven we niet meer langs de caissières in de supermarkt en door virtuele assistenten hoeven we niet meer een uur in de wachtrij aan de telefoon te hangen maar stellen we onze vragen desnoods midden in de nacht.

Wat hebben al deze voorbeelden met elkaar gemeen? Het zijn vormen van Artificial Intelligence (kunstmatige intelligentie, AI) die gebruikmaken van algoritmen. Denk aan de adaptive cruise control in een auto die afremt als er file op komst is.

Verantwoorden

Over het algemeen vertrouwen we blindelings op systemen die ons helpen in ons dagelijks leven. Vertelt uw navigatiesysteem dat u rechtsaf moet? Dikke kans dat u dat zonder nadenken doet. En zo vertrouwt u er ook op dat de data van wervingssites alle voor u relevante cv’s filteren en checkt u bij het verlaten van de supermarkt niet altijd uw kassabon. Maar is dat vertrouwen wel terecht? Natuurlijk, positief bekeken maken algoritmes ons leven makkelijker en helpen ze ons betere beslissingen te nemen.

Maar kijken we naar de negatieve aspecten, dan zien we dat ze ons misschien wel op een ongepaste manier gaan leiden. Geeft het navigatiesysteem de snelheidsgegevens niet door aan de politie? En zitten inderdaad álle cv’s van sollicitanten in het systeem of zijn bepaalde groepen uitgesloten? Kunnen we, met andere woorden, de organisaties vertrouwen die onze gegevens in handen zijn? Gaan zij ‘onder de motorkap’ op een goede manier om met deze gegevens?

Dat vertrouwen, zegt Frank van Praat, senior manager bij KPMG, is inderdaad één van de allerbelangrijkste risico’s van AI. En dan gaat het zowel om de systemen als om de data die je gebruikt. ‘De systemen zijn gebouwd door knappe koppen, maar voor de ‘gewone gebruiker’ zijn ze een black box. Weinig mensen weten wat er na de druk op de knop precies gebeurt met al die data. Er is op dit moment geen wettelijke uitlegplicht, maar de algemene opvatting is wel: als je algoritmen gebruikt, moet je je ook kunnen verantwoorden. Met andere woorden: je moet kunnen uitleggen hoe je systeem tot een beslissing komt. Gebruikers willen daar – terecht – steeds meer over weten. Net als over de data die gebruikt worden. Zorg als organisatie dus dat je transparant bent. Over welke data erin gaan, wat eruit komt en alles wat daar tussenin gebeurt.’

Nieuwe koplopers

Van Praat onderscheidt twee typen organisaties. Ten eerste zijn er de bedrijven die direct vanaf de start optimaal zijn ingericht op AI. Denk aan bedrijven als Facebook, Airbnb, Google en Amazon. Data – klantgegevens – maken bij deze bedrijven als het ware onderdeel uit van de core business: vrijwel alle processen zijn gebaseerd op algoritmes. Dan heb je de meer traditionele bedrijven. Zij gaan AI gebruiken om nieuwe markten aan te boren, hun klantenkring uit te breiden en kosten te besparen.

Deze groep moet de systemen en alles wat erbij komt kijken van de grond af gaan opbouwen. Hoewel de traditionele bedrijven lijken achter te lopen, hebben zij wellicht toch nog een voordeel, weet Van Praat. ‘De eerste groep startte in de tijd dat er nog weinig kritische vragen werden gesteld. Zij moeten nu met terugwerkende kracht gaan uitleggen wat ze afgelopen jaren hebben gedaan en vooral ook welke data ze hebben gebruikt. In de kranten hebben we kunnen lezen dat zij zich niet altijd naar volle tevredenheid aan de maatschappij kunnen verantwoorden.’

‘Slechts weinig mensen weten wat er na de druk op de knop precies gebeurt met al die data’

Met dit in het achterhoofd en met de koplopers als voorbeeld, kunnen organisaties die nu starten dus gaan bouwen aan gedegen systemen. Van Praat: ‘Door aan de voorkant goed na te denken, voorkom je moeilijke vragen achteraf. Als je er nu mee begint, sta je als het ware nog op voorsprong.

Deze bedrijven hebben namelijk het geluk dat ze niet hoeven te repareren. Helemaal als ze vanaf het begin af aan open zijn en aan klanten uitleggen wat ze doen en met welk doel.’ Zeer relevant hierbij, is de rol van de auditor, weet Van Praat. ‘Auditors zijn namelijk in staat om onafhankelijk te bevestigen dat wat een bedrijf zegt te doen, ook daadwerkelijk zo is. Kijk naar de jaarrekening. Een bedrijf is verplicht deze te publiceren, maar of dit klopt, moet worden bevestigd door een auditor. Ditzelfde is van toepassing op het gebruik van algoritmen. Oftewel: auditors kunnen bevestigen dat de transparantie die het bedrijf hierover geeft, ook daadwerkelijk ergens op is gebaseerd.’

Ethische route

Wat is er precies nodig om een algoritme te maken dat we kunnen vertrouwen? Als voorbeeld even terug naar het navigatiesysteem. Gebruikers verwachten dat dit systeem hen op de best mogelijke manier van A naar B zal leiden. Dat vereist ten minste drie dingen: de kwaliteit van de (kaart)gegevens moet goed zijn, de route moet op een effectieve en betrouwbare manier worden berekend onder verschillende omstandigheden. En tot slot moeten de resultaten de belangen van de gebruiker dienen. Het algoritme zou bijvoorbeeld geen voorkeur moeten hebben voor routes langs bepaalde winkelcentra of benzinestations.

Dit laatste klinkt eenvoudig, maar is in werkelijkheid best gecompliceerd. Dat heeft onder meer te maken met ethiek. Van Praat: ‘Een mooi voorbeeld is het SABREplatform voor luchtvaartmaatschappijen. In de jaren zeventig konden reisbureaus een bijna onmiddellijke boeking maken voor de meeste luchtvaartmaatschappijen via speciale SABRE-terminals. Het was een doorbraakconcept in vergelijking met handmatige reserveringen en was zeer succesvol. Het werd ook zwaar bekritiseerd omdat SABRE American Airlines kon bevoordelen.’

‘In de huidige tijdsgeest was het opmerkelijk dat American Airlines hun manipulatieve inspanningen niet eens ontkende. De president van American Airlines, Robert L. Crandall, heeft tijdens een senaatszitting zelfs verklaard dat de voordelige zoekresultaten voor zijn bedrijf in feite zijn voornaamste doel was. In zijn woorden: het was de raison d’être van het hebben van een dergelijk platform.’

Controle op algoritmes

Als de samenleving wordt bestuurd door algoritmen, duikt de vraag op hoe we de controle erop kunnen organiseren. Frank van Praat: ‘Daar zijn we binnen KPMG actief mee bezig. Met AI In Control hebben wij een instrument ontwikkeld voor eerlijk, betrouwbaar en gecontroleerd gebruik van Big Data en Artificial Intelligence. Daarbij staat innovatie en flexibiliteit te allen tijde voorop. Het mag niet zo zijn dat de innovatieve kracht van Artificial Intelligence wordt geremd door een ouderwets controlehuis met draconische maatregelen en een soms ontembare behoefte aan documentatie. Het vereist een nieuwe manier van denken. Betrouwbare uitkomsten moeten het inherente gevolg zijn van de wijze waarop je als bedrijf kansen benut. Zo blijf je als bedrijf innovatief, heb je de gewenste controle, en weten gebruikers dat er veilig en vertrouwelijk met hun gegevens om worden gegaan.’

Kritische vragen

Precies vanwege dat ethische aspect is AI een onderwerp voor bestuurders en commissarissen, stelt Van Praat. Het is niet alleen een kwestie van ICT. Immers, de lastige vragen of erger als het echt fout gaat, komen terecht op het bordje van de bestuurder. Die moet uitleg geven. ‘Daarom is het nodig om in ieder geval zelf te snappen wat er gebeurt. Stel basisvragen die u ook heeft bij andere investeringen (zie kader): wat is ons doel? Wat bereiken we ermee, verandert ons verdienmodel wat is de kostenbatenanalyse, welke bedrijfsrisico’s zijn er, hebben we alles in kaart gebracht? En kunnen we alle beslissingen uitleggen?

Door deze vragen te beantwoorden, dring je door tot de kern van je organisatie. Je gaat je afvragen wat voor soort organisatie je wilt zijn. Er zijn voorbeelden bekend waarbij systemen gevoed worden met discriminerende data. Daar wil je als organisatie niet mee geconfronteerd worden. Als bestuurder of commissaris is het daarom belangrijk om in ieder geval in grote lijnen te snappen hoe de systemen werken. En dat is zeker het geval als het de corebusiness van je bedrijf raakt. Oftewel: als je er onderscheidend mee kunt zijn.’

Niet slimmer dan mensen

Voor doemdenkers die bang zijn dat computers straks écht ons leven gaan overnemen, heeft Van Praat overigens nog een geruststellende mededeling: computers leren nog steeds van mensen en niet andersom. ‘Er wordt hoog opgegeven over kunstmatige intelligentie. Dat wordt natuurlijk niet in de laatste plaats gevoed door Hollywood. Maar uiteindelijk zijn de daadwerkelijke toepassingen nog steeds heel goed te overzien. De mens zit aan de knoppen: wij ontwikkelen de systemen, controleren en beheersen ze. Voorlopig zijn mensen nog steeds slimmer dan computers.’

 

Aan de slag met AI? Stel uzelf vier vragen

  1. Wat is ons doel?
  2. Zijn we compliant aan interne (bijvoorbeeld een code of conduct) en externe regelgeving?
  3. Hoe zorgen we dat wat we willen, ook daadwerkelijk wordt gerealiseerd?
  4. Hoe borgen we dat de uitkomsten blijven zoals we willen, en we deze kunnen uitleggen?

 

Frank van Praat is senior manager bij KPMG en leidt de propositie AI In Control. Daarnaast is hij kerndocent bij de opleiding IT Audit, Compliance & Advisory aan de Vrije Universiteit van Amsterdam.

Tekst en beeld: RAAD magazine editie 8, december 2018

Deel dit bericht

Deze website maakt gebruik van cookies.

Door gebruik te blijven maken van de website gaat u akkoord met het gebruik van cookies.

KPMG gebruikt cookies voor o.a. de volgende doelen: beveiligen van de website; optimaliseren van de website en de dienstverlening door o.a. analyses websitegebruik en statistieken; integratie met sociale media waardoor bezoekers informatie op onze website kunnen delen via sociale media en e-mail.

Wilt u meer weten over deze cookies lees dan onze Online Privacy Statement

Akkoord