We zijn met zijn allen net kikkers in een pan die langzaam verwarmd wordt. De temperatuur wordt geleidelijk steeds hoger. We merken dat niet. Totdat het water kookt. Dan zijn we gekookte kikkers. De technologische ontwikkeling heeft ons allang omhuld als een warm bad. Het is onvermijdelijk dat het water tot het kookpunt gaat. Ook op het gebied van corporate governance.
We zijn inmiddels zo ver dat verschillende bedrijven een robot hebben benoemd tot lid van de raad van bestuur (bijvoorbeeld de robot VITAL bij het bedrijf Deep Knowledge Ventures in Hong Kong). Wordt alles dan beter? Geen incompetentie meer, geen machtspelletjes, geen verspilling van tijd en geld? Was het maar zo. Laten we eens enkele misverstanden onder de loep nemen.
Robots zijn geen op mensen lijkende superwezens met een metalen hoofd en armen. Robots zijn mechanische of virtuele structuren, die functioneren op basis van algoritmes. Die structuren lijken alleen op een mens als we hen in een latex omhulsel stoppen en op een mooie vrouw laten lijken, maar dat maakt hen nog geen mooie vrouw. Robots zijn overal om ons heen. Ze variëren van diagnostische artificiële intelligentie, die nu op veel gebieden al nauwkeuriger is dan de bekwaamste radiologen, tot zelfsturende auto’s, vechtdrones, huishoud- en zorgrobots en, inderdaad, seksrobots. Niet-virtuele robots zijn bijvoorbeeld malware die geheel zelfstandig en met optimale efficiëntie alle onbeveiligde computers en laptops in de wereld infecteert, gewoon omdat het algoritme zo is gemaakt.
Deskundigen verwachten dat het moment waarop deze ‘robots’ kundiger, slimmer, sneller en effectiever zijn dan mensen ergens tussen 2030 en 2050 wordt bereikt. Dat moment (ook wel Singularity of ‘superintelligentie’ genoemd) heeft grote betekenis. Die zelflerende, intelligente systemen verhouden zich dan tot ons op dezelfde manier als dat wij ons tot de chimpansee verhouden. Wij kunnen nadenken over de vraag of de chimpansee nog bestaansrecht heeft en niet omgekeerd.
De A.I.-filosoof Nick Bostrom (Oxford University) pleit ervoor om door wereldwijde regulering de verdere ontwikkeling van zelflerende intelligente systemen iets af te remmen. Dat stelt ons in de gelegenheid beter na te denken over mogelijke rempedalen en stopcodes in deze ontwikkeling.
VITAL tot bestuurder benoemen is, behalve een goede reclamestunt, vooral een ondoordachte en zelfs misleidende toepassing van A.I. in bestuurskamers. Immers, we maken al lang en in toenemende mate gebruik van geautomatiseerde systemen om onze beslissingen, ook die in de bestuurskamer, op een doelmatiger en meer rationeel gefundeerde wijze te nemen. Daar heb je geen kunstmatig mannetje nodig dat op een collega-bestuurder lijkt en bij jou aan tafel de informatie geeft die je ook op je iPad kan lezen. Zelflerende intelligente systemen zullen inderdaad heel snel veel en effectievere financiële controles en beoordelingen kunnen geven, dan de huidige huis-accountant dat doet. Die systemen geven dan echter de informatie die de ‘financial literate’ in het bestuur of in de raad van commissarissen gebruikt om zijn werk beter te doen. Hetzelfde geldt voor de radioloog die een zelflerend, intelligent programma gebruikt, om het niveau van zijn diagnostiek te optimaliseren. Zijn werk en zijn tijdsinvulling veranderen door die robots en daarmee ook zijn functie. Deze tweede ‘industriële’ revolutie lijkt in zoverre op de eerste. Er waren na de eerste industriële revolutie geen weefsters meer. Machines deden dat werk. Echter zijn de vrouwen die in de achttiende eeuw in Engeland achter een weefgetouw zaten, nu de vrouwen die in de fabrieken de technologisch hoogwaardige apparatuur die de weefsels produceren, ontwerpen en aansturen. Als we het goed doen, wordt onze plaats dus niet ingenomen door een robot. We gaan juist beter functioneren door zelflerende, intelligente systemen. We moeten dan wel beter nadenken over de ontwikkeling en de inrichting daarvan, de governance. Anders worden we gekookt als een kikker. Gelukkig merken we dat niet.
Prof. dr. F.B.M. Kunneman is senior partner bij advocatenkantoor VanEps Kunneman VanDoorne en hoogleraar Corporate Governance aan de UoC. Hij leidt het team dat adviseert over corporate governance. Hij schrijft en doceert al decennia over dit onderwerp.
