Van zelfrijdende auto’s tot computers die besluiten nemen bij de belastingdienst, kunstmatig intelligente robots zijn niet meer weg te denken uit het dagelijks leven. Niet alleen volgen de ontwikkelingen elkaar razendsnel op, ook wordt de technologie voor steeds meer particulieren, instellingen en ondernemingen toegankelijk. In navolging hiervan heeft het Europees Parlement in 2017 een resolutie aangenomen waarin de Europese Commissie werd aangespoord om te verkennen of het mogelijk is rechtspersoonlijkheid voor robots te creëren. Indien een robot rechtspersoon is, kan deze tot bestuurder worden benoemd. Net als mensen, kunnen robots echter fouten maken. De vraag is dan wie er aansprakelijk is voor het falen van de robotbestuurder. In deze blog zal deze vraag behandeld worden, waarbij er gefocust wordt op de interne bestuurdersaansprakelijkheid van bestuurders in een kapitaalvennootschap.
Wat is een robotbestuurder?
Er zijn verschillende definities voor robots, maar in deze blog zal onder robot worden verstaan: “een autonome machine die fysieke overeenstemmingen vertoont met de mens, bestaat uit sensoren, stroomtoevoer en bedieningselementen; en ertoe in staat is om in interactie met de omgeving of mensen op autonome wijze bepaalde taken uit te oefenen”. Er zijn verder verschillende vormen van kunstmatige intelligentie te onderscheiden, maar de meest geavanceerde vorm is een deep learning algoritme, waarbij menselijke input nauwelijks nodig is. Aangezien een robotbestuurder een zekere mate van zelfstandigheid moet hebben, bestaat deze idealiter uit een deep learning algoritme. Een robotbestuurder is dus een op deep learning gebaseerde robot, die is aangesteld als bestuurder in een kapitaalvennootschap.
De benoeming van een kunstmatig intelligente robot tot bestuurder in de kapitaalvennootschap
Op grond van de Nederlandse wet moet een bestuurder in een kapitaalvennootschap óf een natuurlijke persoon óf een rechtspersoon zijn. Algemeen kan worden aangenomen dat een robot geen natuurlijke persoon is. Een robot zou mogelijk wel als rechtspersoon kunnen worden gezien. Rechtspersoonlijkheid is in eerste instantie in het leven geroepen om de deelname van een gemeenschap aan het rechtsverkeer te faciliteren. Nu robots ook steeds meer deelnemen aan het rechtsverkeer is er aanleiding om ook aan robots rechtspersoonlijkheid toe te kennen.
Het Nederlandse stelsel van rechtspersonen is een gesloten stelsel. Toch blijft het voor de rechter en voor de wetgever mogelijk om nieuwe rechtspersonen in het leven te roepen. De rechter zal echter terughoudend zijn, om het gesloten stelsel niet te doorbreken. De wetgever zou daarom een robot moeten kwalificeren als een privaatrechtelijke rechtspersoon krachtens art. 2:3 BW. Deze kan bij notariële akte worden opgericht, zodat het voor derden ook duidelijk is wanneer er sprake is van een robotrechtspersoon. De robotrechtspersoon kan vervolgens tot bestuurder worden benoemd in een kapitaalvennootschap. Er zou ook wettelijk vastgelegd kunnen worden dat er een natuurlijke persoon moet worden aangesteld als vaste vertegenwoordiger van de robotbestuurder. Vooral in het kader van de aansprakelijkheidsstelling zal dit enkele onduidelijkheden wegnemen.
De interne bestuurdersaansprakelijk van een robotbestuurder
Het inzetten van een robotbestuurder is, naast de lastenverlichting die dit met zich meebrengt, niet zonder gevaren. Externe en interne factoren kunnen een robotbestuurder beïnvloeden en dit kan ervoor zorgen dat de robotbestuurder fouten maakt. Indien dit gebeurt zou een robotbestuurder ook onderworpen kunnen worden aan de interne bestuurdersaansprakelijkheid van art. 2:9 BW.
Bij de interne bestuurdersaansprakelijkheid is er sprake van onbehoorlijke taakvervulling, door ernstig verwijtbaar handelen van het bestuur. Wat betreft de robotbestuurder zijn er drie situaties waarbij dit kan spelen.
In de eerste situatie is de fout te herleiden tot een natuurlijke persoon, omdat er een fout zit in het programma van de robot.
In de tweede situatie is de fout niet te herleiden naar een natuurlijke persoon. In dit geval is een robotbestuurder zelf aansprakelijk. Sommige juristen vinden echter dat een fout altijd te herleiden moet zijn naar een natuurlijke persoon. De uitkomst van een besluit dat is genomen door een robot laat zich echter niet altijd voorspellen. Dit wordt ook wel het black box effect genoemd.
In de derde situatie is de fout erin gelegen dat er geen robotbestuurder is benoemd, terwijl deze beter functioneert dan mensen. Wanneer dit de situatie is en hoe dit bepaald moet worden, daar valt nog over te discussiëren, evenals over de inrichting van de robotrechtspersoon.
De schade die ontstaat als gevolg van een handeling van een robotbestuurder zou gedekt kunnen worden door het afsluiten van een verzekering die hierop toeziet. Vennootschappen die een robot als bestuurder willen benoemen zouden bij wet verplicht kunnen worden zo’n verzekering af te sluiten.
De toepassing van de aansprakelijkheid van de rechtspersoon-bestuurder op een robotbestuurder
Artikel 2:11 BW bepaalt dat het bestuur van een rechtspersoon-bestuurder ook aansprakelijk kan worden gesteld. Het artikel geeft zelf geen aansprakelijkheidsnorm, maar ‘grijpt door’ naar de achterliggende bestuurders van de rechtspersoon-bestuurder. Zoals al eerder is aangegeven, zou dit artikel ook toegepast kunnen worden op de robotbestuurder. Dit kan echter alleen als art. 2:11 BW gewijzigd wordt. Het huidige art. 2:11 BW heeft het namelijk over twee bestuurders. Bij de robotbestuurder is het echter niet duidelijk of deze ook een bestuurder heeft, en zo ja, wie dit dan is. Dit probleem kan echter opgelost worden door vast te leggen dat een vaste vertegenwoordiger benoemd moet worden, indien een robotrechtspersoon tot bestuurder wordt benoemd. Ook kan bepaald worden dat alleen natuurlijke personen tot vaste vertegenwoordiger kunnen worden benoemd. De aansprakelijkheid van art. 2:11 BW rust dan hoofdelijk op de vaste vertegenwoordiger. Hiermee wordt tegemoet gekomen aan de kritiek van sommige juristen, die vinden dat een fout altijd te herleiden moet kunnen zijn naar een natuurlijke persoon. De vaste vertegenwoordiger kan gezien worden als bestuurder van de robotbestuurder, maar deze bevoegdheid gaat niet zo ver dat de vaste vertegenwoordiger ook de robotrechtspersoon moet vertegenwoordigen.
Conclusie
Een robotbestuurder is een op deep learning gebaseerde robot, die is aangesteld als bestuurder in een kapitaalvennootschap. Een robot kan benoemd worden tot bestuurder in een kapitaalvennootschap indien deze door de wetgever wordt aangemerkt als rechtspersoon. Artikel 2:9 BW kan nagenoeg probleemloos worden toegepast op de robotbestuurder.
Sommige juristen vinden echter dat een fout altijd te herleiden moet zijn naar een natuurlijke persoon. Er kan tegemoet gekomen worden aan deze kritiek door een vaste vertegenwoordiger te benoemen, die de robotbestuurder vertegenwoordigt. Artikel 2:11 BW kan dan zo gewijzigd worden dat bepaald wordt dat de vaste vertegenwoordiger hoofdelijk aansprakelijk is, als de robotbestuurder aansprakelijk wordt gesteld.