De paradox van AI in ethiek en compliance: wanneer compliancetools nieuwe risico’s creëren

De paradox in het hart van moderne compliance

AI verandert het vakgebied compliance. Fraude wordt sneller opgespoord en routinetaken worden geautomatiseerd. AI kan misstanden zelfs voorspellen voordat ze zich voordoen. Voor E&C-functionarissen die met complexe regelgeving te maken hebben, voelen deze tools onmisbaar. Toch kunnen dezelfde systemen die het E&C-risico moeten verkleinen, nieuwe risico’s creëren. Een AI-systeem dat communicatie monitort, kan de privacy schenden. Een voorspellend model dat ‘werknemers met een hoog risico’ aanwijst, kan verborgen vooroordelen bevatten. Wanneer E&C AI inzet om risico’s te beperken, wordt AI dus zelf een E&C-risico dat met praktische oplossingen moet worden beheerst.

Waar AI ethische risico’s creëert: vijf cruciale gebieden

Onderzoek naar het gebruik van AI binnen E&C in bedrijven laat vijf samenhangende dimensies van ethisch risico zien. Elk daarvan gaat terug op de grondbeginselen van autonomie, rechtvaardigheid, transparantie, veiligheid en welzijn.

Autonomie & manipulatie:Voorspellende AI-systemen kunnen bepaalde werknemers bij E&C-functionarissen aanmerken als hoog risico en zo het oordeel subtiel kleuren voordat er enig bewijs is. Omgekeerd kunnen compliancechatbots en virtuele assistenten op basis van AI het gedrag van werknemers sturen door informatie zo te presenteren dat mensen minder snel aan de bel trekken. Baseren E&C-functionarissen hun besluiten uitsluitend op de uitkomsten van AI – bijvoorbeeld over het monitoren van een werknemer of het onderzoeken van gedrag – dan behandelen zij werknemers als volledig voorspelbare statistische eenheden. Zij zien hen dan niet als autonome mensen die kunnen groeien en veranderen.

Rechtvaardigheid & verborgen vooroordelen:Als bepaalde groepen ondervertegenwoordigd zijn in de trainingsdata, of als ontwerpers hun eigen aannames onbewust in AI-modellen verwerken, gaat het systeem discrimineren – niet per ongeluk, maar door het ontwerp. Wanneer bevooroordeelde AI meeweegt in ingrijpende besluiten zoals ontslag of schorsing, wordt zij een instrument van institutionele discriminatie.

Transparantie & hiaten in verantwoording:Deep learning-systemen en andere blackbox-modellen zijn moeilijk uit te leggen. Als een E&C-functionaris niet kan verwoorden waarom een AI-systeem een werknemer heeft gemarkeerd, en werknemers niet begrijpen wat het onderzoek in gang heeft gezet, brokkelt het vertrouwen af. Erger nog: de verantwoordelijkheid vervaagt. Wie is aanspreekbaar op een onrechtvaardige uitkomst? De ontwerper van het systeem, de leverancier van de AI of de functionaris die op dat systeem is afgegaan?

Veiligheid & privacyschendingen:AI-systemen koppelen datasets uit verschillende domeinen: gezondheidsgegevens, gezinssituatie, financiële gegevens en communicatielogs. Daarmee vervagen grenzen die de privacy ooit beschermden. Bij een datalek komt niet één categorie gevoelige informatie op straat te liggen, maar een samenhangend geheel van persoonsgegevens uit meerdere levenssferen. Werknemers lopen niet alleen schade op door diefstal, maar ook doordat gegevens die zij in het ene domein deelden zonder toestemming in een ander domein worden gebruikt.

Minder welzijn:Voortdurende monitoring door AI – of monitoring die zo wordt ervaren – veroorzaakt stress, remt spontaan gedrag en tast de psychologische veiligheid aan die mensen nodig hebben om aan de bel te trekken, open samen te werken en optimaal te presteren.

De oplossing: vijf pijlers, één checklist

Deze risico’s onderkennen is de eerste stap. Om ze te beheersen is een kader nodig dat E&C-professionals kunnen gebruikenvoordatAI-systemen worden ingezet. Eleonora Viganò, Christian Hauser en Albert Weichselbraun ontwikkelden een praktische checklist rond de vijf ethische pijlers autonomie, rechtvaardigheid, transparantie, veiligheid en welzijn. De checklist vertaalt deze abstracte beginselen naar concrete vragen die E&C-professionals kunnen beantwoorden, zoals:

• Autonomie:Is de toestemming die werknemers geven voor het verzamelen, opslaan en gebruiken van hun gegevens door het AI-systeem onduidelijk en/of moeilijk te begrijpen?

• Rechtvaardigheid: Ontbreken in het ontwerp en de werking van het AI-systeem controles op vooroordelen (zijn er bijvoorbeeld geen fairness-maatstaven toegepast)?

• Transparantie:Zijn de werking, de output en de input van het AI-systeem moeilijk uit te leggen in duidelijke, eenvoudige taal en/of is het onmogelijk ze te verklaren met technieken voor explainable AI (bijvoorbeeld LIME)?

• Veiligheid:Is het AI-systeem technisch niet robuust (voldoet het dus niet aan de normen voor technische robuustheid)?

• Welzijn:Ontbreken er waarborgen voor het geval het AI-systeem onrechtvaardige uitkomsten oplevert?

Elk ‘ja’ op deze vragen wijst op een ethisch risico dat moet worden aangepakt.

De checklist is een diagnostisch hulpmiddel dat problemen zichtbaar maakt vóór de invoering. Zo kunnen E&C-leidinggevenden systemen opnieuw ontwerpen, waarborgen toevoegen, het toezicht versterken of – in sommige gevallen – besluiten een bepaalde AI-toepassing niet in te zetten.

Vooruitkijken: ethiek als governance

De opmars van AI binnen E&C komt voort uit een reële behoefte: compliance is complex, de hoeveelheid data is enorm en de risico’s zijn te talrijk om alleen door mensen te laten beheersen. AI kan mensen daarbij ondersteunen. Maar in AI liggen keuzes besloten over wat er wordt gemeten, wie er wordt gemonitord, welke patronen worden gemarkeerd en hoe de uitkomsten worden geduid. Dat zijn ethische keuzes en governancekeuzes.

Besturen verwachten steeds vaker dat E&C verschuift van controlefunctie naar strategische bron van waarde. E&C-functionarissen moeten daarom niet alleen de risico’s van hun organisatie kunnen beoordelen, maar ook de risico’s van de middelen die zij daartegen inzetten. De checklist met vijf pijlers helpt hen daarbij, door abstracte beginselen om te zetten in concrete vragen.

Meer informatie: 

Het volledige onderzoek en de checklist vindt u in ‘Addressing the Paradox of Using AI in Ethics and Compliance Through a Checklist-Based Solution’ van Eleonora Viganò, Christian Hauser en Albert Weichselbraun. In: Hoffmann, C.H., Bansal, D. (eds)AI Ethics in Practice. Integrated Science, vol 35. Springer, Cham.

doi.org

In this chapter, we address the paradox of using AI in corporate ethics and compliance (E&C): while AI effectively enhances E&C functions, it simultaneously introduces ethical risks. We analyze the ethical implications of AI in E&C across five key areas:...