IT-auditors moeten AI vaker wantrouwen dan vertrouwen

In De Validatiecrisis waarschuwt Brenno de Winter voor het groeiende risico dat organisaties de uitkomsten van AI-systemen en digitale tools zonder voldoende controle accepteren. Volgens hem ontstaat hierdoor een vals gevoel van zekerheid, terwijl fouten juist overtuigender en moeilijker herkenbaar worden. Voor IT-auditors en information risk professionals betekent dit dat de focus moet verschuiven van het beoordelen van losse tooluitkomsten naar het valideren van het volledige systeem, inclusief de onderliggende aannames, governance en ethische afwegingen. Daarbij spelen ook cultuur en leiderschap een belangrijke rol: een organisatie waarin experts niet worden tegengesproken, creëert dezelfde blinde vlekken als een technisch ondeugdelijk systeem. 

De Winter ziet daarom een bredere rol voor IT-auditors dan alleen het toetsen van technische controls. Zij moeten organisaties helpen om automation bias, confirmation bias en andere cognitieve valkuilen te herkennen, terwijl nieuwe regelgeving zoals NIS2, DORA en de AI Act de noodzaak van aantoonbare kwaliteit verder vergroot. Zijn boodschap is helder: in een wereld waarin AI steeds overtuigender wordt, vormt professioneel-kritisch denken de belangrijkste beveiligingsmaatregel. De auditor die durft te twijfelen aan een ogenschijnlijk perfecte uitkomst, levert uiteindelijk de grootste bijdrage aan betrouwbare digitale besluitvorming.

Dit is een samenvatting van het volledige artikel op isaca.nl.