Explainable AI (XAI) verwijst naar kunstmatige-intelligentiesystemen en -technieken die zijn ontworpen om AI-besluitvormingsprocessen transparant, interpreteerbaar en begrijpelijk te maken voor menselijke gebruikers. Onder ISO 42001 en de EU AI Act moeten organisaties die AI-systemen inzetten kunnen uitleggen hoe beslissingen worden genomen, welke gegevens uitkomsten beïnvloeden en waarom een bepaald resultaat is geproduceerd, vooral bij risicovolle toepassingen zoals kredietscoring, werving en medische diagnose.
Het implementeren van verklaarbare AI is niet alleen een wettelijke vereiste maar ook een zakelijke noodzaak, aangezien organisaties die hun AI-beslissingen niet kunnen uitleggen reputatierisico, juridische aansprakelijkheid en verlies van stakeholdervertrouwen riskeren. Technieken zoals SHAP-waarden, LIME, aandachtsvisualisatie en beslisbomen helpen complexe modellen beter interpreteerbaar te maken, waardoor organisaties aan auditvereisten kunnen voldoen, algoritmische bias kunnen identificeren en betekenisvol menselijk toezicht op geautomatiseerde besluitvorming kunnen handhaven.