AI-systeemdocumentatie is een uitgebreid dossier dat beschrijft hoe je AI-systeem werkt, welke data het gebruikt en wat de beperkingen zijn. Onder de EU AI Act moeten aanbieders van hoog-risico AI-systemen technische documentatie bijhouden voordat het systeem op de markt wordt gebracht. Ook voor lager-risico systemen beschermt goede documentatie je bij audits, investor due diligence en klant-aanbestedingen.
Wat je moet documenteren:
- Doel en beoogd gebruik: Welk probleem lost je AI op? Wie zijn de beoogde gebruikers? Welke beslissingen ondersteunt of automatiseert het?
- Architectuur: Welke modellen gebruik je (bijv. GPT-4, Claude, open-source)? Hoe zijn ze geïntegreerd? Wat is de datastroom van input naar output?
- Trainingsdata: Welke data is gebruikt om te trainen of fine-tunen? Waar kwam het vandaan? Hoe is het opgeschoond en gelabeld?
- Bekende beperkingen: Waar presteert je systeem slecht? Welke biases heb je geïdentificeerd? Welke inputs produceren onbetrouwbare output?
- Risicobeoordeling: Wat kan er misgaan? Wat is de impact op betrokkenen? Welke mitigerende maatregelen zijn er?
Begin met een eenvoudig intern document en itereer. De EU AI Act compliance checker helpt je te identificeren wat op jouw systeem van toepassing is. Tidal Control biedt templates en workflows om deze documentatie op te bouwen en te onderhouden als onderdeel van je AI-managementsysteem.