Wat mag AI met een cliëntdossier?
Er zijn twee wetten die hier iets van vinden, en ze vragen niet hetzelfde. De AVG gaat over de gegevens van je cliënt: heb je een grondslag, weet hij ervan, en beslist er niets over hem zonder mens ertussen. De AI-verordening gaat over het systeem zelf: wat voor soort AI is dit, en welke plichten horen daarbij. Je kunt de eerste netjes geregeld hebben en de tweede toch missen.
Vier dingen, en de rest is uitwerking.
- Je cliënt weet het en stemt ermee in
- Apart van de toestemming om op te nemen. Opnemen en laten uitwerken zijn twee verschillende dingen, en iemand kan het eerste prima willen en het tweede niet.
- Er komt altijd een mens tussen
- Wat het model maakt is een concept. Pas als jij het leest, aanpast en aftekent bestaat er een verslag. Dat is niet alleen netjes, het is de kern van waarom dit juridisch te doen is.
- Het model beslist niets
- Geen scores, geen labels, geen oordeel over geschiktheid. De AVG verbiedt in artikel 22 besluiten die uitsluitend op geautomatiseerde verwerking berusten en iemand in aanmerkelijke mate treffen. Zolang jij beslist, kom je daar niet aan.
- Je weet waar het gebeurt
- Welke partij verwerkt de audio, in welk land staat die server, en gebruikt hij jouw gesprekken om modellen te trainen. Dat zijn drie losse vragen en je hoort ze alle drie beantwoord te krijgen.
Wat de AVG vraagt.
Zodra een gesprek over een cliënt door een model gaat, verwerk je persoonsgegevens. Dat is geen nieuwe categorie: het zijn dezelfde regels die ook gelden als je met de hand een verslag typt. Alleen komt er een partij bij, en die maakt drie dingen scherper.
Een grondslag die klopt
Bij coaching is dat in de regel toestemming. Die moet vrij, specifiek, geïnformeerd en ondubbelzinnig zijn, en intrekken moet net zo makkelijk zijn als geven. Meer daarover in mag je een coachgesprek opnemen.
Een verwerkersovereenkomst
Met de partij die jouw dossiers verwerkt, en die partij heeft er weer een met zijn eigen leveranciers. Vraag ernaar. Zie heb je een verwerkersovereenkomst nodig.
Weten waar het heen gaat
Een verwerking buiten de Europese Economische Ruimte vraagt om extra waarborgen. De praktische vraag is simpeler: draait het transcriptiemodel op een Europees adres, of gaat je gesprek de oceaan over.
Geen besluit zonder mens
Artikel 22 AVG gaat over geautomatiseerde besluiten met rechtsgevolg of vergelijkbare gevolgen. Een conceptverslag is dat niet. Een AI die zou bepalen of iemand geschikt is voor een functie, komt gevaarlijk dichtbij.
Inzage die ook AI dekt
Vraagt je cliënt zijn dossier op, dan hoort daar ook bij wat het model ervan maakte en wat jij daarvan overnam. Een concept dat je weggooide is geen dossier; een verslag dat je aftekende wel.
Een bewaartermijn die er ook voor geldt
Het transcript en de audio zijn ook persoonsgegevens. Ze vallen onder dezelfde termijn, en de audio hoort er meestal veel korter te staan dan de tekst. Zie hoe lang bewaar je een coachdossier.
Wat de AI-verordening vraagt.
De Europese AI-verordening deelt systemen in naar risico, en aan elke categorie hangen andere plichten. Wie een AI-systeem inzet in zijn werk is in die wet een gebruiksverantwoordelijke, en dat ben jij als coach dus ook zodra je een verslag laat uitwerken.
Waar een verslagassistent in valt
- Het maakt tekst van een gesprek dat jij voerde
- Het legt niets vast zonder dat jij het aftekent
- Het beoordeelt geen mensen en geeft geen scores
- Het bepaalt niets over toegang tot werk, onderwijs of voorzieningen
- De plichten die dan gelden zijn vooral transparantieplichten: mensen horen te weten dat er AI in het spel is
Waar het zwaarder wordt
- AI die meebeslist over aanname, promotie of ontslag
- AI die iemands geschiktheid of prestaties beoordeelt
- AI die toegang tot onderwijs of voorzieningen bepaalt
- AI die emoties afleidt op de werkvloer
- Dat zijn categorieën uit bijlage III van de verordening, en daar horen aanzienlijk zwaardere eisen bij
Hier zit de grens die voor coaches het meest telt, en hij is makkelijk over het hoofd te zien. Coach je iemand in opdracht van zijn werkgever en lever je daar een rapportage over, dan schuift die rapportage richting het beoordelen van een werknemer. Zit er dan iets in dat door AI is bedacht en niet door jou, dan verandert de vraag. Onze eigen regel is daarom hard: in een werkgeverrapportage komt nooit iets dat het model heeft afgeleid. Wat de werkgever leest, schrijf jij.
Wat dit praktisch van je vraagt.
Vier dingen, en ze kosten samen minder tijd dan het lezen van dit artikel.
- Vertel het, in gewone taal
Dat je het gesprek opneemt, dat er een tekstversie van komt, dat een model daar een concept van maakt en dat jij het naleest voordat er iets in het dossier staat. Twee zinnen, aan het begin van het gesprek.
- Vraag het apart
Opnemen en uitwerken zijn twee toestemmingen. Iemand die het prima vindt dat je opneemt, hoeft niet te willen dat een model het leest. Eén vinkje voor allebei is geen geldige toestemming.
- Lees na voordat je aftekent
Niet als formaliteit. Het model kan een naam verkeerd verstaan, een nuance omdraaien of iets samenvatten dat niemand zo bedoelde. Jij zet je naam eronder, dus jij bent degene die het heeft gecontroleerd.
- Houd de werkgever eruit
Rapporteer je aan een opdrachtgever, schrijf die tekst dan zelf. Geen samenvatting die een model bedacht, geen scores, geen oordeel over geschiktheid.
Wat wij hieruit hebben afgeleid.
Deze uitgangspunten zitten in de software zelf, niet in een handleiding.
AI-output is nooit het dossier
Wat het model maakt is een concept met herkomst erbij: welk model, welke bronfragmenten. Pas als jij het overneemt ontstaat er een versie in het dossier, met jouw naam eraan. Die scheiding zit in het datamodel en niet in het scherm.
Elk punt noemt zijn bron
Ieder inzicht in het concept verwijst naar het moment in het transcript waar het vandaan komt. Een punt zonder geldige bron wordt zichtbaar gemarkeerd in plaats van stilletjes meegenomen. Zo is nalezen echt nalezen en geen geloofskwestie.
Toestemming per onderdeel, technisch afgedwongen
Opnemen en AI-verwerking zijn twee losse toestemmingen met een eigen tekst. Ontbreekt er een, dan weigert de opslag het, ook als de rest van het systeem een fout zou maken.
Geen AI die zelfstandig oordeelt
Geen risicoscores, geen persoonlijkheidslabels, geen conclusies die niet in het gesprek voorkomen. Ook de voorbereiding op een volgende sessie vertelt alleen terug wat er in eerdere verslagen stond; ze stelt geen vraag voor en geeft geen advies.
Een Europees adres, en geen training
De transcriptie loopt via het Europese endpoint van de leverancier, en wat jij verwerkt wordt niet gebruikt om modellen te trainen. Je kunt AI ook helemaal uitzetten en gewoon zelf schrijven.
Werkgeverrapportage zonder model
Wat naar een opdrachtgever gaat bevat nooit iets dat het model heeft afgeleid. Dat is de grens uit de vorige alinea, en hij staat in de software en niet alleen in dit artikel.
Dit is uitleg, geen juridisch advies, en op één punt weten wij het zelf ook niet zeker.
Wij bouwen software, wij zijn geen juristen. Hieronder staat wat wij bij het ontwerpen van dit systeem hebben uitgezocht en hoe wij het hebben toegepast.
Waar wij eerlijk over willen zijn: de precieze indeling van een verslagassistent onder de AI-verordening is door ons afgeleid en nog niet extern getoetst. Wij gaan ervan uit dat een systeem dat een concept maakt dat een mens beoordeelt, geen hoogrisicosysteem is, en dat er vooral transparantieplichten gelden. Wij weten niet of de context van welzijn dat verandert, en de grens rond werkgeverrapportages is precies de plek waar dat zou kunnen kantelen. Die vraag ligt bij een jurist. Zodra daar een antwoord op is, past deze pagina zich aan.
Voor coaches bestaat bovendien geen apart wettelijk dossierregime zoals in de zorg, dus veel hangt af van jouw situatie, je beroepsvereniging en je afspraken met je cliënt. Gaat het ergens echt om, leg het dan voor aan iemand met de juiste bevoegdheid.
Spreek een minuut in.
Zonder account, en je opname wordt niet bewaard. Je ziet meteen wat er van een gesprek wordt gemaakt, inclusief de bronverwijzing per punt.
Probeer het zelf