De meestgemaakte fout bij het gesprek met uw softwareleverancier over AI is dat bedrijven genoegen nemen met een kort antwoord op een verkeerde vraag. Er wordt gevraagd 'gebruikt uw systeem AI?', de leverancier antwoordt 'nee' of 'een beetje, maar dat is onschuldig', en daar blijft het bij. Niemand legt vast wat er precies is gevraagd, wat het antwoord inhield, en of dat antwoord ergens op is gebaseerd.
Die fout voorkomt u door het gesprek anders in te richten: niet als een ja-of-nee-vraag, maar als een vraag naar onderbouwing. Wat doet het systeem precies, welke beslissingen neemt het of ondersteunt het, en op basis waarvan stelt de leverancier dat dit wel of niet onder de AI-verordening valt. Dat antwoord legt u schriftelijk vast, niet omdat u dat voor de aardigheid doet, maar omdat u op een later moment moet kunnen laten zien welke vraag u heeft gesteld en welk antwoord u heeft gekregen.
Waarom dit gesprek vaak misgaat
Het gesprek met een softwareleverancier verloopt meestal via een accountmanager of een helpdesk, niet via iemand die de AI-verordening kent. Die persoon wil u graag geruststellen, en een korte geruststelling is sneller gegeven dan een precies antwoord. Daarbij komt dat veel software AI-functies bevat die zijn ingebouwd door een onderliggende leverancier, bijvoorbeeld een taalmodel dat als los onderdeel is ingekocht. De partij die u spreekt, weet dan zelf niet altijd haarfijn wat er onder de motorkap gebeurt.
Het gevolg is dat bedrijven een antwoord krijgen dat feitelijk klopt voor de persoon die het geeft, maar niet compleet is voor de situatie waarin het product wordt gebruikt. de kennisbank doorzoeken op uw type software laat zien dat de verordening onderscheid maakt tussen verschillende rollen en risicocategorieën, en dat het antwoord op de vraag 'is dit AI' zelden met één woord te geven is.
Hoe de fout er in de praktijk uitziet
Een installatiebedrijf schaft een planningspakket aan met een functie die onderhoudsbeurten automatisch indeelt. De vraag aan de leverancier is 'zit hier AI in', het antwoord is 'nee, dat is gewoon slimme planning'. Zes maanden later blijkt de planningsfunctie te zijn uitgebreid met een voorspellend model, zonder dat daar een apart gesprek over is gevoerd. Niemand bij het installatiebedrijf heeft dat gemerkt, omdat de oorspronkelijke geruststelling als definitief werd beschouwd.
Deze situatie is illustratief, niet uitzonderlijk: software verandert, leveranciers voegen functies toe via updates, en een antwoord dat op moment één klopte, hoeft dat op moment twee niet meer te zijn. Wie het gesprek voert als eenmalige vraag in plaats van terugkerend onderwerp, loopt het risico een verouderd antwoord te blijven gebruiken.
Wat toezichthouders in dit soort gesprekken belangrijk vinden
Toezichthouders kijken bij dit soort vragen doorgaans naar herleidbaarheid: kan een bedrijf laten zien welke vraag het heeft gesteld, aan wie, wanneer, en op basis van welke informatie het antwoord is gegeven. Een mondelinge toezegging zonder vastlegging is voor een toezichthouder lastig te beoordelen, simpelweg omdat er niets is om op te beoordelen. Dat is geen oordeel over de inhoud van het antwoord, maar over het ontbreken van een spoor.
Daarmee is de fout niet per se dat een bedrijf een verkeerd antwoord krijgt, maar dat het bedrijf niet kan aantonen dát het de vraag heeft gesteld en wat er is geantwoord. Voor de eigen situatie en de vraag welke documentatie precies nodig is, verwijzen wij naar een jurist of de bevoegde toezichthouder.
Hoe u het voorkomt
De eerste stap is de vraag concreter maken: niet 'is dit AI', maar 'welke onderdelen van dit systeem nemen of beïnvloeden een beslissing, en op welke techniek is dat gebaseerd'. De tweede stap is het antwoord schriftelijk laten bevestigen, bijvoorbeeld per e-mail of in de overeenkomst zelf. De derde stap is het gesprek herhalen bij iedere grote update, niet alleen bij de eerste aanschaf.
Veel bedrijven onderschatten hoeveel tijd dit kost als het eenmaal goed is ingericht: een paar vaste vragen, een vast moment in het updateproces, en een plek om de antwoorden te bewaren. Wie dat niet heeft, kan met een paar vragen een eerste indicatie krijgen van waar de eigen software ongeveer staat, en met de meestgestelde vragen over dit onderwerp een beeld krijgen van wat anderen in dezelfde positie tegenkomen.
Tot slot helpt het om vooraf te bepalen wie binnen uw bedrijf dit gesprek voert en bijhoudt. Bij een installatiebedrijf is dat vaak de directeur zelf, bij een groter kantoor de IT- of inkoopverantwoordelijke. Zolang die rol niet is belegd, blijft het gesprek met de softwareleverancier afhankelijk van toeval, en dat is precies waar de meestgemaakte fout vandaan komt.
Wilt u weten waar uw eigen software ongeveer staat en welke vragen voor uw situatie relevant zijn? Doe de gratis quick-scan of lees de onderwerpen die het dichtst bij uw situatie liggen via een toelichting op hoe wij deze informatie samenstellen.