De meestgemaakte fout bij het gesprek met uw softwareleverancier over AI is dat bedrijven genoegen nemen met een kort antwoord op een verkeerde vraag. Er wordt gevraagd 'gebruikt uw systeem AI?', de leverancier antwoordt 'nee' of 'een beetje, maar dat is onschuldig', en daar blijft het bij. Niemand legt vast wat er precies is gevraagd, wat het antwoord inhield, en of dat antwoord ergens op is gebaseerd.
Die fout voorkomt u door het gesprek anders in te richten: niet als een ja-of-nee-vraag, maar als een vraag naar onderbouwing. Wat doet het systeem precies, welke beslissingen neemt het of ondersteunt het, en op basis waarvan stelt de leverancier dat dit wel of niet onder de AI-verordening valt. Dat antwoord legt u schriftelijk vast, niet omdat u dat voor de aardigheid doet, maar omdat u op een later moment moet kunnen laten zien welke vraag u heeft gesteld en welk antwoord u heeft gekregen.
Waarom dit gesprek vaak misgaat
Het gesprek met een softwareleverancier verloopt meestal via een accountmanager of een helpdesk, niet via iemand die de AI-verordening kent. Die persoon wil u graag geruststellen, en een korte geruststelling is sneller gegeven dan een precies antwoord. Daarbij komt dat veel software AI-functies bevat die zijn ingebouwd door een onderliggende leverancier, bijvoorbeeld een taalmodel dat als los onderdeel is ingekocht. De partij die u spreekt, weet dan zelf niet altijd haarfijn wat er onder de motorkap gebeurt.
Het gevolg is dat bedrijven een antwoord krijgen dat feitelijk klopt voor de persoon die het geeft, maar niet compleet is voor de situatie waarin het product wordt gebruikt. de kennisbank doorzoeken op uw type software laat zien dat de verordening onderscheid maakt tussen verschillende rollen en risicocategorieën, en dat het antwoord op de vraag 'is dit AI' zelden met één woord te geven is.
Hoe de fout er in de praktijk uitziet
Een installatiebedrijf schaft een planningspakket aan met een functie die onderhoudsbeurten automatisch indeelt. De vraag aan de leverancier is 'zit hier AI in', het antwoord is 'nee, dat is gewoon slimme planning'. Zes maanden later blijkt de planningsfunctie te zijn uitgebreid met een voorspellend model, zonder dat daar een apart gesprek over is gevoerd. Niemand bij het installatiebedrijf heeft dat gemerkt, omdat de oorspronkelijke geruststelling als definitief werd beschouwd.
Deze situatie is illustratief, niet uitzonderlijk: software verandert, leveranciers voegen functies toe via updates, en een antwoord dat op moment één klopte, hoeft dat op moment twee niet meer te zijn. Wie het gesprek voert als eenmalige vraag in plaats van terugkerend onderwerp, loopt het risico een verouderd antwoord te blijven gebruiken.
Wat toezichthouders in dit soort gesprekken belangrijk vinden
Toezichthouders kijken bij dit soort vragen doorgaans naar herleidbaarheid: kan een bedrijf laten zien welke vraag het heeft gesteld, aan wie, wanneer, en op basis van welke informatie het antwoord is gegeven. Een mondelinge toezegging zonder vastlegging is voor een toezichthouder lastig te beoordelen, simpelweg omdat er niets is om op te beoordelen. Dat is geen oordeel over de inhoud van het antwoord, maar over het ontbreken van een spoor.
Daarmee is de fout niet per se dat een bedrijf een verkeerd antwoord krijgt, maar dat het bedrijf niet kan aantonen dát het de vraag heeft gesteld en wat er is geantwoord. Voor de eigen situatie en de vraag welke documentatie precies nodig is, verwijzen wij naar een jurist of de bevoegde toezichthouder.
Ako si to zabránite
Prvým krokom je urobiť otázku konkrétnejšou: nie "je to AI", ale "ktoré časti tohto systému prijímajú alebo ovplyvňujú rozhodnutie a na akej technike je to založené". Druhým krokom je nechať odpoveď písomne potvrdiť, napríklad e-mailom alebo v samej zmluve. Tretím krokom je rozhovor opakovať pri každej väčšej aktualizácii, nielen pri prvom nákupe.
Mnoho spoločností podceňuje, koľko času to stojí, keď je to raz správne nastavené: pár pevných otázok, pevný čas v procese aktualizácie a miesto na uloženie odpovedí. Kto to nemá, môže s môže s pár otázkami dostať prvú indikáciu odkiaľ vlastný software približne stojí, a s najčastejšie otázky na túto tému získať predstavu o tom, čo sa stretávajú ľudia v rovnakej pozícii.
Nakoniec pomáha, ak si predtým určíte, kto vo vašej spoločnosti vedie a vedie tento rozhovor. V inštalačnej spoločnosti je to často sám riaditeľ, v väčšej kancelárii IT- alebo nákupný zodpovedný. Kým sa táto úloha nevymení, rozhovor so softvérovým dodávateľom zostáva závislý od náhody, a to je presne miesto, odkiaľ pochádza najčastejšia chyba.
Chcete vedieť, kde sa vaša vlastná softvér približne nachádza a ktoré otázky sú relevantné pre vašu situáciu? Vykonajte bezplatnú rýchlu kontrolu alebo si prečítajte témy, ktoré sú vašej situácii najbližšie prostredníctvom vysvetlenie spôsobu, ako zostavujeme tieto informácie.