Hvilken fejl begår virksomheder hyppigst i indkøbskontrakter for AI-systemer
Den mest almindelige fejl er, at en virksomhed køber et AI-system uden at fastslå i kontrakten, hvem der har hvilken rolle: leverandøren eller køberen. Mange softwareindkøbskontrakter blev udarbejdet for år siden, længe før AI-forordningen, og handler om licenser, opdateringer og support. De siger intet om risikoklassificering, om hvem der leverer brugerinstruktionerne, eller hvad der sker, hvis leverandøren selv tilpasser softwaren med nye AI-funktioner.
Konsekvensen er, at en virksomhed ved køb af udgangspunktet, at leverandøren "har ordnet det", mens forordningen skelner mellem udbyderen af et AI-system og den brugsansvarlige, der indsætter systemet i sin egen organisation. Disse to roller kan falde sammen, men behøver ikke at gøre det. Uden en eksplicit aftale i kontrakten bliver det uklart, hos hvem hvilket ansvar ligger på det tidspunkt, hvor det virkelig betyder noget.
Hvorfor dette går mere galt end forventet
Indkøbsafdelinger og IT-ledere ser traditionelt på funktionalitet, pris og sikkerhed. Det er også logisk: det var indtil for nylig de vigtigste spørgsmål ved softwareindkøb. AI-forordningen tilføjer et lag, som ikke naturligt finder vej til eksisterende indkøbsprocesser, simpelthen fordi ingen i indkøbsteamet er vant til at stille det spørgsmål. En leverandør, der ikke eksplicit bliver spurgt om sin rolle, vil sjældent levere den information uopfordret.
En anden grund er, at meget AI-funktionalitet nu kommer ind i eksisterende software via opdateringer uden at der sluttes en ny kontrakt. En bogholderipakke får en AI-assistent, et planlægningsværktøj får automatiske rosterforslag. Den oprindelige kontrakt dækker ikke denne funktion, og ingen kontrollerer efterfølgende, om betingelserne stadig passer til det, systemet nu gør.
Hvad der i praksis går galt
Fejlen manifesterer sig normalt først, når en virksomhed selv skal dokumentere noget: når der kommer en henvendelse fra en tilsynsmyndighed, ved en revision fra en kunde, eller simpelthen fordi arbejderkameret spørger, hvordan en AI-applikation blev til. Så viser det sig, at der ikke er dokumentation for systemets klassificering, ingen kontaktperson hos leverandøren for denne sag, og ingen kontraktlig aftale om, hvem der leverer hvilken information, når softwaren ændres.
Desuden bliver spørgsmålet om personoplysninger ofte behandlet adskilt fra spørgsmålet om AI, selvom de i praksis ofte overlapper. En databehandleraftale i henhold til GDPR regulerer noget andet end spørgsmålet om, hvilken rolle en part har under AI-forordningen; den ene erstatter ikke den anden.
Sådan undgår du dette ved en ny kontrakt
Det mest praktiske skridt er at føre samtalen med leverandøren tidligt i indkøbsprocessen, ikke efter. Spørg eksplicit, hvilken rolle leverandøren tillægger sig selv, hvilken dokumentation der hører til systemet, og hvad der er kontraktligt fastsat om ændringer af AI-funktionaliteten i kontraktens løbetid. Notér disse svar, også selvom svaret på dette tidspunkt stadig er ufuldstændigt: en leverandør, der endnu ikke kan give klarhed, er også værd at dokumentere.
Det hjælper at adskille dette spørgsmål fra den sædvanlige indkøbscheckliste om pris og funktionalitet, netop fordi disse to emner bliver bedømt af forskellige mennesker i organisationen. Den, der behandler dette som et separat fokuspunkt, undgår, at det falder imellem to stole. I vidensbasen pr. emne finder du et overblik over de spørgsmål, der ofte kommer op ved sådanne samtaler, ordnet efter den fase, virksomheden befinder sig i.
Gennemgang af eksisterende kontrakter
For løbende kontrakter er det tilrådeligt at stille de samme spørgsmål igen ved den første kommende kontraktuelle ændring, forlængelse eller opdateringsmelding. En kontrakt behøver ikke at blive åbnet straks, men en notits ved det næste kontaktmoment med leverandøren forhindrer, at emnet bliver liggende i årevis. Virksomheder, der ikke ved, hvor de står på nuværende tidspunkt, kan kan du få en første indikation i nogle få spørgsmål af hvilke emner der er relevante for deres situation.
Hvorvidt og hvordan en specifik kontrakt skal tilpasses, og hvilket ansvar der følger hermed, er et spørgsmål for en jurist eller, for spørgsmål om tilsyn, den relevante tilsynsmyndighed. Denne artikel beskriver kun hvor fejlen normalt opstår, ikke hvad der er den rigtige tilpasning for jeres eget kontrakt.
Hyppigt stillede spørgsmål om denne slags indkøbsspørgsmål, herunder spørgsmål, som andre læsere allerede har stillet, er samlet på siden med hyppigt stillede spørgsmål. Ønsker du først selv at få et billede af, hvor din organisation står, skal du udføre den gratis quick-scan eller gennemse emnerne i knowledge bank; begge er tilgængelige uden forpligtelse.