Den mest almindelige fejl i samtalen med din softwareleverandør om AI er, at virksomheder nøjes med et kort svar på et forkert spørgsmål. Der stilles spørgsmålet 'bruger jeres system AI?', leverandøren svarer 'nej' eller 'lidt, men det er uskyldigt', og så ender det der. Ingen dokumenterer præcis, hvad der blev spurgt, hvad svaret indebar, og om svaret er baseret på noget.
Du undgår denne fejl ved at strukturere samtalen anderledes: ikke som et ja-eller-nej-spørgsmål, men som et spørgsmål om begrundelse. Hvad gør systemet præcis, hvilke beslutninger træffer det eller understøtter det, og på hvilket grundlag hævder leverandøren, at dette falder henholdsvis ikke falder ind under AI-forordningen. Du dokumenterer dette svar skriftligt, ikke for sjov, men fordi du senere skal kunne vise, hvilket spørgsmål du stillede, og hvilket svar du fik.
Hvorfor denne samtale ofte går galt
Samtalen med en softwareleverandør foregår som regel gennem en accountmanager eller en helpdesk, ikke gennem nogen, der kender AI-forordningen. Denne person ønsker gerne at berolige dig, og en kort beroligelse gives hurtigere end et præcist svar. Desuden indeholder meget software AI-funktioner, som er bygget ind af en underliggende leverandør, for eksempel en sprogmodel, som er købt som en separat del. Den part, du taler med, ved selv ofte ikke præcis, hvad der sker under motorhjelmen.
Resultatet er, at virksomheder får et svar, som faktisk er korrekt for den person, der giver det, men ikke er fuldstændigt for den situation, hvor produktet bruges. søg i videnbasen efter din type software viser, at forordningen skelner mellem forskellige roller og risikokategorier, og at svaret på spørgsmålet 'er dette AI' sjældent kan gives med ét ord.
Sådan ser fejlen ud i praksis
En installatørvirksomhed køber et planlægningsprogram med en funktion, der automatisk inddeler vedligeholdsbesøg. Spørgsmålet til leverandøren er 'indeholder dette AI', svaret er 'nej, det er bare smart planlægning'. Seks måneder senere viser det sig, at planlægningsfunktionen er udvidet med en forudsigelsesmodel uden, at der er ført en separat samtale om det. Ingen ved installatørvirksomheden har bemærket det, fordi den oprindelige beroligelse blev betragtet som endelig.
Denne situation er illustrativ, ikke undtagelsesvist: software ændrer sig, leverandører tilføjer funktioner via opdateringer, og et svar, som var korrekt på tidspunkt ét, behøver ikke at være det på tidspunkt to. Hvis man gennemfører samtalen som et engangs-spørgsmål i stedet for et tilbagevendende emne, risikerer man at blive ved med at bruge et forældet svar.
Hvad tilsynsmyndigheder finder vigtig i denne type samtaler
Tilsynsmyndigheder ser normalt på sporbarhed i denne type spørgsmål: kan en virksomhed dokumentere, hvilket spørgsmål den stillede, til hvem, hvornår, og på hvilket grundlag svaret blev givet. En mundtlig tilsagn uden dokumentation er vanskeligt for en tilsynsmyndighed at vurdere, simpelthen fordi der ikke er noget at vurdere. Det er ikke en vurdering af svarets indhold, men af fraværet af et dokumentationsspor.
Dermed er fejlen ikke nødvendigvis, at en virksomhed får et forkert svar, men at virksomheden ikke kan påvise, at den stillede spørgsmålet og hvad der blev svaret. For din egen situation og spørgsmålet om, hvilken dokumentation der præcis er nødvendig, henviser vi til en jurist eller den relevante tilsynsmyndighed.
Hvordan du undgår det
Det første skridt er at gøre spørgsmålet mere konkret: ikke 'bruger dette AI', men 'hvilke dele af dette system træffer eller påvirker en beslutning, og hvilken teknologi er det baseret på'. Det andet skridt er at få bekræftelse skriftligt, for eksempel pr. e-mail eller i selve aftalen. Det tredje skridt er at gentage samtalen ved hver større opdatering, ikke kun ved det første køb.
Mange virksomheder undervurderer, hvor lang tid det tager, når det først er sat ordentligt op: et par faste spørgsmål, et fast tidspunkt i opdateringsprocessen, og et sted at gemme svarene. Virksomheder, der ikke har det, kan med nogle få spørgsmål give dig en første indikation hvorfra deres egen software cirka står, og med de hyppigst stillede spørgsmål om dette emne få et billede af, hvad andre i samme situation møder.
Endelig hjælper det med at fastslå på forhånd, hvem i din virksomhed der skal føre og føre denne samtale. I en installationsfirma er det ofte direktøren selv, i et større kontor IT- eller indkøbsansvarlig. Så længe denne rolle ikke er tildelt, bliver samtalen med softwareleverandøren afhængig af tilfælde, og det er præcis, hvor den mest almindelige fejl kommer fra.
Vil du vide, hvor din egen software cirka står, og hvilke spørgsmål der er relevante for din situation? Udfør den gratis quick-scan eller læs de emner, der ligger tættest på din situation via en forklaring på, hvordan vi samler disse oplysninger.