Det vanligaste misstaget i samtalet med er mjukvaruleverantör om AI är att företag nöjer sig med ett kort svar på en felaktig fråga. Man frågar "använder ert system AI?", leverantören svarar "nej" eller "lite grann, men det är ofarligt", och så slutar det där. Ingen dokumenterar exakt vad som frågades, vad svaret innehöll, eller om svaret baserades på något.
Det misstaget undviker ni genom att utforma samtalet annorlunda: inte som en ja-eller-nej-fråga, utan som en fråga om underbyggnad. Vad gör systemet exakt, vilka beslut fattar eller stöder det, och på vilken grund hävdar leverantören att detta faller under eller inte faller under AI-förordningen. Det svaret dokumenterar ni skriftligt, inte för nöjes skull, utan för att ni senare måste kunna visa vilken fråga ni ställde och vilket svar ni fick.
Varför det här samtalet ofta går snett
Samtalet med en mjukvaruleverantör sker vanligtvis via en kontoansvarig eller en helpdesk, inte via någon som är införstådd i AI-förordningen. Den personen vill gärna lugna er, och en kort försäkran går snabbare att ge än ett exakt svar. Därtill innehåller mycket mjukvara AI-funktioner som är inbyggda av en underliggande leverantör, till exempel en språkmodell som har köpts in som en separat komponent. Den part ni talar med vet då själv ofta inte i detalj vad som händer under huven.
Resultatet är att företag får ett svar som faktiskt stämmer för den person som ger det, men inte är fullständigt för den situation där produkten används. söka i kunskapsbanken efter er typ av mjukvara visar att förordningen gör skillnad mellan olika roller och riskkategorier, och att svaret på frågan "är detta AI" sällan kan ges med ett ord.
Hur misstaget ser ut i praktiken
Ett installationsföretag anskaffar ett planeringspaket med en funktion som automatiskt fördelar underhållsbesök. Frågan till leverantören är "finns det AI i det här", svaret är "nej, det är bara smart planering". Sex månader senare visar det sig att planeringsfunktionen har utökats med en prediktiv modell, utan att ett separat samtal fördes om det. Ingen på installationsföretaget märkte det, för den ursprungliga försäkran betraktades som slutgiltig.
Den här situationen är illustrativ, inte undantagsfallen: mjukvara förändras, leverantörer lägger till funktioner via uppdateringar, och ett svar som var rätt vid tidpunkt ett behöver inte vara det vid tidpunkt två. Den som för samtalet som en engångsfråga i stället för ett återkommande ämne, löper risken att fortsätta använda ett föråldrat svar.
Vad tillsynsmyndigheter tycker är viktigt i sådana här samtal
Tillsynsmyndigheter tittar vanligtvis på spårbarhet i den här typen av frågor: kan ett företag visa vilken fråga det ställde, till vem, när, och på vilken grund svaret gavs. Ett muntligt löfte utan dokumentation är svårt för en tillsynsmyndighet att bedöma, helt enkelt för att det inte finns något att bedöma. Det är ingen bedömning av innehållet i svaret, utan om frånvaron av ett spår.
Med det är misstaget inte nödvändigtvis att ett företag får ett felaktigt svar, utan att företaget inte kan visa att det ställde frågan och vad som svarades. För er egen situation och frågan om vilken dokumentation som exakt är nödvändig, hänvisar vi till en jurist eller den behörig tillsynsmyndighet.
Så undviker du det
Det första steget är att göra frågan mer konkret: inte 'använder detta system AI', utan 'vilka delar av detta system fattar eller påverkar ett beslut, och vilken teknik baseras det på'. Det andra steget är att få svaret skriftligt bekräftat, till exempel via e-post eller i själva avtalet. Det tredje steget är att upprepa samtalet vid varje större uppdatering, inte bara vid första köpet.
Många företag underskattar hur mycket tid detta tar när det väl är ordentligt inrättat: ett par fasta frågor, ett fast tillfälle i uppdateringsprocessen, och en plats för att spara svaren. Den som inte har det kan med få en första indikation med ett par frågor var den egna programvaran ungefär står, och med de mest ställda frågorna om detta ämne få en bild av vad andra i samma situation stöter på.
Slutligen hjälper det att i förväg bestämma vem inom er organisation som för och håller reda på detta samtal. På ett installationsföretag är det ofta direktören själv, på ett större kontor IT- eller inköpsansvarig. Så länge denna roll inte är tilldelad, förblir samtalet med programvaruleverantören beroende av slumpen, och det är precis där det vanligaste misstaget härstammar från.
Vill ni veta var er egen programvara ungefär står och vilka frågor som är relevanta för er situation? Gör den kostnadsfria snabbskattningen eller läs de ämnen som ligger närmast er situation via en förklaring på hur vi sammanställer denna information.