Vilket misstag gör företag oftast i inköpskontrakt för AI-system
Det vanligaste misstaget är att ett företag köper in ett AI-system utan att dokumentera i kontraktet vem som har vilken roll: leverantören eller köparen. Många inköpskontrakt för programvara utformades för år sedan, långt före AI-förordningen, och handlar om licenser, uppdateringar och support. De säger ingenting om riskklassificering, om vem som tillhandahåller användarinstruktionerna, eller om vad som händer om leverantören själv anpassar programvaran med nya AI-funktioner.
Följden är att ett företag vid inköp utgår från att leverantören "har löst det", medan förordningen skiljer mellan leverantören av ett AI-system och användningsansvarig som använder systemet inom den egna organisationen. Dessa två roller kan sammanfalla, men behöver inte göra det. Utan en explicit överenskommelse i kontraktet förblir det oklart hos vem vilket ansvar ligger på den tidpunkt då det verkligen spelar roll.
Varför detta misslyckats oftare än väntat
Inköpsavdelningar och IT-chefer tittar historiskt sett på funktionalitet, pris och säkerhet. Det är också logiskt: det var fram tills nyligen de viktigaste frågorna vid programvaruinköp. AI-förordningen lägger till ett lager som inte automatiskt kommer in i befintliga inköpsprocesser, helt enkelt för att ingen i inköpsteamet är van vid att ställa den frågan. En leverantör som inte uttryckligen tillfrågas om sin roll kommer sällan att tillhandahålla denna information utan att bli tillfrågad.
En andra anledning är att mycket AI-funktionalitet numera kommer in genom uppdateringar i befintlig programvara, utan att ett nytt kontrakt slutas. Ett bokföringsprogram får en AI-assistent, ett planeringsverktyg får automatiska schemaförslag. Det ursprungliga kontraktet täcker inte denna funktion, och ingen kontrollerar efteråt om villkoren fortfarande är lämpliga för vad systemet nu gör.
Vad som går fel i praktiken
Misstaget blir vanligtvis uppenbart först när ett företag måste bevisa något själv: när en tillsynsmyndighet ställer en fråga, vid en kundrevision, eller helt enkelt för att arbetstagarrepresentationen frågar hur en AI-tillämpning utvecklades. Då visar det sig att det inte finns någon dokumentation om klassificeringen av systemet, ingen kontaktperson hos leverantören för detta ämne, och inget avtalsvillkor om vem som tillhandahåller vilken information när programvaran ändras.
Dessutom hanteras frågan om personuppgifter ofta separat från frågan om AI, även om de i praktiken ofta överlappar. Ett databehandlaravtal enligt GDPR reglerar något annat än frågan om vilken roll en part har enligt AI-förordningen; det ena ersätter inte det andra.
Så här undviker du detta vid ett nytt kontrakt
Det mest praktiska steget är att föra samtalet med leverantören tidigt i inköpsprocessen, inte efteråt. Fråga uttryckligen vilken roll leverantören tillskriver sig själv, vilken dokumentation som hör till systemet, och vad som avtalsvägen är fastställt om ändringar av AI-funktionaliteten under kontraktets löptid. Dokumentera dessa svar, även om svaret för närvarande är ofullständigt: en leverantör som ännu inte kan ge klarhet är också värt att dokumentera.
Det hjälper att skilja denna fråga från den vanliga inköpchecklistan om pris och funktionalitet, just för att dessa två ämnen bedöms av olika personer i organisationen. Den som behandlar detta som en separat punkt förhindrar att det trillar mellan stolarna. I kunskapsbanken per ämne finns en sammanfattning av frågor som ofta kommer upp i sådana samtal, ordnade enligt den fas som ett företag befinner sig i.
Granska befintliga kontrakt
För pågående kontrakt är det lämpligt att ställa samma frågor igen vid nästa kontraktsutslagning, förlängning eller uppdateringsmeddelse. Ett kontrakt behöver inte öppnas omedelbar, men en anteckning vid nästa kontakttillfälle med leverantören förhindrar att ämnet förblir liggande i flera år. Företag som inte vet var de står för närvarande kan få en första indikation i några frågor vilka ämnen som är relevanta för deras situation.
Huruvida och hur ett specifikt kontrakt måste justeras, och vilket ansvar som följer med det, är en fråga för en jurist eller, för frågor om tillsyn, den behörig tillsynsmyndighet. Den här artikeln beskriver endast var felet vanligtvis uppstår, inte vilken justering som är korrekt för ditt eget kontrakt.
Vanliga frågor om denna typ av inköpsfrågor, inklusive frågor som andra läsare redan har ställt, finns samlade på sidan med vanliga frågorOm du först vill få en bild av var din organisation står, gör då den kostnadsfria snabbkontrollen eller bläddra genom ämnena i kunskapsbasen; båda är fritt tillgängliga utan förpliktelse.