Yleisin virhe keskusteltaessa ohjelmistotoimittajasi kanssa tekoälystä on se, että yritykset tyytyvät lyhyeen vastaukseen väärään kysymykseen. Kysytään "käyttääkö järjestelmänne tekoälyä?", toimittaja vastaa "ei" tai "vähän, mutta se on vaaraton", ja siinä se jää. Kukaan ei dokumentoi, mitä tarkalleen kysyttiin, mitä vastaus sisälsi, ja perustuuko vastaus mihinkään.
Voit välttää tämän virheen järjestämällä keskustelun toisin: ei kyllä tai ei -kysymyksenä, vaan kysymyksenä perustelusta. Mitä järjestelmä tarkalleen tekee, mitä päätöksiä se tekee tai tukee, ja millä perusteella toimittaja väittää, että tämä kuuluu tai ei kuulu tekoälyasetukseen. Dokumentoit tämän vastauksen kirjallisesti, ei siksi että se olisi kivaa, vaan koska sinun on myöhemmin pystyttävä osoittamaan, mitä olet kysynyt ja mitä vastauksen olet saanut.
Miksi tämä keskustelu usein epäonnistuu
Keskustelu ohjelmistotoimittajan kanssa tapahtuu yleensä tilijohtajan tai teknisen tuen kautta, ei jonkun, joka tuntee tekoälyasetuksen. Tuo henkilö haluaa rauhoitella sinua, ja lyhyt rauhoittelu on nopeampi antaa kuin tarkka vastaus. Lisäksi monet ohjelmistot sisältävät tekoälytoimintoja, jotka on rakentanut taustalla oleva toimittaja, esimerkiksi kielimalli, joka on hankittu erillisenä osana. Osapuoli, jonka kanssa puhut, ei aina itse tarkasti tiedä, mitä tapahtuu moottorin alla.
Seurauksena on, että yritykset saavat vastauksen, joka on tosiasiallisesti oikea henkilölle, joka sen antaa, mutta ei täydellinen tilanteessa, jossa tuotetta käytetään. etsi tietokantaa ohjelmistotyypin mukaan osoittaa, että asetus tekee eron eri roolien ja riskikategorioiden välillä, ja että kysymykseen 'onko tämä tekoäly' vastaus on harvoin yhdellä sanalla annettavissa.
Kuinka virhe näkyy käytännössä
Asennusyritys hankkii hallintaohjelmiston, jossa on toiminto, joka järjestää huoltokäyntejä automaattisesti. Kysymys toimittajalle on 'onko tässä tekoälyä', vastaus on 'ei, kyseessä on vain älykäs suunnittelu'. Kuuden kuukauden kuluttua käy ilmi, että suunnittelutoimintoa on laajennettu ennustavalla mallilla, ilman että asiasta olisi käyty erillistä keskustelua. Asennusyrityksen kukaan ei huomannut tätä, koska alkuperäinen vakuutus pidettiin lopullisena.
Tämä tilanne on kuvaava, ei poikkeuksellinen: ohjelmisto muuttuu, toimittajat lisäävät toimintoja päivitysten kautta, ja vastaus, joka oli oikea hetkellä yksi, ei välttämättä ole sitä hetkellä kaksi. Joka käy keskustelua kertaluontoisena kysymyksenä eikä toistuvana aiheena, riskeeraa jäädä käyttämään vanhentunutta vastausta.
Mitä valvontaviranomaiset näissä keskusteluissa pitävät tärkeänä
Valvontaviranomaiset katsovat tämänkaltaisissa kysymyksissä yleensä jäljitettävyyttä: voidaanko yritys osoittaa, minkä kysymyksen se on esittänyt, kenelle, milloin ja minkä tiedon perusteella vastaus on annettu. Suullinen vakuutus ilman dokumentointia on valvontaviranomaiselle vaikea arvioida, yksinkertaisesti siksi, että mitään arvioitavaa ei ole. Se ei ole kannanotto vastauksen sisältöön, vaan jäljitettävän tiedon puuttumiseen.
Näin ollen virhe ei välttämättä ole, että yritys saa väärän vastauksen, vaan että yritys ei voi osoittaa, että se on esittänyt kysymyksen ja mitä on vastattu. Omasta tilanteesta ja kysymyksestä, mikä dokumentaatio tarkalleen ottaen on tarpeen, kehotamme ottamaan yhteyttä oikeustieteilijään tai toimivaltaiseen valvontaviranomaiseen.
Kuinka vältät sen
Ensimmäinen vaihe on tehdä kysymyksestä konkreettisempi: ei "sisältääkö tämä AI:ta", vaan "mitkä tämän järjestelmän osat tekevät tai vaikuttavat päätökseen, ja mikä tekniikka sen takana on". Toinen vaihe on saada vastaus kirjallisesti vahvistettua, esimerkiksi sähköpostitse tai itse sopimuksessa. Kolmas vaihe on toistaa keskustelu jokaisen merkittävän päivityksen yhteydessä, ei vain ensimmäisen hankinnan yhteydessä.
Monet yritykset aliarvoivat, kuinka paljon aikaa tämä vie, kun se on kerran kunnolla järjestetty: muutama vakiokysymys, vakio hetki päivitysprosessissa ja paikka vastausten säilyttämiseen. Joka ei sitä omaa, voi voi muutamilla kysymyksillä saada alustavaa viitettä sen avulla tietää, missä oma ohjelmisto suunnilleen on, ja tämän aiheen eniten kysyttyjen kysymysten avulla saada kuvan siitä, mitä muut samassa asemassa olevat kohtaavat.
Lopuksi auttaa, jos määritetään etukäteen, kuka yrityksessänne käy tätä keskustelua ja pitää sitä yllä. Asennusyrityksen kohdalla se on usein johtaja itse, suuremmassa toimistossa IT- tai ostovastaava. Niin kauan kuin tätä roolia ei ole määrätty, keskustelu ohjelmistotoimittajan kanssa jää sattuman varaan, ja se on juuri se paikka, josta yleisin virhe johtuu.
Haluatko tietää, missä oma ohjelmistosi suunnilleen on, ja mitkä kysymykset ovat relevantteja tilanteellesi? Tee ilmainen quick-scan tai lue aiheet, jotka ovat lähimpänä tilannettasi selvitys siitä, kuinka keräämme nämä tiedot.