Το πιο συνηθισμένο λάθος στη συζήτηση με τον προμηθευτή λογισμικού σας για την τεχνητή νοημοσύνη είναι ότι οι επιχειρήσεις ικανοποιούνται με μια σύντομη απάντηση σε μια λάθος ερώτηση. Τίθεται η ερώτηση «χρησιμοποιεί το σύστημά σας τεχνητή νοημοσύνη;», ο προμηθευτής απαντά «όχι» ή «λίγο, αλλά αυτό είναι αθώο», και εκεί τελειώνει. Κανείς δεν τεκμηριώνει ακριβώς τι ρωτήθηκε, τι σημαίνει η απάντηση και αν εκείνη η απάντηση βασίζεται κάπου.
Αποφεύγετε αυτό το λάθος ανακατευθύνοντας τη συζήτηση: όχι ως ερώτηση ναι ή όχι, αλλά ως ερώτηση για αιτιολόγηση. Τι κάνει ακριβώς το σύστημα, ποιες αποφάσεις παίρνει ή υποστηρίζει, και με βάση ποια στοιχεία ο προμηθευτής ισχυρίζεται ότι αυτό εμπίπτει ή δεν εμπίπτει στον Κανονισμό για την τεχνητή νοημοσύνη. Την απάντηση αυτή την τεκμηριώνετε γραπτώς, όχι γιατί το κάνετε για τη διασκέδαση, αλλά γιατί σε κάποια μεταγενέστερη στιγμή πρέπει να μπορέσετε να δείξετε ποια ερώτηση έχετε θέσει και ποια απάντηση λάβατε.
Γιατί συχνά δεν πρέπει να γίνει αυτή η συζήτηση
Η συζήτηση με έναν προμηθευτή λογισμικού συνήθως διεξάγεται μέσω ενός διευθυντή λογαριασμού ή ενός help desk, όχι μέσω κάποιου που γνωρίζει τον Κανονισμό για την τεχνητή νοημοσύνη. Αυτό το άτομο θέλει να σας καθησυχάσει και ένας σύντομος καθησυχασμός δίνεται πιο γρήγορα από μια ακριβή απάντηση. Επιπλέον, πολλό λογισμικό περιέχει λειτουργίες τεχνητής νοημοσύνης που έχουν ενσωματωθεί από έναν υποκείμενο προμηθευτή, για παράδειγμα ένα γλωσσικό μοντέλο που αγοράστηκε ως ξεχωριστό στοιχείο. Το μέρος που ομιλείτε με, δεν ξέρει πάντα λεπτομερώς τι συμβαίνει κάτω από το καπό.
Το αποτέλεσμα είναι ότι οι επιχειρήσεις λαμβάνουν απάντηση που είναι ουσιαστικά σωστή για το άτομο που την δίνει, αλλά δεν είναι πλήρης για την κατάσταση στην οποία χρησιμοποιείται το προϊόν. αναζητήστε τη βάση γνώσης για τον τύπο λογισμικού σας δείχνει ότι ο Κανονισμός κάνει διάκριση μεταξύ διαφόρων ρόλων και κατηγοριών κινδύνου, και ότι η απάντηση στο ερώτημα «είναι αυτό τεχνητή νοημοσύνη» σπάνια μπορεί να δοθεί με μία λέξη.
Πώς φαίνεται το σφάλμα στην πράξη
Μια εταιρεία εγκατάστασης αγοράζει ένα πακέτο σχεδιασμού με μια λειτουργία που κατανέμει αυτόματα τις συντηρήσεις. Η ερώτηση προς τον προμηθευτή είναι «υπάρχει τεχνητή νοημοσύνη εδώ», η απάντηση είναι «όχι, είναι απλώς έξυπνος σχεδιασμός». Έξι μήνες αργότερα, η λειτουργία σχεδιασμού επεκτείνεται με ένα προβλεπτικό μοντέλο, χωρίς να έχει διεξαχθεί ξεχωριστή συζήτηση γι' αυτό. Κανείς στην εταιρεία εγκατάστασης δεν το παρατήρησε, γιατί η αρχική καθησυχάσεων θεωρήθηκε οριστική.
Αυτή η κατάσταση είναι ενδεικτική, όχι εξαιρετική: το λογισμικό αλλάζει, οι προμηθευτές προσθέτουν λειτουργίες μέσω ενημερώσεων, και μια απάντηση που ήταν σωστή στη στιγμή ένα, δεν χρειάζεται να είναι σωστή στη στιγμή δύο. Αυτός που διεξάγει τη συζήτηση ως εκατό εφάπαξ ερώτηση αντί για επανακάμπτον θέμα, διατρέχει τον κίνδυνο να συνεχίσει να χρησιμοποιεί ένα απαρχαιωμένο απάντηση.
Τι θεωρούν σημαντικό οι εποπτικές αρχές σε τέτοιες συζητήσεις
Οι εποπτικές αρχές συνήθως εξετάζουν την ιχνηλασιμότητα σε τέτοιες ερωτήσεις: μπορεί μια επιχείρηση να δείξει ποια ερώτηση έθεσε, σε ποιον, πότε και με βάση ποια πληροφορία δόθηκε η απάντηση. Μια προφορική υπόσχεση χωρίς τεκμηρίωση είναι δύσκολη για μια εποπτική αρχή να αξιολογήσει, απλώς γιατί δεν υπάρχει τίποτα να αξιολογήσει. Αυτό δεν είναι κρίση της ουσίας της απάντησης, αλλά της απουσίας ενός ίχνους.
Επομένως, το σφάλμα δεν είναι κατ' ανάγκη ότι μια επιχείρηση λαμβάνει μια λάθος απάντηση, αλλά ότι η επιχείρηση δεν μπορεί να αποδείξει ότι έθεσε την ερώτηση και ποια ήταν η απάντηση. Για τη δική σας κατάσταση και το ερώτημα ποια ακριβώς τεκμηρίωση είναι απαραίτητη, σας παραπέμπουμε σε έναν νομικό ή την αρμόδια εποπτική αρχή.
Πώς το αποφεύγετε
Το πρώτο βήμα είναι να κάνετε την ερώτηση πιο συγκεκριμένη: όχι «είναι αυτό AI», αλλά «ποια μέρη αυτού του συστήματος λαμβάνουν ή επηρεάζουν μια απόφαση, και σε ποια τεχνική βασίζεται;». Το δεύτερο βήμα είναι να κάνετε την απάντηση γραπτώς επιβεβαιωμένη, για παράδειγμα ανά email ή στη σύμβαση. Το τρίτο βήμα είναι να επαναλάβετε την συζήτηση σε κάθε μεγάλη ενημέρωση, όχι μόνο κατά την πρώτη αγορά.
Πολλές εταιρείες υποτιμούν πόσο χρόνο χρειάζεται αυτό όταν έχει ρυθμιστεί σωστά: μερικές σταθερές ερωτήσεις, μια σταθερή στιγμή στη διαδικασία ενημέρωσης και ένα μέρος για την αποθήκευση των απαντήσεων. Όποιος δεν το έχει, μπορεί με μερικές ερωτήσεις μια πρώτη ένδειξη από το που η δική του ή της δική του λογισμική βρίσκεται περίπου, και με τις συχνότερες ερωτήσεις για αυτό το θέμα να αποκτήσει μια εικόνα του τι άλλοι στην ίδια θέση συναντούν.
Τέλος, βοηθάει να προσδιορίσετε εκ των προτέρων ποιος μέσα στην εταιρεία σας διεξάγει και παρακολουθεί αυτή τη συζήτηση. Σε μια εγκαταστάσεως επιχείρηση, αυτό είναι συχνά ο ίδιος ο διευθυντής, σε ένα μεγαλύτερο γραφείο ο υπεύθυνος ΠΤ ή προμηθειών. Όσο αυτός ο ρόλος δεν έχει ανατεθεί, η συζήτηση με τον προμηθευτή λογισμικού παραμένει εξαρτώμενη από την τύχη, και αυτό είναι ακριβώς από όπου προέρχεται το πιο συνηθισμένο λάθος.
Θέλετε να μάθετε πού βρίσκεται περίπου το δικό σας λογισμικό και ποιες ερωτήσεις είναι σχετικές για την κατάστασή σας; Κάντε το δωρεάν quick-scan ή διαβάστε τα θέματα που είναι πιο κοντά στην κατάστασή σας μέσω μια εξήγηση του τρόπου που συλλέγουμε αυτές τις πληροφορίες.