Μία νέα έκθεση της SAS Data and AI Impact Report: The New Economics of Trust,, η οποία περιλαμβάνει ερευνητικά ευρήματα της IDC, αποκαλύπτει ότι η υιοθέτηση πρακτικών αξιόπιστης ΤΝ βρίσκεται πίσω από την επιτυχία των οργανισμών που καταφέρνουν να αποκομίζουν οφέλη από τις επενδύσεις τους σε αυτή. Σύμφωνα με την έρευνα, οι οργανισμοί που εφαρμόζουν τέτοιες πρακτικές έχουν 15 φορές περισσότερες πιθανότητες να αναφέρουν υψηλή απόδοση επένδυσης (ROI) από τα έργα ΤΝ που υλοποιούν.
Σύμφωνα με τη δεύτερη ετήσια έκθεση “Data and AI Impact Report: The New Economics of Trust”, οι οργανισμοί με τις πιο προηγμένες πρακτικές διακυβέρνησης, ποιότητας δεδομένων και ελέγχου της ΤΝ επιτυγχάνουν τουλάχιστον διπλάσια απόδοση επένδυσης από τους υπόλοιπους. Ωστόσο, οι οργανισμοί αυτοί αποτελούν ακόμη ένα μικρό μέρος της αγοράς. Αντίθετα, λιγότεροι από ένας στους 20 οργανισμούς που δεν εφαρμόζουν επαρκώς πρακτικές αξιόπιστης ΤΝ επιτυγχάνουν εξίσου υψηλή απόδοση επένδυσης.
«Όταν η ΤΝ λειτουργεί σωστά, ο αντίκτυπός της είναι εντυπωσιακός», δήλωσε ο Bryan Harris, Chief Technology Officer της SAS. «Ωστόσο, είναι επαρκώς τεκμηριωμένο ότι οι πλέον προηγμένοι ΑΙ agents μπορούν να εμφανίζουν ποσοστά σφάλματος άνω του 25% σε σύνθετες εργασίες, ποσοστό μη αποδεκτό όταν πρόκειται για τη λήψη κρίσιμων αποφάσεων. Για να διασφαλίσουν την ακρίβεια και τη συνέπεια των αποτελεσμάτων, οι οργανισμοί πρέπει να ενσωματώνουν εξειδικευμένη γνώση του εκάστοτε κλάδου στις ροές εργασίας των συστημάτων agentic AI, διατηρώντας παράλληλα τον ανθρώπινο παράγοντα στο επίκεντρο της διακυβέρνησης και της εποπτείας. Οι οργανισμοί που θα το επιτύχουν θα μπορέσουν να γεφυρώσουν το χάσμα εμπιστοσύνης και να αποκτήσουν ανταγωνιστικό πλεονέκτημα στην αγορά μέσω της ΤΝ».
«Καθώς η ΤΝ αποκτά μεγαλύτερη αυτονομία, οι οργανισμοί βρίσκονται αντιμέτωποι με μια νέα πρόκληση: να διατηρήσουν την εμπιστοσύνη σε συστήματα που οι άνθρωποι δεν κατανοούν πλήρως», δήλωσε ο Chris Marshall, Vice President της IDC. «Τα ευρήματά μας δείχνουν ότι η ενισχυμένη εποπτεία, η επεξηγηματικότητα, η λογοδοσία και οι ισχυρές υποδομές δεδομένων αποτελούν πλέον απαραίτητες προϋποθέσεις για την επιτυχή αξιοποίηση της ΤΝ σε ευρεία κλίμακα.»
Τα ευρήματα της έκθεσης εστιάζουν σε τρεις θεματικές ενότητες:
1. Η αδυναμία της ΤΝ να εξηγήσει τις αποφάσεις της αποτελεί σημαντικό επιχειρηματικό κίνδυνο
Οι ερευνητές διαπίστωσαν ότι, σε πολλούς οργανισμούς, οι εργαζόμενοι διστάζουν ολοένα και περισσότερο να βασιστούν σε συστήματα που ενδέχεται να μην παρέχουν σωστά αποτελέσματα ή να μην μπορούν να εξηγήσουν πώς κατέληξαν σε μια απόφαση. Όσο αυξάνεται η αυτονομία της ΤΝ, τόσο εντείνεται αυτός ο κίνδυνος, καθιστώντας την δυνατότητα επεξήγησης, καθοριστικό παράγοντα επιτυχίας.
Η έκθεση εξέτασε επίσης ένα σημαντικό εμπόδιο στην επιτυχή υιοθέτηση της ΤΝ: την έλλειψη εμπιστοσύνης των εργαζομένων στις αποφάσεις της, η οποία τους ωθεί να τις παρακάμπτουν και να προχωρούν σε χειροκίνητες διορθώσεις. Αυτό εντείνει την έλλειψη εμπιστοσύνης προς την ΤΝ και μπορεί να έχει σημαντικό κόστος για τους οργανισμούς, τόσο σε χρόνο και παραγωγικότητα όσο και σε επίπεδο κερδοφορίας. Καθώς η ποιότητα των αποφάσεων της ΤΝ εξαρτάται από την ποιότητα των δεδομένων στα οποία βασίζεται, η δημιουργία μιας ισχυρής βάσης δεδομένων είναι κομβικής σημασίας για τους οργανισμούς που επιδιώκουν να περιορίσουν την ανάγκη ανθρώπινης παρέμβασης.
Βασικά ευρήματα:
- Το 97,2% των χρηστών παρακάμπτει τις συστάσεις που παράγει η ΤΝ, τουλάχιστον σε ορισμένες περιπτώσεις.
- Ο κυριότερος λόγος για τον οποίο οι εργαζόμενοι αποφασίζουν να παρακάμψουν μια σύσταση της ΤΝ, ανεξάρτητα από το εάν το αποτέλεσμά της θεωρείται σωστό, είναι η αδυναμία του συστήματος να εξηγήσει το σκεπτικό πίσω από την απόφασή του.
- Το επίπεδο εμπιστοσύνης μειώνεται από 76% για την παραγωγική ΤΝ σε 66% για την agentic AI, αναδεικνύοντας τις αυξανόμενες ανησυχίες καθώς τα συστήματα ΤΝ αποκτούν μεγαλύτερη αυτονομία.
2. Οι πρακτικές αξιόπιστης ΤΝ ενισχύουν την επιχειρηματική επιτυχία
Η έκθεση αναδεικνύει ένα διευρυμένο χάσμα ως προς την απόδοση επένδυσης ανάμεσα στους οργανισμούς που δίνουν προτεραιότητα στις πρακτικές αξιόπιστης ΤΝ και σε εκείνους που δεν το κάνουν. Σύμφωνα με τα ευρήματα, οι οργανισμοί που αντλούν τη μεγαλύτερη αξία από την ΤΝ δεν χρησιμοποιούν κατ’ ανάγκη διαφορετικές τεχνολογίες· τη διαχειρίζονται, όμως, με διαφορετικό τρόπο.
Βασικά ευρήματα:
- Οι οργανισμοί που επενδύουν σε μέτρα αξιόπιστης ΤΝ έχουν 15 φορές περισσότερες πιθανότητες να αναφέρουν ισχυρή ή υψηλή απόδοση επένδυσης από τα έργα ΤΝ τους (62% έναντι 4%).
- Οι οργανισμοί με τις ισχυρότερες πρακτικές αξιόπιστης ΤΝ καταγράφουν 1,85 φορές μεγαλύτερα οφέλη σε 13 διαφορετικά επιχειρηματικά αποτελέσματα, μεταξύ των οποίων η αύξηση εσόδων, η εξοικονόμηση κόστους και η πελατειακή εμπειρία.
- Το 85% των οργανισμών που πρωτοπορούν στην ΤΝ και εφαρμόζουν πρακτικές αξιόπιστης ΤΝ, αυξάνει φέτος τις σχετικές επενδύσεις του κατά περισσότερο από 10%, διευρύνοντας ενεργά το χάσμα επιδόσεων.
3. Οι ανεπαρκείς υποδομές δεδομένων κοστίζουν στους οργανισμούς χρόνο και χρήμα
Οι περισσότεροι οργανισμοί αναπτύσσουν εφαρμογές ΤΝ πάνω σε εξαιρετικά ανεπαρκή ή παρωχημένα δεδομένα και υποδομές δεδομένων. Χωρίς μια ισχυρή βάση δεδομένων που να υποστηρίζει την απαραίτητη διαφάνεια και επεξηγησιμότητα, δυσκολεύονται να διακυβερνήσουν αποτελεσματικά την ΤΝ και να αποκομίσουν αξία.
Βασικά ευρήματα:
- Μόνο το 17,5% των επιχειρήσεων διαθέτει πλήρως βελτιστοποιημένη υποδομή δεδομένων, αρκετά ώριμη ώστε να ανταποκρίνεται στις απαιτήσεις της agentic AI, γεγονός που επηρεάζει αρνητικά τις επιδόσεις.
- Οι οργανισμοί με βελτιστοποιημένη βάση δεδομένων έχουν τέσσερις φορές περισσότερες πιθανότητες να αναμένουν υψηλή απόδοση επένδυσης από έργα ΤΝ και έξι φορές περισσότερες πιθανότητες να επιβάλλουν τους ελέγχους ποιότητας δεδομένων και επεξηγησιμότητας που απαιτούνται για την οικοδόμηση εμπιστοσύνης.
Αναλυτικότερα ευρήματα της έρευνας
Τα ευρήματα βασίζονται σε παγκόσμια έρευνα στην οποία συμμετείχαν 2.699 στελέχη που γνωρίζουν ή επηρεάζουν τις πρωτοβουλίες δεδομένων και ΤΝ των εταιρειών τους. Η έρευνα διεξήχθη σε 28 χώρες και επικεντρώθηκε σε τέσσερις κλάδους: τις τράπεζες, τις ασφαλιστικές εταιρείες, τις βιοεπιστήμες και τον δημόσιο τομέα. Η έκθεση παρουσιάζει περιπτώσεις εφαρμογής και ευρήματα ανά κλάδο, αναδεικνύοντας τον τρόπο με τον οποίο οι πρωτοπόροι σε αυτούς τους τομείς προσεγγίζουν την ΤΝ διεθνώς.
Βασικά ευρήματα:
- Οι πρωτοπόρες τράπεζες προχωρούν πέρα από την απλή συμμόρφωση, αντιμετωπίζοντας την ισχυρή διακυβέρνηση της ΤΝ ως ανταγωνιστικό πλεονέκτημα και επιχειρησιακή αναγκαιότητα: το 85% των τραπεζών που πρωτοπορούν στην ΤΝ έχει θεσπίσει πλαίσια διακυβέρνησης, έναντι μόλις 29% των τραπεζών που υστερούν.
- Το 41% των πρωτοπόρων του δημόσιου τομέα αυξάνει κατά περισσότερο από 20% τις επενδύσεις του στην αξιόπιστη ΤΝ για το επόμενο έτος, ρυθμός αντίστοιχος με εκείνον των πιο φιλόδοξων οργανισμών σε οποιονδήποτε κλάδο.
- Το 23% των οργανισμών βιοεπιστημών έχει κλιμακώσει την ΤΝ σε ολόκληρη την επιχείρηση, το υψηλότερο ποσοστό από κάθε άλλο κλάδο.
Δείτε αναλυτικά τα ευρήματα της μελέτης και αποκτήστε πρόσβαση στην πλήρη έκθεση στο https://www.sas.com/ai-impact.
Τι καθιστά την ΤΝ αξιόπιστη;
Ως αξιόπιστη ΤΝ ορίζεται η τεχνητή νοημοσύνη που έχει σχεδιαστεί ώστε να είναι αξιόπιστη, δίκαιη, ασφαλής, σύμφωνη με τις κανονιστικές απαιτήσεις και ικανή να εξηγεί με σαφήνεια πώς κατέληξε σε μια απόφαση. Οι χρήστες και τα στελέχη που λαμβάνουν αποφάσεις, σε όλα τα επίπεδα ενός οργανισμού, πρέπει να μπορούν να αποδίδουν ευθύνες βάσει ενός προκαθορισμένου πλαισίου λογοδοσίας σε περιπτώσεις λανθασμένων ή ελλιπών αποτελεσμάτων της ΤΝ. Κάθε σύστημα ΤΝ πρέπει επίσης να υπόκειται σε διακυβέρνηση και να αποδεικνύεται ότι συμμορφώνεται με σαφείς κανόνες.
Τι χαρακτηρίζει έναν οργανισμό που πρωτοπορεί στην αξιόπιστη ΤΝ;
Στο πλαίσιο της έρευνας, οι οργανισμοί βαθμολογήθηκαν με άριστα το 100 σε πέντε διαστάσεις της αξιόπιστης ΤΝ. Ως πρωτοπόροι στην αξιόπιστη ΤΝ χαρακτηρίστηκαν οι οργανισμοί με μέση συνολική βαθμολογία 80 ή υψηλότερη.
Η αξιολόγηση κάθε οργανισμού βασίστηκε στα ακόλουθα πέντε κριτήρια:
- Ποιότητα και διακυβέρνηση δεδομένων.
- Διακυβέρνηση και εποπτεία μοντέλων.
- Επεξηγησιμότητα και αμεροληψία.
- Πολιτική υπεύθυνης ΤΝ.
- Έλεγχος και λογοδοσία.
