Σύμφωνα με πληροφορίες από το Ευρωπαϊκό Κοινοβούλιο, συμφωνήθηκαν εγγυήσεις για την τεχνητή νοημοσύνη γενικού σκοπού:
- Περιορισμός για τη χρήση συστημάτων βιομετρικής ταυτοποίησης από τις αρχές επιβολής του νόμου
- Απαγόρευση της κοινωνικής βαθμολόγησης και της τεχνητής νοημοσύνης που χρησιμοποιούνται για τη χειραγώγηση ή την εκμετάλλευση των τρωτών σημείων των χρηστών
- Δικαίωμα των καταναλωτών να υποβάλλουν καταγγελίες και να λαμβάνουν ουσιαστικές εξηγήσεις
- Πρόστιμα που κυμαίνονται από 35 εκατ. ευρώ ή 7% του παγκόσμιου κύκλου εργασιών έως 7,5 εκατ. ευρώ ή 1,5% του κύκλου εργασιών
Οι ευρωβουλευτές κατέληξαν σε πολιτική συμφωνία με το Συμβούλιο για ένα νομοσχέδιο που θα διασφαλίζει ότι η ΤΝ στην Ευρώπη είναι ασφαλής, σέβεται τα θεμελιώδη δικαιώματα και τη δημοκρατία, ενώ οι επιχειρήσεις μπορούν να ευημερούν και να επεκτείνονται.
Την Παρασκευή, οι διαπραγματευτές του Κοινοβουλίου και του Συμβουλίου κατέληξαν σε προσωρινή συμφωνία σχετικά με την πράξη για την τεχνητή νοημοσύνη.
Ο κανονισμός αυτός αποσκοπεί να διασφαλίσει ότι τα θεμελιώδη δικαιώματα, η δημοκρατία, το κράτος δικαίου και η περιβαλλοντική βιωσιμότητα προστατεύονται από την τεχνητή νοημοσύνη υψηλού κινδύνου, ενώ παράλληλα ενισχύει την καινοτομία και καθιστά την Ευρώπη ηγέτη στον τομέα αυτό. Οι κανόνες θεσπίζουν υποχρεώσεις για την τεχνητή νοημοσύνη με βάση τους δυνητικούς κινδύνους και το επίπεδο των επιπτώσεών της.
Απαγορευμένες εφαρμογές
Αναγνωρίζοντας τη δυνητική απειλή για τα δικαιώματα των πολιτών και τη δημοκρατία από ορισμένες εφαρμογές της ΤΝ, οι συννομοθέτες συμφώνησαν να απαγορεύσουν:
- συστήματα βιομετρικής κατηγοριοποίησης που χρησιμοποιούν ευαίσθητα χαρακτηριστικά (π.χ. πολιτικές, θρησκευτικές, φιλοσοφικές πεποιθήσεις, σεξουαλικός προσανατολισμός, φυλή),
- μη στοχευμένη απόσπαση εικόνων προσώπου από το διαδίκτυο ή υλικό από κάμερες κλειστού κυκλώματος παρακολούθησης για τη δημιουργία βάσεων δεδομένων αναγνώρισης προσώπου,
- αναγνώριση συναισθημάτων στο χώρο εργασίας και στα εκπαιδευτικά ιδρύματα,
- κοινωνική βαθμολόγηση βάσει κοινωνικής συμπεριφοράς ή προσωπικών χαρακτηριστικών,
- συστήματα τεχνητής νοημοσύνης που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούλησή τους,
- Τεχνητή νοημοσύνη που χρησιμοποιείται για την εκμετάλλευση των τρωτών σημείων των ανθρώπων (λόγω ηλικίας, αναπηρίας, κοινωνικής ή οικονομικής κατάστασης).
Εξαιρέσεις από την επιβολή του νόμου
Οι διαπραγματευτές συμφώνησαν σε μια σειρά από διασφαλίσεις και στενές εξαιρέσεις για τη χρήση συστημάτων βιομετρικής ταυτοποίησης (ΣΒΤ) σε χώρους προσβάσιμους στο κοινό για σκοπούς επιβολής του νόμου, με την επιφύλαξη προηγούμενης δικαστικής άδειας και για αυστηρά καθορισμένους καταλόγους εγκλημάτων. Το "μετα-μακρυσμένο" RBI θα χρησιμοποιείται αυστηρά για τη στοχευμένη αναζήτηση προσώπου που έχει καταδικαστεί ή είναι ύποπτο για τη διάπραξη σοβαρού εγκλήματος.
Το RBI "πραγματικού χρόνου" θα συμμορφώνεται με αυστηρούς όρους και η χρήση του θα είναι περιορισμένη χρονικά και τοπικά, για τους εξής σκοπούς:
- στοχευμένες αναζητήσεις θυμάτων (απαγωγή, εμπορία ανθρώπων, σεξουαλική εκμετάλλευση),
- πρόληψη συγκεκριμένης και παρούσας τρομοκρατικής απειλής, ή
- τον εντοπισμό ή την ταυτοποίηση προσώπου που είναι ύποπτο για τη διάπραξη ενός από τα συγκεκριμένα εγκλήματα που αναφέρονται στον κανονισμό (π.χ. τρομοκρατία, εμπορία ανθρώπων, σεξουαλική εκμετάλλευση, δολοφονία, απαγωγή, βιασμός, ένοπλη ληστεία, συμμετοχή σε εγκληματική οργάνωση, περιβαλλοντικό έγκλημα).
Υποχρεώσεις για συστήματα υψηλού κινδύνου
Για τα συστήματα ΤΝ που ταξινομούνται ως υψηλού κινδύνου (λόγω της σημαντικής δυνητικής βλάβης που μπορεί να προκαλέσουν στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου), συμφωνήθηκαν σαφείς υποχρεώσεις. Οι ευρωβουλευτές κατόρθωσαν με επιτυχία να συμπεριλάβουν, μεταξύ άλλων απαιτήσεων, μια υποχρεωτική εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα, η οποία θα ισχύει και για τον ασφαλιστικό και τον τραπεζικό τομέα. Τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται για να επηρεάσουν το αποτέλεσμα των εκλογών και τη συμπεριφορά των ψηφοφόρων, ταξινομούνται επίσης ως υψηλού κινδύνου. Οι πολίτες θα έχουν το δικαίωμα να υποβάλλουν καταγγελίες σχετικά με τα συστήματα ΤΝ και να λαμβάνουν εξηγήσεις σχετικά με τις αποφάσεις που βασίζονται σε συστήματα ΤΝ υψηλού κινδύνου και επηρεάζουν τα δικαιώματά τους.
Προστατευτικές μπάρες για γενικά συστήματα τεχνητής νοημοσύνης
Για να ληφθεί υπόψη το ευρύ φάσμα εργασιών που μπορούν να επιτελέσουν τα συστήματα τεχνητής νοημοσύνης και η ταχεία επέκταση των δυνατοτήτων της, συμφωνήθηκε ότι τα συστήματα τεχνητής νοημοσύνης γενικού σκοπού (ΓΓΑΙΥ) και τα μοντέλα ΓΓΑΙΥ στα οποία βασίζονται θα πρέπει να τηρούν τις απαιτήσεις διαφάνειας, όπως είχε αρχικά προτείνει το Κοινοβούλιο. Αυτές περιλαμβάνουν τη σύνταξη τεχνικής τεκμηρίωσης, τη συμμόρφωση με τη νομοθεσία της ΕΕ περί πνευματικών δικαιωμάτων και τη διάδοση λεπτομερών περιλήψεων σχετικά με το περιεχόμενο που χρησιμοποιείται για την εκπαίδευση.
Για τα μοντέλα ΓΓΠΙ υψηλής επίπτωσης με συστημικό κίνδυνο, οι διαπραγματευτές του Κοινοβουλίου κατάφεραν να εξασφαλίσουν αυστηρότερες υποχρεώσεις. Εάν τα εν λόγω μοντέλα πληρούν ορισμένα κριτήρια, θα πρέπει να διενεργούν αξιολογήσεις μοντέλων, να αξιολογούν και να μετριάζουν τους συστημικούς κινδύνους, να διεξάγουν αντιπαραθετικές δοκιμές, να υποβάλλουν εκθέσεις στην Επιτροπή για σοβαρά περιστατικά, να διασφαλίζουν την ασφάλεια στον κυβερνοχώρο και να υποβάλλουν εκθέσεις σχετικά με την ενεργειακή τους απόδοση. Οι ευρωβουλευτές επέμειναν επίσης ότι, έως ότου δημοσιευθούν εναρμονισμένα πρότυπα της ΕΕ, τα ΓΑΚΙ με συστημικό κίνδυνο μπορούν να βασίζονται σε κώδικες πρακτικής για τη συμμόρφωση με τον κανονισμό.
Μέτρα για τη στήριξη της καινοτομίας και των ΜΜΕ
Οι ευρωβουλευτές θέλησαν να διασφαλίσουν ότι οι επιχειρήσεις, ιδίως οι ΜΜΕ, μπορούν να αναπτύξουν λύσεις ΤΝ χωρίς αδικαιολόγητη πίεση από βιομηχανικούς γίγαντες που ελέγχουν την αλυσίδα αξίας. Για το σκοπό αυτό, η συμφωνία προωθεί τα λεγόμενα ρυθμιστικά sandboxes και τις δοκιμές σε πραγματικές συνθήκες, που δημιουργούνται από τις εθνικές αρχές για την ανάπτυξη και την εκπαίδευση καινοτόμων ΤΝ πριν από τη διάθεσή τους στην αγορά.
Κυρώσεις και έναρξη ισχύος
Η μη συμμόρφωση με τους κανόνες μπορεί να οδηγήσει σε πρόστιμα που κυμαίνονται από 35 εκατομμύρια ευρώ ή 7% του παγκόσμιου κύκλου εργασιών έως 7,5 εκατομμύρια ευρώ ή 1,5 % του κύκλου εργασιών, ανάλογα με την παράβαση και το μέγεθος της εταιρείας.
Το συμφωνηθέν κείμενο θα πρέπει τώρα να εγκριθεί επίσημα τόσο από το Κοινοβούλιο όσο και από το Συμβούλιο για να γίνει νόμος της ΕΕ. Οι επιτροπές Εσωτερικής Αγοράς και Πολιτικών Ελευθεριών του Κοινοβουλίου θα ψηφίσουν επί της συμφωνίας σε προσεχή συνεδρίαση.
