Μπορεί να μην λειτουργεί τόσο καλά όσο το ρούχο του Χάρι Πότερ ή τα φίλτρα που μεταμορφώνουν άλλους αφανείς ήρωες στα βιβλία και στην οθόνη, αλλά το ιδιότυπο «ένδυμα» που δημιούργησαν επιστήμονες από το Πανεπιστήμιο του Maryland, College Park, σε συνεργασία με το Facebook AI, πράγματι εμποδίζει τα κοινά μοντέλα μηχανικής εκμάθησης να μας αναγνωρίσουν.
«Αυτή η εργασία μελετά την τέχνη και την επιστήμη της δημιουργίας αντιπαραθετικών επιθέσεων σε ανιχνευτές αντικειμένων», εξηγεί η ομάδα για το έργο της. Σύμφωνα με τους ερευνητές, οι περισσότερες εργασίες σε πραγματικές επιθέσεις στη λειτουργία συστημάτων μηχανικής μάθησης έχουν επικεντρωθεί σε ταξινομητές, οι οποίοι προσδίδουν μια ολιστική ετικέτα σε μια ολόκληρη εικόνα, αντί σε ανιχνευτές που εντοπίζουν αντικείμενα μέσα σε μια εικόνα. «Οι ανιχνευτές λειτουργούν λαμβάνοντας υπόψη χιλιάδες “priors” (πιθανά πλαίσια που περιλαμβάνουν πλήρως ένα αντικείμενο) εντός της εικόνας με διαφορετικές τοποθεσίες, μεγέθη και αναλογίες. Για να ξεγελάσει κάποιος έναν ανιχνευτή αντικειμένων, ένα αντιπαραθετικό παράδειγμα πρέπει να ξεγελάσει κάθε prior στην εικόνα, κάτι που είναι πολύ πιο δύσκολο από το να ξεγελάσει κανείς τη μεμονωμένη έξοδο ενός ταξινομητή», συμπληρώνουν.
Πιο δύσκολο μπορεί αν είναι, σίγουρα, αλλά οι ερευνητές απέδειξαν ότι δεν είναι αδύνατο. Ως μέρος μιας ευρύτερης έρευνας για αντιπαραθετικές επιθέσεις σε ανιχνευτές, η ομάδα πέτυχε να δημιουργήσει ένα ρούχο, το οποίο είχε το ασυνήθιστο αποτέλεσμα να κάνει τον χρήστη εντελώς αόρατο από ένα μοντέλο ανίχνευσης ατόμων.
«Αυτός ο κομψός μανδύας που μοιάζει με φούτερ είναι ένας πολύ καλός τρόπος για να παραμείνετε ζεστοί αυτόν τον χειμώνα, είτε βρίσκεστε στο γραφείο είτε εν κινήσει. Διαθέτει επένδυση από microfleece που μένει στεγνή, μοντέρνα εφαρμογή και αντιπαραθετικά μοτίβα (adversarial)», λένε οι ερευνητές. Σε σχετική επίδειξη τους, ο ανιχνευτής YOLOv2 παρακάμπτεται χρησιμοποιώντας ένα μοτίβο εκπαιδευμένο στο σύνολο δεδομένων COCO με έναν προσεκτικά κατασκευασμένο στόχο.
Αρχικά, η εργασία της ομάδας επικεντρώθηκε σε προσομοιωμένες επιθέσεις δημιουργώντας ένα “adversarial pattern,” το οποίο θα μπορούσε να εφαρμοστεί σε αντικείμενα που ανιχνεύτηκαν μέσα σε μια δεδομένη εικόνα για να αποτρέψει το μοντέλο να τα αναγνωρίσει. Το κλειδί ήταν η δημιουργία ενός “universal adversarial patch”, ενός ενιαίου μοτίβου που θα μπορούσε να εφαρμοστεί σε οποιοδήποτε αντικείμενο για να το κρύψει από το μοντέλο. Αν και είναι εύκολο να γίνει ανταλλαγή μοτίβων στην προσομοίωση, είναι πιο δύσκολο στον πραγματικό κόσμο ειδικά όταν εκτυπώνεται το μοτίβο σε ένα πουλόβερ. Η επίθεση λειτουργεί τοποθετώντας “patches” με σχέδια πάνω από τα αντικείμενα που πρέπει να αγνοηθούν.
Και μπορεί το «φούτερ» της ομάδας να είναι ίσως η πιο εντυπωσιακή επίδειξη των επιθέσεων, ωστόσο δεν είναι η μόνη. Δέκα patches εκτυπώθηκαν σε αφίσες και τοποθετήθηκαν σε 15 τοποθεσίες, υποβαθμίζοντας την απόδοση των ανιχνευτών στα σημεία όπου υπήρχαν οι αφίσες. Δοκιμάζοντας την ιδέα σε «χάρτινες κούκλες» που θα μπορούσαν να ντυθούν με διαφορετικά μπαλώματα, η ομάδα κατέληξε σε μια σειρά ρούχων τύπου «αόρατου πουλόβερ», διαπιστώνοντας ότι «υποβαθμίζουν σημαντικά την απόδοση των ανιχνευτών» σε σύγκριση με τα κανονικά ρούχα.
Για όποιον ελπίζει να γίνει πραγματικά αόρατος, ωστόσο, υπάρχει ένα “catch”. Σε σύγκριση με τις επιθέσεις εναντίον απλών ταξινομητών, οι επιθέσεις ανιχνευτών αποδείχθηκαν λιγότερο αξιόπιστες. Στη δοκιμή φορητών συσκευών, τα ανταγωνιστικά φούτερ με στόχευση YOLOv2 σημείωσαν ποσοστό επιτυχίας περίπου 50%.
«Το συγκεκριμένο θέμα έχει ιδιαίτερο ενδιαφέρον, καθώς στην προκειμένη περίπτωση ο σκοπός είναι η επίτευξη της ιδιωτικότητάς από αλγορίθμους μηχανικής μάθησης που έχουν τη δύναμη να μας εντοπίζουν οπουδήποτε σε μία εικόνα. Ωστόσο, οι κακόβουλες αντιπαραθετικές επιθέσεις, όπως αυτές που ξεγελούν τα φίλτρα spam στην ηλεκτρονική αλληλογραφία ή αυτές που ξεγελούν σημάδια stop για έξυπνα αυτοκίνητα μπορούν να αποβούν πολύ επικίνδυνες. Η ανάπτυξη του τομέα των αντιπαραθετικών επιθέσεων ώστε να αξιοποιηθούν για αντιπαραθετική εκπαίδευση στα μοντέλα τεχνητής νοημοσύνης είναι κρίσιμη ώστε να αντιμετωπιστούν αυτά τα προβλήματα. Το μόνο βέβαιο είναι πως από τα παραπάνω φαίνεται πόσο σημαντικός θα είναι ο κλάδος της AI ηθικής στο εγγύς μέλλον» σχολιάζει ο Υποψήφιος Διδάκτωρ του Τμήματος Ηλεκτρολόγων Μηχανικών του ΑΠΘ, Βασίλης Παπανικολάου.
Πηγή:University of Maryland
