Όπως ήταν προγραμματισμένο, η επιτροπή Πολιτικών Ελευθεριών του Ευρωπαϊκού Κοινοβουλίου συνεδρίασε για τη χρήση της τεχνητής νοημοσύνης, καταλήγοντας στην απόφαση ότι η χρήση της τεχνητής νοημοσύνης στην επιβολή του νόμου και στην άσκηση της δικαιοσύνης πρέπει να υπόκειται σε σοβαρές διασφαλίσεις, ως προς τις ελευθερίες των πολιτών και η ανθρώπινη εποπτεία να έχει πάντοτε τον πρώτο λόγο.
Μέτρα κατά των διακρίσεων
Οι ευρωβουλευτές ανησυχούν ότι η χρήση συστημάτων τεχνητής νοημοσύνης (AI) στην αστυνόμευση θα μπορούσε, ενδεχομένως, να οδηγήσει σε μαζική παρακολούθηση, παραβιάζοντας βασικές αρχές της ΕΕ της αναλογικότητας και της αναγκαιότητας. Η επιτροπή προειδοποιεί ότι διαφορετικά οι νόμιμες αιτήσεις τεχνητής νοημοσύνης θα μπορούσαν να επαναπροσδιοριστούν για μαζική παρακολούθηση.
Το σχέδιο ψηφίσματος υπογραμμίζει τη δυνατότητα προκατάληψης και διακρίσεων στους αλγόριθμους στους οποίους βασίζονται τα συστήματα AI. Καθώς τα αποτελέσματα ενός συστήματος εξαρτώνται από τις εισόδους του (όπως τα δεδομένα εκπαίδευσης), είναι σημαντικό να ληφθεί υπόψη η μεροληψία του αλγορίθμου. Επί του παρόντος, τα συστήματα ταυτοποίησης που βασίζονται σε τεχνητή νοημοσύνη είναι ανακριβή και μπορούν να εντοπίσουν εσφαλμένα εθνοτικές ομάδες μειονότητες, άτομα ΛΟΑΤΚΙ, ηλικιωμένους και γυναίκες, μεταξύ άλλων ομάδων. Επιπλέον, οι προβλέψεις που υποστηρίζονται από την τεχνητή νοημοσύνη μπορούν να ενισχύσουν τις υπάρχουσες διακρίσεις, μια ανησυχία στο πλαίσιο της επιβολής του νόμου και της δικαστικής λειτουργίας.
Χρήση αναγνώρισης προσώπου και άλλων βιομετρικών δεδομένων από την αστυνομία και το δικαστικό σώμα
Σχετικά με τις συγκεκριμένες τεχνικές που διαθέτει η αστυνομία και το δικαστικό σώμα, η επιτροπή σημειώνει ότι το AI δεν πρέπει να χρησιμοποιείται για την πρόβλεψη συμπεριφοράς βάσει προηγούμενων ενεργειών ή χαρακτηριστικών ομάδων. Όσον αφορά την αναγνώριση προσώπου, οι ευρωβουλευτές σημειώνουν ότι διαφορετικά συστήματα έχουν διαφορετικές επιπτώσεις. Απαιτούν μια μόνιμη απαγόρευση της χρήσης βιομετρικών λεπτομερειών όπως βάδισμα, δακτυλικά αποτυπώματα, DNA ή φωνή για την αναγνώριση ατόμων σε δημόσιους χώρους.
Η επιτροπή θέλει να απαγορεύσει στην επιβολή του νόμου τη χρήση ιδιωτικών βάσεων δεδομένων αναγνώρισης προσώπου, όπως η ήδη χρησιμοποιούμενη Clearview AI. Οι ευρωβουλευτές ζητούν επίσης απαγόρευση εκχώρησης βαθμολογίας σε πολίτες, βάσει της τεχνητής νοημοσύνης, τονίζοντας ότι θα παραβίαζε τις βασικές αρχές της ανθρώπινης αξιοπρέπειας. Τέλος, η αναγνώριση προσώπου δεν πρέπει να χρησιμοποιείται για την ταυτοποίηση, έως ότου τέτοια συστήματα να συμμορφώνονται με την προστασία των θεμελιωδών δικαιωμάτων, δηλώνουν οι ευρωβουλευτές.
Η χρήση βιομετρικών δεδομένων για απομακρυσμένη αναγνώριση προκαλεί ιδιαίτερη ανησυχία στους ευρωβουλευτές. Για παράδειγμα, οι διασυνοριακοί έλεγχοι αυτοματοποιημένης αναγνώρισης και το πρότζεκτ iBorderCtrl (ένα «έξυπνο σύστημα ανίχνευσης ψεύδους» για την είσοδο ταξιδιωτών στην ΕΕ) είναι προβληματικά και πρέπει να διακοπούν, λένε οι ευρωβουλευτές, οι οποίοι παροτρύνουν την Ευρωπαϊκή Επιτροπή να κινήσει διαδικασίες παραβίασης, εναντίον κρατών-μελών, εάν κριθεί απαραίτητο.
Η ολομέλεια θα πάρει θέση την ερχόμενη βδομάδα
Στο σχέδιο έκθεσης που εγκρίθηκε με 36 ψήφους υπέρ, 24 και 6 αποχές, οι ευρωβουλευτές υπογραμμίζουν την ανάγκη για δημοκρατικές εγγυήσεις και λογοδοσία για τη χρήση της Τεχνητής Νοημοσύνης στην επιβολή του νόμου. Στις 5-8 Ιούλη, που είναι η προγραμματισμένη ολομέλεια, δηλαδή την ερχόμενη βδομάδα, θα ακολουθήσει η συζήτηση επί της έκθεσης της επιτροπής.