Η Flock Safety δοκιμάζει ένα νέο εργαλείο που μετατρέπει την αναζήτηση σε βάσεις δεδομένων αστυνόμευσης σε συνομιλία με AI. Η δυνατότητα να εντοπίζονται μοτίβα μετακίνησης, πιθανοί «συνεργοί» και άνθρωποι που ταιριάζουν σε μια περιγραφή μπορεί να βοηθήσει μια έρευνα, αλλά ταυτόχρονα μετακινεί το όριο από την αναζήτηση ενός συγκεκριμένου οχήματος στη χαρτογράφηση ανθρώπων και σχέσεων.
Από την πινακίδα στο «βρες μου ένα μοτίβο»
Σύμφωνα με την έρευνα του WIRED, το OS Investigate εμφανίζεται ως ξεχωριστό προϊόν από το δίκτυο καμερών αναγνώρισης πινακίδων της Flock. Ο κώδικας που ανέλυσαν οι δημοσιογράφοι περιγράφει ένα περιβάλλον όπου ο αστυνομικός μπορεί να δώσει τοποθεσία, χρονικό παράθυρο ή συμπεριφορά, χωρίς να ξεκινήσει απαραίτητα από συγκεκριμένο αριθμό πινακίδας ή γνωστό περιστατικό.
Ενδεικτικές αναζητήσεις αφορούν οχήματα που επισκέφθηκαν πολλά καταστήματα, τράπεζες ή πρατήρια σε συγκεκριμένες ημέρες, καθώς και διαδρομές που επαναλήφθηκαν ανάμεσα σε πόλεις. Υπάρχει ακόμη φίλτρο που εξαιρεί λεωφορεία, φορτηγά και οχήματα εργασίας, ώστε η αναζήτηση να εστιάζει στα ΙΧ.
Αυτό δεν σημαίνει ότι κάθε τέτοιο ερώτημα παράγει αυτομάτως αξιόπιστη απόδειξη. Σημαίνει, όμως, ότι ένα σύστημα μπορεί να προτείνει «ενδιαφέρουσες» κινήσεις σε ανθρώπους που δεν ήταν εξαρχής ύποπτοι. Η διαφορά είναι κρίσιμη: η τεχνολογία δεν απαντά μόνο στο «πού ήταν αυτό το όχημα;», αλλά μπορεί να οδηγήσει στο «ποιοι κινούνται με τρόπο που το σύστημα θεωρεί ασυνήθιστο;».
Η μηχανή βρίσκει και «συνεργάτες»
Ένα από τα παραδείγματα που εντόπισε το WIRED ξεκινά από μία πινακίδα και ζητά από το σύστημα να σχεδιάσει τις διαδρομές του οχήματος και των τριών συχνότερων «συνεργατών» του. Η κατάταξη βασίζεται στο πόσο συχνά άλλες πινακίδες εμφανίζονται στις ίδιες κάμερες μέσα σε χρονικό παράθυρο δύο λεπτών. Με αυτή τη λογική, το εργαλείο μπορεί να προτείνει έως και 20 οχήματα.
Η λέξη «συνεργάτες» εδώ δεν περιγράφει αποδεδειγμένη σχέση μεταξύ ανθρώπων. Περιγράφει συσχέτιση οχημάτων. Δύο οδηγοί μπορεί να συναντιούνται επειδή εργάζονται στην ίδια περιοχή, χρησιμοποιούν τον ίδιο δρόμο ή βρίσκονται συχνά σε έναν κοινό χώρο. Όταν όμως μια αλγοριθμική υπόδειξη μπαίνει σε μια αστυνομική έρευνα, η αρχική υπόθεση μπορεί εύκολα να αποκτήσει το βάρος γεγονότος.
Το ίδιο πρόβλημα εμφανίζεται όταν οι αναζητήσεις συνδέονται με άλλα δεδομένα. Ο κώδικας που εξετάστηκε περιγράφει διασταύρωση με αστυνομικά αρχεία και αναζητήσεις βάσει χαρακτηριστικών όπως φύλο, φυλή, εθνικότητα, ύψος, βάρος, σωματότυπος, ουλές ή τατουάζ. Μια περιγραφή όπως «άνδρας με μαύρη μπλούζα και τατουάζ στο αντιβράχιο» μπορεί να χρησιμοποιηθεί μαζί με γεωγραφικά όρια που σχεδιάζει ο χειριστής στον χάρτη.
Το πρόβλημα δεν είναι μόνο η ακρίβεια
Η δημόσια συζήτηση για την AI συχνά εστιάζει στο αν το μοντέλο κάνει λάθη. Στην αστυνόμευση, όμως, προηγείται ένα άλλο ερώτημα: αν έπρεπε εξαρχής να γίνει η συγκεκριμένη αναζήτηση. Ένα σύστημα μπορεί να λειτουργεί τεχνικά όπως σχεδιάστηκε και παρ’ όλα αυτά να διευκολύνει αδικαιολόγητη επιτήρηση.
Το WIRED αναφέρει ότι, πριν από την εκτέλεση μιας αναζήτησης, το περιβάλλον μπορεί να ζητά αιτιολόγηση. Ωστόσο, ο κώδικας δείχνει ότι το πεδίο αιτιολογίας δεν απαιτεί κατ’ ανάγκη συγκεκριμένο περιεχόμενο ή επαρκές μήκος. Η ύπαρξη ενός πεδίου δεν ισοδυναμεί με ουσιαστικό έλεγχο.
Η ανησυχία γίνεται μεγαλύτερη επειδή ο χειριστής μπορεί να τροποποιήσει ή να αντικαταστήσει τις προτεινόμενες εντολές. Η διατύπωση «βρες εγκληματικά μοτίβα» δεν είναι ίδια με τη διατύπωση «υπάρχουν εγκληματικά μοτίβα;». Το πρώτο ερώτημα ωθεί το σύστημα να αναζητήσει κάτι που θεωρείται ήδη δεδομένο και αφήνει περισσότερο χώρο για επιβεβαίωση προκαταλήψεων.
Τι σημαίνει για την Ελλάδα
Η υπόθεση αφορά τις Ηνωμένες Πολιτείες και δεν αποτελεί απόδειξη ότι το ίδιο εργαλείο χρησιμοποιείται στην Ελλάδα. Είναι, όμως, ένα χρήσιμο τεστ για το πώς θα αντιμετωπιστούν παρόμοιες τεχνολογίες αν προταθούν σε ελληνικές πόλεις, λιμάνια, αυτοκινητοδρόμους ή υποδομές ασφαλείας.
Το κρίσιμο δεν είναι μόνο ποιος έχει πρόσβαση στις κάμερες. Χρειάζονται σαφής σκοπός χρήσης, αυστηρά όρια στις αναζητήσεις, καταγραφή και ανεξάρτητος έλεγχος κάθε ερωτήματος, καθώς και πραγματικές κυρώσεις για κατάχρηση. Οι πολίτες πρέπει να μπορούν να γνωρίζουν ποια δεδομένα συλλέγονται, για πόσο διατηρούνται και με ποιους φορείς διαμοιράζονται.
Η ευρωπαϊκή νομοθεσία για την προστασία προσωπικών δεδομένων και οι κανόνες για την τεχνητή νοημοσύνη δεν κάνουν μια αναζήτηση νόμιμη απλώς επειδή πραγματοποιείται από λογισμικό. Η αναγκαιότητα, η αναλογικότητα και η λογοδοσία παραμένουν ανθρώπινες και θεσμικές ευθύνες.
Η γραμμή ανάμεσα στη διερεύνηση και την επιτήρηση
Η Flock υποστηρίζει ότι το OS Investigate είναι διαφορετικό από την τεχνολογία αναγνώρισης πινακίδων και ότι οι δυνατότητες και οι ροές εργασίας του μπορεί να αλλάξουν πριν από την ευρύτερη κυκλοφορία. Η ίδια η εταιρεία έχει επίσης παρουσιάσει τα συστήματά της ως εργαλεία για συγκεκριμένες έρευνες και όχι για συνεχή παρακολούθηση ανθρώπων.
Ακριβώς γι’ αυτό η αξιολόγηση πρέπει να γίνει πριν από την κανονικοποίηση της χρήσης. Όταν η αναζήτηση γίνεται εύκολη όσο μια συνομιλία, ο πειρασμός να χρησιμοποιείται σε κάθε ασαφή υπόθεση μεγαλώνει. Το ζητούμενο δεν είναι να απαγορευτεί κάθε τεχνολογικό εργαλείο στις αρχές, αλλά να μην αφήνεται ένας αλγόριθμος να ορίζει μόνος του ποιος φαίνεται ύποπτος.
Η πραγματική πρόκληση της AI στην αστυνόμευση δεν είναι αν μπορεί να συνδέσει περισσότερα δεδομένα. Είναι αν οι θεσμοί μπορούν να αποδείξουν ότι κάθε σύνδεση ήταν αναγκαία, νόμιμη και ελέγξιμη.
Πηγή: WIRED