Πώς θα νιώθατε αν οι φανοστάτες στον δρόμο σας μπορούσαν να αναγνωρίσουν την πινακίδα του αυτοκινήτου σας και το πρόσωπό σας; Ίσως να μην σας πείραζε, δεδομένου του πόσο καιρό έχουμε αυτόματη αναγνώριση πινακίδων και κλειστά κυκλώματα τηλεόρασης (CCTV). Αλλά τι θα γινόταν αν αυτός ο φανοστάτης μπορούσε να τροφοδοτείται μόνος του με ηλιακούς συλλέκτες και να βρίσκει άλλη χρήση για την επιπλέον ενέργεια που παράγει – αυτό θα ήταν καλό, σωστά; Αυτό ισχυρίζεται η Conflow Power Group (CPG) στο Warwickshire για τους iLamps της, τους πρώτους του είδους τους στο Ηνωμένο Βασίλειο.
Τι θα γινόταν αν οι φανοστάτες μπορούσαν επίσης να περιλαμβάνουν νέες δυνατότητες τεχνητής νοημοσύνης (AI) που δεν έχετε ακούσει ακόμα – όπως να αναλύουν τον τρόπο που περπατάτε ή να εντοπίζουν ύποπτη συμπεριφορά; Αυτό ανησυχεί την οργάνωση Big Brother Watch. Και τι θα γινόταν αν η υπουργός Εσωτερικών είχε ήδη πει ότι πίστευε σε ένα «πανοπτικό κράτος» – δηλαδή ένα κράτος που μπορεί να σας παρακολουθεί ανά πάσα στιγμή (όπως έχει κάνει η Shabana Mahmood) – και τι θα γινόταν αν ήταν ακόμα υπεύθυνη όταν οι φανοστάτες λάμβαναν τις ενημερώσεις τους; Ή τι θα γινόταν αν ο επόμενος υπουργός Εσωτερικών ήταν ακόμα πιο υπέρ της υπερ-επιτήρησης (δύσκολο να το φανταστεί κανείς), και ο εξοπλισμός του δρόμου ήταν ήδη στη θέση του; Και τι γίνεται με όλα τα δεδομένα που θα συλλέγονταν – ποιος θα τα κατείχε;
Ψιχαλίζει στο Warwickshire, όπου ελπίζω να απαντήσω τουλάχιστον σε μερικές από αυτές τις ερωτήσεις στο πάρκινγκ του νοσοκομείου όπου έχουν εγκατασταθεί μερικοί από αυτούς τους νέους «έξυπνους» φανοστάτες. Αλλά αν δεν ήμουν εγώ, πιθανότατα κανείς δεν θα μιλούσε γι' αυτούς, κυρίως επειδή σχεδόν κανείς δεν έχει ακούσει γι' αυτούς. Λίγοι γνωρίζουν ότι το iLamp δεν είναι απλώς ηλιακής ενέργειας – μπορεί επίσης να «λειτουργήσει ως ένα κατανεμημένο κέντρο δεδομένων AI που παράγει έσοδα», σύμφωνα με την CPG, πόσο μάλλον να καταλάβουν τι σημαίνει αυτό. Και κανείς, ούτε καν εγώ, δεν γνωρίζει πόσο από αυτό το δυναμικό έχει πραγματικά ενσωματωθεί στο μοντέλο του Ηνωμένου Βασιλείου – μόνο ό,τι έχει ανακοινώσει η CPG: ότι έχει υπογράψει συμφωνία με την κυβέρνηση της πολιτείας Katsina στη Νιγηρία για την προμήθεια 50.000 από αυτούς τους iLamps, οι οποίοι έχουν πρόσθετες δυνατότητες επιτήρησης τόσο για οχήματα όσο και για πρόσωπα. Ο πρόεδρος της CPG, Edward Fitzpatrick, δήλωσε στο πρόγραμμα Tech Life του BBC World Service ότι οι φανοστάτες θα μπορούσαν τελικά να βοηθήσουν στην εύρεση αγνοουμένων ή στην καταπολέμηση του εγκλήματος, αλλά μόνο αν αναπτυχθούν «με τη σχετική αρχή».
Η CPG λέει ότι έχει «καλυφθεί εκτενώς από τα παγκόσμια μέσα ενημέρωσης» και δεν δέχεται περαιτέρω ερωτήσεις, παραπέμποντας τα μέσα ενημέρωσης στο διαδικτυακό της υλικό. Όσο για τους φανοστάτες του Warwickshire, το τοπικό συμβούλιο στέλνει όλες τις ερωτήσεις στο νοσοκομείο, και το νοσοκομείο δεν απαντά. Δίκαιο – είναι νοσοκομείο.
Αρκετοί κάτοικοι της περιοχής έχουν βρει καταφύγιο από τη βροχή σε μια στάση λεωφορείου, οι περισσότεροι περιμένουν έναν σύντροφο να τους παραλάβει, και πολλοί είναι πρόθυμοι να συνομιλήσουν. Ο Karl, 52 ετών, ο οποίος ήταν σε ένα κοντινό μπαρ, μιλάει για σχεδόν όλους όταν λέει: «Το κέντρο της πόλης είναι ήδη γεμάτο κάμερες, και είναι εντάξει. Δεν σε πειράζει που είναι εκεί, εκτός αν κάνεις κάτι κακό.» Όσες φορτισμένες ερωτήσεις κι αν κάνω (Τι θα γινόταν αν κάνατε κάτι νόμιμο σήμερα αλλά παράνομο σε ένα χρόνο; Τι θα γινόταν αν η επιτήρηση γινόταν προγνωστική αντί για αντιδραστική; Τι θα γινόταν αν δεν θέλατε κανείς να μάθει ότι είχατε πάει στο νοσοκομείο; Τι θα γινόταν αν δεν έπρεπε να είστε σε ένα μπαρ; Δεν νομίζετε ότι θα έπρεπε τουλάχιστον να σας είχαν ρωτήσει αν το θέλετε;), δεν μπορώ να κάνω κανέναν από αυτούς με τους οποίους μιλάω να αλλάξει την άποψή τους ότι η αναγνώριση προσώπου είναι ένα ανεκτό μέρος της ζωής για έναν νομοταγή πολίτη.
Η Tejal, 41 ετών, επίσης περιμένει στη στάση λεωφορείου του νοσοκομείου, λέει: «Νομίζω ότι πρέπει να προχωρήσουμε και να αποδεχτούμε ότι τα πράγματα αλλάζουν.» Είναι ακτινολόγος, και βλέποντας τις δυνατότητες της AI στον δικό της τομέα την κάνει πολύ ανήσυχη για την AI γενικά. «Έχω ανησυχίες για τα παιδιά μου», λέει. Ότι δεν θα βρουν θέσεις εργασίας εισαγωγικού επιπέδου; «Αυτό, και ότι θα χάσουν την ικανότητα να γιορτάζουν και να βρίσκουν χαρά από τα πράγματα που συνηθίζαμε.» Οι ανησυχίες για την ιδιωτικότητα φαίνονται σχετικά μικρές σε σύγκριση με αυτό.
Οι ειδικοί είναι δύσπιστοι σχετικά με μερικούς από τους ισχυρισμούς που γίνονται για τους έξυπνους φανοστάτες. Η Jasleen Chaggar, ανώτερη νομική και πολιτική υπεύθυνος στο Big Brother Watch, λέει: «Το βλέπουμε αυτό αρκετά συχνά όπου τα τοπικά συμβούλια ή άλλοι κυβερνητικοί φορείς … "εξαπατώνται" είναι μια βαριά λέξη, αλλά τους πουλάνε αυτά τα εργαλεία ως μαγικά ραβδιά όταν υπάρχουν όρια στο τι μπορούν πραγματικά να κάνουν.»
Ο Καθηγητής Rabih Bashroush, διευθυντής του Κέντρου Τεχνητής Νοημοσύνης και Καινοτομίας Δεδομένων στο Πανεπιστήμιο του Ανατολικού Λονδίνου, είναι ωμός: «Κέντρα δεδομένων AI; Δεν υπάρχει καμία απολύτως πιθανότητα να λειτουργήσει αυτό: η τεχνολογία δεν λειτουργεί, δεν υπάρχει αρκετή ενέργεια, και τα οικονομικά δεν βγάζουν νόημα …» Λέει ότι η ηλιακή ενέργεια για τη λειτουργία των iLamps εκτός δικτύου μπορεί να λειτουργήσει στη Νιγηρία, αλλά στη Βρετανία, η ενέργεια που παράγεται από τους φανοστάτες είναι «αμελητέα». Μπορεί να μπορείτε να τρέξετε μια εφαρμογή που «δεν ήταν κρίσιμη για την αποστολή, που δεν σας πείραζε να κλείσει για λίγες μέρες» – όπως η ανίχνευση αν μια θέση στάθμευσης ήταν κατειλημμένη – αλλά οι μεγαλύτεροι ισχυρισμοί σχετικά με την αναγνώριση προσώπου είναι «απλώς διαφημιστική φούσκα. Ξεχάστε το – αυτό δεν έχει μέλλον.»
Αν ακούγεται ανυπόμονος, είναι επειδή είναι: «Γίνεται όλο και πιο δύσκολο να πάρεις μια ανεξάρτητη γνώμη για τα πράγματα, επειδή πολλοί ειδικοί εργάζονται πλέον στη βιομηχανία, και οι απόψεις τους πρέπει να ευθυγραμμίζονται με τον οργανισμό τους», λέει. Έτσι, μια εταιρεία μπορεί να κάνει μεγάλους ισχυρισμούς, ρίχνοντας μερικές λέξεις-κλειδιά AI, πριν από έναν γύρο χρηματοδότησης· οι μηχανικοί δεν τους αμφισβητούν, οι τοπικές αρχές δεν τους καταλαβαίνουν, και κανείς άλλος δεν συνειδητοποιεί καν ότι κάτι έχει αλλάξει από τότε που εφευρέθηκε το CCTV.
Η Chaggar καταβάλλει μεγάλη προσπάθεια για να εξηγήσει την εννοιολογική διαφορά μεταξύ αναγνώρισης προσώπου και CCTV: «Η αναγνώριση προσώπου δεν καταγράφει απλώς παθητικά κάτι, όπως το CCTV, το οποίο ελέγχεις εκ των υστέρων. Αυτό που κάνει η αναγνώριση προσώπου είναι ένας έλεγχος ταυτότητας σε πραγματικό χρόνο: μοιάζει πολύ περισσότερο με δακτυλικό αποτύπωμα ή DNA. Δεν είναι σαν διαβατήριο – δεν μπορείς να αποκτήσεις άλλο πρόσωπο.»
Ένα άλλο πρόβλημα, λέει η Chaggar, είναι ότι «πολλές από αυτές τις τεχνολογίες και υποδομές μπορούν να προσθέσουν λειτουργίες αργότερα. Το Hammersmith and Fulham [στο Λονδίνο] ενημερώνει το CCTV τους, και είναι δυνατό να ενσωματωθεί αναγνώριση προσώπου, να παρακολουθείται ύποπτη συμπεριφορά αγορών, ή να προστεθεί ανίχνευση επιθετικότητας. Έτσι, μπορείς απλά να γυρίσεις έναν διακόπτη, και είναι όλα εκεί από τη μια μέρα στην άλλη.» Ένας φίλος που μένει στο Fulham έτυχε να στείλει μια φωτογραφία μιας κάμερας πάνω από μια πινακίδα περιορισμού στάθμευσης – μοιάζει με διασταύρωση μεταξύ Darth Vader και σκαθαριού, και βουίζει καθώς περνάς, σαν να δείχνει ότι παρακολουθεί τις κινήσεις σου.
Αυτό εγείρει όλες τις παλιές ανησυχίες για την ιδιωτικότητα, και είναι ενδιαφέρον πόσοι άνθρωποι απορρίπτουν το CCTV ως γεγονός της σύγχρονης ζωής, αλλά παραπονιούνται αυθόρμητα για το πόσο μισούν να τους ακούει το τηλέφωνό τους. Ο Karl λέει: «Μιλούσα με τη μητέρα μου τις προάλλες για νυχοκόπτες σκύλων, και η διαφήμιση εμφανίστηκε στο τηλέφωνό μου εκείνο το βράδυ. Είχα το μικρόφωνό μου κλειστό. Δεν έχω καν σκύλο!» Ο φίλος του Bob, 48 ετών, έχει καταλήξει ουσιαστικά εκτός δικτύου, χωρίς υπολογιστή και με ένα βασικό τούβλο-τηλέφωνο – ένας υπεύθυνος χάραξης πολιτικής θα τον αποκαλούσε πιθανώς «αποκλεισμένο» – απλά επειδή «σε μερικούς ανθρώπους αρέσει να είναι ιδιωτικοί.»
Ένα άλλο ερώτημα σχετικά με το λογισμικό αναγνώρισης προσώπου είναι: πόσο καλοί είναι οι αλγόριθμοι στην ανίχνευση επιθετικότητας και ύποπτης συμπεριφοράς; «Μεγάλο μέρος του λογισμικού είναι ψευδο-επιστημονικό», λέει η Chaggar. «Έτσι, μια εταιρεία μπορεί να προσπαθήσει να πουλήσει ανίχνευση συναισθημάτων, [ισχυριζόμενη ότι] αν οι άνθρωποι περπατούν μέσα σε έναν σιδηροδρομικό σταθμό, μπορείς να δεις αν είναι θυμωμένοι ή έτοιμοι να γίνουν επιθετικοί. Υπάρχουν πολύ λίγα στοιχεία που να υποδηλώνουν ότι είναι ακριβές. Αν είσαι ένα άτομο με αναπηρία που κινείται διαφορετικά, μπορεί να επισημανθείς και να αντιμετωπίσεις μια παρέμβαση.» Αλλά το πραγματικό ερώτημα για τις τοπικές αρχές και οποιουσδήποτε κρατικούς φορείς είναι… Η Chaggar λέει ότι οι άνθρωποι θα πρέπει να αναρωτηθούν: «Είστε άνετοι με το να έχουν οι πολιτικοί σας αντίπαλοι αυτές τις δυνατότητες; Επειδή χτίζετε μια υποδομή που είναι εδώ για να μείνει.»
Μπορείτε να το δείτε αυτό καθαρά στην αστυνόμευση. Το Υπουργείο Εσωτερικών ενέκρινε τη χρήση αναγνώρισης προσώπου πριν από πάνω από μια δεκαετία, και η αστυνομία «ουσιαστικά χρησιμοποιεί το κοινό ως ινδικά χοιρίδια για τα τελευταία 10 χρόνια», λέει η Chaggar. Τι συμβαίνει όταν η υπουργός Εσωτερικών λέει στο BBC 5 Live, όπως έκανε νωρίτερα φέτος, ότι «δεν μπορείς να απολαύσεις καμία από τις ελευθερίες σου σε καμία χώρα αν δεν είσαι ασφαλής»; Αυτή η βαριά λογική –όπου όλες οι ελευθερίες έρχονται δεύτερες μετά τον ρόλο του κράτους ως προστάτη σου– είναι ανησυχητική προερχόμενη από μια υποτιθέμενα αριστερή κυβέρνηση. Αλλά η μεγαλύτερη ανησυχία είναι ότι αυτό δεν μοιάζει με την κατάλληλη στιγμή στην πολιτική για να ρισκάρουμε με την τεχνολογία επιτήρησης, βασίζοντας την αποδοχή μας σε αυτήν στην ελπίδα ότι όλες οι μελλοντικές κυβερνήσεις θα είναι κοινωνικά προσανατολισμένες και δημοκρατικές.
Προβολή εικόνας σε πλήρη οθόνη
«Αν δεν έχεις τίποτα να κρύψεις, δεν βλέπω πώς θα ήταν πρόβλημα.» Φωτογραφία: Justin Paget/Getty Images
Όπου υπάρχει δυνατότητα συλλογής δεδομένων, εγείρεται το ερώτημα ποιος τα κατέχει. Ο Bashroush συνήθιζε να εργάζεται με το Διαδίκτυο των Πραγμάτων, την προσπάθεια της Ευρωπαϊκής Επιτροπής να «συνδέσει τον φυσικό κόσμο με ένα ψηφιακό περιβάλλον.» «Αυτό ήταν πολύ παλιά, πριν φύγουμε από την Ευρώπη», θυμάται. «Μία από τις προκλήσεις που είδαμε ήταν με έναν προμηθευτή που ουσιαστικά συνέλεγε σκουπίδια από σπίτια στην Ολλανδία, στη συνέχεια βελτιστοποιούσε τις διαδρομές των φορτηγών και σχεδίαζε με βάση τις συνήθειές σας. Το συμβούλιο που διαχειριζόταν το πρόγραμμα ήταν πολύ ικανοποιημένο με αυτό και προσπάθησε να ανοίξει τον διαγωνισμό ένα χρόνο αργότερα για να πάρει μια πιο ανταγωνιστική τιμή. Η εταιρεία είπε, "Φυσικά, αλλά τα δεδομένα είναι δικά μας."» Αυτό το ζήτημα δεν επιλύθηκε ποτέ: τα συμβόλαια ήταν κακογραμμένα, και η τοπική αρχή έχασε τα δεδομένα.
Αν θέλετε να δείτε την αναγνώριση προσώπου να πάει στραβά χωρίς καμία αυταρχική πρόθεση ή τεχνολογικό τέχνασμα, απλά κοιτάξτε τον τομέα του λιανικού εμπορίου, όπου χρησιμοποιείται ήδη ευρέως για την πρόληψη κλοπών. «Έχουμε δει εσφαλμένη ταυτοποίηση από την αστυνομία», λέει η Chaggar, «αλλά στο λιανικό εμπόριο, όταν οι άνθρωποι ταυτοποιούνται λανθασμένα, είναι καφκικό. Απλά μπαίνεις στη μαύρη λίστα του καταστήματος.»
Και πάλι, πόσο νοιάζονται πραγματικά οι άνθρωποι; Αν σας απαγορεύσουν την είσοδο σε ένα κατάστημα και δεν ξέρετε γιατί· αν μια ιδιωτική εταιρεία έχει συμβόλαιο με το NHS trust σας, προωθώντας τεχνολογία που δεν είναι ακόμα λειτουργική και μπορεί να μην λειτουργήσει ποτέ, αλλά κανείς δεν σας είπε –πόσο μάλλον σας ρώτησε– αν η υπουργός Εσωτερικών θεωρεί ότι είναι εντάξει το κράτος να σας παρακολουθεί ανά πάσα στιγμή· είναι αυτά τα δομικά στοιχεία μιας δυστοπίας, ή απλά μας θυμίζουν πώς περιγράφαμε τη δυστοπία πριν υπάρξουν αυτές οι δυνατότητες επιτήρησης;
Ο δοκιμιογράφος του New Yorker Ted Chiang έγραψε πριν από καιρό για τη συνήθεια να προβάλλονται στην AI αρνητικά που στην πραγματικότητα αφορούσαν οικονομικά συστήματα, όχι τεχνολογία. Κατέληξε: «Ο καπιταλισμός είναι η μηχανή που θα κάνει ό,τι χρειαστεί για να μας εμποδίσει να την απενεργοποιήσουμε.» Προβάλλω στην AI και στην τεχνολογία επιτήρησης ανησυχίες που στην πραγματικότητα αφορούν την αυταρχική πολιτική;
«Λοιπόν, αν δεν έχεις τίποτα να κρύψεις», λέει η Sarah, 55 ετών, «δεν μπορώ να δω πώς θα ήταν πρόβλημα. Υποθέτω ότι είναι και φώτα, έτσι δεν είναι;»
Συχνές Ερωτήσεις
Ακολουθεί μια λίστα με συχνές ερωτήσεις σχετικά με έξυπνους φανοστάτες με τεχνητή νοημοσύνη που καλύπτουν από αρχάριες έως προχωρημένες ανησυχίες
Ερωτήσεις Επιπέδου Αρχαρίου
1 Τι ακριβώς είναι ένας έξυπνος φανοστάτης με τεχνητή νοημοσύνη
Είναι ένας φανοστάτης δρόμου με ενσωματωμένους αισθητήρες κάμερες και μικρόφωνα Αντί να ανάβει μόνο τη νύχτα μπορεί να συλλέγει δεδομένα και να χρησιμοποιεί AI για να τα αναλύει σε πραγματικό χρόνο
2 Γιατί θα ήθελαν οι πόλεις να εγκαταστήσουν αυτούς
Κυρίως για αποδοτικότητα Μπορούν να χαμηλώνουν όταν δεν υπάρχει κανείς για εξοικονόμηση ενέργειας να ανιχνεύουν πυροβολισμούς για να ειδοποιούν ταχύτερα την αστυνομία να παρακολουθούν την κυκλοφοριακή συμφόρηση και ακόμα να βρίσκουν ελεύθερες θέσεις στάθμευσης Μπορούν επίσης να φορτίζουν ηλεκτρικά οχήματα και να παρέχουν δημόσιο WiFi
3 Μπορούν αυτοί οι φανοστάτες να με κατασκοπεύουν στο σπίτι μου
Όχι Οι κάμερες και οι αισθητήρες είναι στραμμένοι στον δρόμο και σε δημόσιους χώρους όχι μέσα σε ιδιωτικά σπίτια Είναι σχεδιασμένοι για να παρακολουθούν δημόσιες περιοχές όχι ιδιωτικούς εσωτερικούς χώρους
4 Καταγράφουν βίντεο καθώς περπατώ στον δρόμο
Μπορούν αλλά τα περισσότερα συστήματα είναι σχεδιασμένα να επεξεργάζονται βίντεο σε πραγματικό χρόνο χωρίς να αποθηκεύουν το υλικό Ωστόσο ορισμένες πόλεις αποθηκεύουν υλικό για μικρό χρονικό διάστημα Το βασικό ερώτημα είναι αν τα δεδομένα αποθηκεύονται ή απλά αναλύονται ζωντανά
Ερωτήσεις Ενδιάμεσου Επιπέδου
5 Σε τι διαφέρει αυτό από τις κάμερες CCTV που υπάρχουν ήδη σε κάθε γωνία
Το παραδοσιακό CCTV απλά καταγράφει βίντεο που κάποιος πρέπει να παρακολουθήσει αργότερα Οι φανοστάτες AI είναι έξυπνοι μπορούν να καταλάβουν τι βλέπουν Για παράδειγμα μπορούν να ειδοποιούν αυτόματα τις αρχές αν ένα αυτοκίνητο οδηγεί αντίθετα αντί να περιμένουν έναν άνθρωπο να το εντοπίσει σε μια εγγραφή
6 Ποιος κατέχει τα δεδομένα που συλλέγουν αυτοί οι φανοστάτες
Ποικίλλει Συνήθως η δημοτική αρχή κατέχει τα ακατέργαστα δεδομένα Ωστόσο οι ιδιωτικές τεχνολογικές εταιρείες που κατασκευάζουν τα συστήματα έχουν συχνά πρόσβαση σε ανωνυμοποιημένα δεδομένα ή στους αλγόριθμους AI Αυτό είναι ένα σημαντικό σημείο ανησυχίας για τους υπερασπιστές της ιδιωτικότητας
7 Μπορεί η AI να αναγνωρίσει το πρόσωπό μου
Πολλά προηγμένα μοντέλα μπορούν Ορισμένες πόλεις χρησιμοποιούν αναγνώριση προσώπου για να βρουν αγνοούμενους ή καταζητούμενους εγκληματίες Ωστόσο αυτό είναι εξαιρετικά αμφιλεγόμενο και αρκετές πόλεις έχουν απαγορεύσει τη λειτουργία λόγω ανησυχιών για την ιδιωτικότητα και την προκατάληψη
8 Τι εμποδίζει έναν χάκερ να καταλάβει ένα ολόκληρο δίκτυο αυτών των φανοστατών
Αυτός είναι ένας πραγματικός κίνδυνος ασφαλείας Αν ένα δίκτυο δεν είναι σωστά
