Ο ΕΛΕΓΧΟΣ ΤΗΣ ΣΚΕΨΗΣ – Η ΕΛΕΥΘΕΡΙΑ ΔΕΝ ΠΑΡΑΔΙΔΕΤΑΙ ΜΕ ΕΝΑ «ΚΛΙΚ»
Στο μικρόφωνο βρέθηκε ο τραπεζικός Δημήτρης, σε μια συζήτηση με τον Γρηγόρη Σερέτη γύρω από την ψηφιακή εποχή, την προστασία των προσωπικών δεδομένων, τις βιομετρικές ταυτότητες, την οικονομική αξιολόγηση των πολιτών και, τελικά, το μεγάλο ερώτημα: μέχρι πού μπορεί να φτάσει η τεχνολογία χωρίς να αρχίσει να υποχωρεί η ευθερία του ανθρώπου; Γιατί το πραγματικό δίλημμα δεν είναι «τεχνολογία ή όχι τεχλογία». Το πραγματικό δίλημμα είναι άλλο: Τεχνολογία στην υπηρεσία του ανθρώπου ή άνθωπος στην υπηρεσία της τεχνολογίας; Και αυτό είναι ένα ερώτημα που πλέον κανείς δεν ικαιούται να αποφεύγει.
ΑΠΟ ΗΝ ΕΥΚΟΛΙΑ ΣΤΗΝ ΕΞΑΡΤΗΣΗ
Η ψηφιακή μετάβαση παρουσιάζεται σχεδόν πάντοτε ως πρόοδος. Λιγότερη γραφειοκρατία. Ταχύτερες συναλλαγές. Ηλεκτρονικές υπηρεσίες. Ψηφιακές ταυτότητες. Αυτόματες πληρωμές. Διασύνδεση πληροφοριών. Πρόσβαση σε υπηρεσίες από το κινητό. Και πράγματι, όλα αυτά μπορούν να κάνουν τη ζωή του πολίτη ευκολότερη.
Υπάρχει όμως μια λεπτή γραμμή. Η γραμμή ανάμεσα στην εξυπηρέτηση και την επιτήρηση. Όσο περισσότερα στοιχεία της ζωής ενός ανθρώπου συγκεντρώνονται ψηφιακά, τόσο μεγαλύτερη γίνεται η ευθύνη εκείνων που τα διαχειρίζονται. Ποιος γνωρίζει τι; Ποιος έχει πρόσβαση; Για πόσο χρόνο αποθηκεύονται τα δεδομένα; Ποιος ελέγχει αυτόν που ελέγχει; Και κυρίως: τι συμβαίνει όταν διαφορετικές βάσεις δεδομένων αρχίζουν να συνδέονται μεταξύ τους; Εκεί βρίσκεται η ουσία της συζήτησης.
Ο τραπεζικός που μίλησε στην εκπομπή του Γρηγόρη Σερέτη παρουσίασε μια ιδιαίτερα σκοτεινή εκδοχή του ψηφιακού μέλλοντος, κάνοντας λόγο για το αποκαλούμενο «LUCID» και συνδέοντάς το με ένα ευρύτερο σύστημα παγκόσμιου ελέγχου.
Πρόκειται για ισχυρισμούς που απαιτούν ανεξάρτητη τεκμηρίωση και δεν μπορούν να παρουσιάζονται αυτομάτως ως δεδομένα. Όμως πίσω από την ακραία αυτή περιγραφή υπάρχει ένα απολύτως πραγματικό πολιτικό ερώτημα: Πόση εξουσία είμαστε διατεθειμένοι να παραδώσουμε σε ένα ψηφιακό σύστημα;
Ο ΠΟΛΙΤΗΣ ΔΕΝ ΕΙΝΑΙ ΕΝΑΣ ΑΡΙΘΜΟΣ
Η ανθρώπινη προσωπικότητα δεν μπορεί να μετατραπεί σε έναν φάκελο δεδομένων. Ο άνθρωπος δεν είναι ένας προσωπικός αριθμός. Δεν είναι ένα οικονομικό προφίλ. Δεν είναι μια βαθμολογία. Δεν είναι ένα σύνολο συναλλαγών, μετακινήσεων, προτιμήσεων και ηλεκτρονικών αποτυπωμάτων. Είναι πολίτης. Και ο πολίτης έχει δικαιώματα που προϋπήρχαν των υπολογιστών, των εφαρμογών και των αλγορίθμων. Έχει δικαίωμα στην ιδιωτικότητα. Έχει δικαίωμα στην προσωπική ζωή. Έχει δικαίωμα να διαφωνεί. Έχει δικαίωμα να σκέφτεται χωρίς να φοβάται ότι κάποιος καταγράφει, αξιολογεί ή βαθμολογεί κάθε του κίνηση.
Αυτό ακριβώς είναι το σημείο όπου η συζήτηση του Σερέτη αποκτά ιδιαίτερο ενδιαφέρον. Διότι ο μεγαλύτερος κίνδυνος ενός συστήματος ελέγχου δεν είναι απαραίτητα ότι κάποιος θα σου απαγορεύσει να μιλήσεις. Είναι να δημιουργηθεί σταδιακά μια κοινωνία στην οποία ο πολίτης θα αρχίσει μόνος του να φοβάται να μιλήσει. Να αυτολογοκρίνεται. Να σκέφτεται πριν γράψει. Να φοβάται πριν διαφωνήσει. Να αναρωτιέται εάν μια άποψή του θα του δημιουργήσει πρόβλημα αύριο. Και τότε ο έλεγχος δεν χρειάζεται πλέον αστυνομικό στην πόρτα. Έχει εγκατασταθεί μέσα στο μυαλό.
Η ΕΠΙΚΙΝΔΥΝΗ ΛΟΓΙΚΗ ΤΗΣ «ΒΑΘΜΟΛΟΓΗΣΗΣ»
Ιδιαίτερη έμφαση δόθηκε στην εκπομπή στα συστήματα οικονομικής αξιολόγησης.
Εδώ χρειάζεται μεγάλη προσοχή. Άλλο πράγμα είναι ένα τραπεζικό εργαλείο αξιολόγησης πιστοληπτικής ικανότητας και άλλο ένα κρατικό «social credit» που καθορίζει συνολικά τα δικαιώματα ενός ανθρώπου. Η διαφορά είναι τεράστια. Και ακριβώς γι’ αυτό κάθε τέτοιο σύστημα πρέπει να εξετάζεται δημόσια, θεσμικά και εξονυχιστικά. Ποια δεδομένα χρησιμοποιεί; Ποιος αποφασίζει; Υπάρχει ανθρώπινος έλεγχος; Μπορεί ο πολίτης να διορθώσει ένα λάθος; Μπορεί να προσφύγει; Μπορεί ένας λανθασμένος αλγόριθμος να τον χαρακτηρίσει οικονομικά αναξιόπιστο;
Γιατί πίσω από κάθε ψυχρό αριθμό βρίσκεται ένας άνθρωπος. Ένας εργαζόμενος μπορεί να χάσει τη δουλειά του. Mια οικογένεια μπορεί να αντιμετωπίσει ένα σοβαρό πρόβλημα. Ένας επαγγελματίας μπορεί να καταστραφεί οικονομικά. Ένας πολίτης μπορεί προσωρινά να μην καταφέρει να ανταποκριθεί σε μια υποχρέωση. Αυτό δεν τον μετατρέπει σε άνθρωπο δεύτερης κατηγορίας. Η κοινωνία δεν μπορεί να λειτουργεί με τη λογική: «Είσαι καλός πολίτης επειδή ο υπολογιστής σε βαθμολόγησε καλά». Αυτό δεν είναι κοινωνική πολιτική. Είναι κοινωνία Excel.
ΠΟΙΟΣ ΘΑ ΕΛΕΓΧΕΙ ΤΟΝ ΕΛΕΓΚΤΗ;
Εδώ βρίσκεται ίσως το σημαντικότερο ερώτημα.
Μας λένε συνεχώς ότι τα νέα ψηφιακά συστήματα είναι ασφαλή. Ωραία. Ποιος το εγγυάται; Μας λένε ότι τα δεδομένα προστατεύονται. Ποιος ελέγχει την προστασία; Μας λένε ότι οι πληροφορίες χρησιμοποιούνται μόνο για συγκεκριμένους σκοπούς. Τι εμποδίζει μια μελλοντική κυβέρνηση να διευρύνει αυτούς τους σκοπούς;
Οι κυβερνήσεις αλλάζουν. Οι υπουργοί αλλάζουν. Οι διοικήσεις αλλάζουν. Τα δεδομένα όμως μένουν. Και η Δημοκρατία δεν οικοδομήθηκε πάνω στην αρχή «εμπιστευτείτε μας». Οικοδομήθηκε πάνω στην ακριβώς αντίθετη αρχή: Ελέγξτε μας. Ελέγξτε την εξουσία. Περιορίστε την. Υποχρεώστε την να λογοδοτεί. Αυτό είναι Δημοκρατία.
ΔΕΝ ΕΙΝΑΙ ΟΛΟΙ ΟΙ ΠΟΛΙΤΕΣ ΥΠΟΠΤΟΙ
Στην εκπομπή τέθηκε και ένα ακόμη ζήτημα: η σταδιακή αντιμετώπιση ολόκληρης της κοινωνίας σαν να αποτελεί εν δυνάμει απειλή.
Αυτό είναι ένα εξαιρετικά επικίνδυνο μονοπάτι. Η ασφάλεια είναι υποχρέωση του κράτους. Η αντιμετώπιση του εγκλήματος είναι υποχρέωση του κράτους. Η προστασία της χώρας είναι υποχρέωση του κράτους. Αλλά άλλο ασφάλεια και άλλο καθολική καχυποψία. Δεν μπορεί ο νόμος να αντιμετωπίζει κάθε πολίτη σαν πιθανό εγκληματία μέχρι αποδείξεως του εναντίου. Η Δημοκρατία λειτουργεί αντίστροφα. Η εξουσία πρέπει να αιτιολογεί γιατί παρεμβαίνει στη ζωή του πολίτη. Ο πολίτης δεν πρέπει να αποδεικνύει καθημερινά ότι είναι αθώος.
ΚΑΙ Ο ΕΛΛΗΝΑΣ ΤΙ ΚΑΝΕΙ;
Εδώ ο Γρηγόρης Σερέτης έθεσε ίσως την πιο ουσιαστική διάσταση της συζήτησης. Μπορεί να ελεγχθεί ολοκληρωτικά η ανθρώπινη σκέψη;
Η απάντηση είναι όχι — εφόσον ο άνθρωπος εξακολουθεί να μορφώνεται, να διαβάζει, να συγκρίνει πληροφορίες και να αμφισβητεί. Και εδώ ακριβώς βρίσκεται το μεγάλο πρόβλημα. Μια κοινωνία που δεν διαβάζει είναι εύκολη κοινωνία. Μια κοινωνία που ενημερώνεται μόνο από τίτλους είναι εύκολη κοινωνία. Μια κοινωνία που δεν ελέγχει αυτά που ακούει είναι εύκολη κοινωνία. Μια κοινωνία που χωρίζεται σε στρατόπεδα και βρίζει αντί να συζητά είναι ακόμη ευκολότερη. Ο πραγματικά ελεύθερος πολίτης δεν είναι εκείνος που πιστεύει τα πάντα. Ούτε εκείνος που απορρίπτει τα πάντα. Είναι εκείνος που ρωτά. Που απαιτεί αποδείξεις. Που απαιτεί διαφάνεια. Που απαιτεί λογοδοσία. Που δεν αφήνει ούτε την κυβέρνηση ούτε τα μέσα ενημέρωσης ούτε τις τράπεζες ούτε τις πολυεθνικές ούτε τους αλγορίθμους να αποφασίζουν τι πρέπει να σκέφτεται.
ΤΟ ΣΧΟΛΕΙΟ ΠΡΕΠΕΙ ΝΑ ΒΓΑΖΕΙ ΠΟΛΙΤΕΣ
Η συζήτηση κατέληξε αναπόφευκτα στην Παιδεία. Και εκεί βρίσκεται ίσως η μεγαλύτερη μάχη. Γιατί ελεύθερη χώρα χωρίς ελεύθερη σκέψη δεν υπάρχει.
Το ελληνικό σχολείο δεν πρέπει απλώς να προετοιμάζει παιδιά για εξετάσεις.vΠρέπει να δημιουργεί πολίτες. Να μαθαίνει στον μαθητή Ιστορία. Να του μαθαίνει λογική. Να του μαθαίνει πώς να ξεχωρίζει την πληροφορία από την προπαγάνδα. Να του μαθαίνει να αγαπά την πατρίδα του χωρίς να μισεί τους άλλους. Να του μαθαίνει να υπερασπίζεται τα δικαιώματά του. Να του μαθαίνει ότι καμία εξουσία δεν είναι υπεράνω κριτικής.
Γιατί ένας μορφωμένος λαός είναι δύσκολο να χειραγωγηθεί. Ένας φοβισμένος και αμόρφωτος λαός είναι εύκολο να διοικηθεί.
Η ΤΕΧΝΟΛΟΓΙΑ ΠΡΕΠΕΙ ΝΑ ΥΠΗΡΕΤΕΙ ΤΟΝ ΑΝΘΡΩΠΟ
Κανείς σοβαρός άνθρωπος δεν μπορεί να ζητήσει να γυρίσουμε στην εποχή του χαρτιού, της σφραγίδας και της ουράς. Η τεχνολογία είναι εδώ. Η τεχνητή νοημοσύνη είναι εδώ. Οι ψηφιακές συναλλαγές είναι εδώ. Οι βιομετρικές τεχνολογίες είναι εδώ.
Το ζήτημα λοιπόν δεν είναι να σταματήσει η πρόοδος. Το ζήτημα είναι να μπουν κόκκινες γραμμές. Να υπάρχει πραγματική προστασία προσωπικών δεδομένων. Να υπάρχει δικαστικός έλεγχος. Να υπάρχει κοινοβουλευτικός έλεγχος. Να υπάρχει διαφάνεια στους αλγορίθμους όταν αυτοί επηρεάζουν δικαιώματα. Να υπάρχει δυνατότητα προσφυγής του πολίτη. Και πάνω απ’ όλα να υπάρχει μια αδιαπραγμάτευτη αρχή: Ο άνθρωπος δεν είναι ιδιοκτησία του κράτους. Το κράτος υπάρχει για τον άνθρωπο. Όχι ο άνθρωπος για το κράτος.
Η ΕΛΕΥΘΕΡΙΑ ΔΕΝ ΧΑΡΙΖΕΤΑΙ
Αυτό είναι τελικά το μήνυμα που πρέπει να κρατήσουμε από τη συζήτηση του Γρηγόρη Σερέτη.
Δεν χρειάζεται να αποδεχτεί κάποιος κάθε δραματική πρόβλεψη που ακούστηκε στην εκπομπή για να αντιληφθεί τον πραγματικό κίνδυνο. Αρκεί να κοιτάξει γύρω του. Κάθε χρόνο περισσότερα δεδομένα. Περισσότερες ηλεκτρονικές συναλλαγές. Περισσότερη αυτοματοποίηση. Περισσότερες κάμερες. Περισσότεροι αλγόριθμοι. Περισσότερη εξάρτηση από συστήματα που ο απλός πολίτης ούτε γνωρίζει πώς λειτουργούν ούτε μπορεί εύκολα να ελέγξει.
Γι’ αυτό η απάντηση δεν είναι ο πανικός. Η απάντηση είναι εγρήγορση. Ενημέρωση. Μόρφωση. Δημοκρατικός έλεγχος. Κοινωνική αλληλεγγύη. Και αντίσταση σε κάθε προσπάθεια αυθαίρετου περιορισμού των δικαιωμάτων μας με ειρηνικά, νόμιμα και δημοκρατικά μέσα.
Γιατί υπάρχει κάτι που κανένα τσιπ, κανένας αριθμός, καμία βάση δεδομένων και κανένας αλγόριθμος δεν πρέπει να αποκτήσει ποτέ το δικαίωμα να μας αφαιρέσει: την ελευθερία να σκεφτόμαστε. Και όπως θα μπορούσε να συνοψίσει κανείς το μήνυμα αυτής της εκπομπής: «Την ημέρα που θα αφήσεις κάποιον άλλον να αποφασίζει τι επιτρέπεται να σκέφτεσαι, δεν θα έχεις χάσει απλώς την ιδιωτικότητά σου. Θα έχεις παραδώσει την ελευθερία σου».
