Θάνος Ζέλκας: Δεν προβλέπεται ανθρώπινη παρέμβαση
ΑΝΑΓΝΩΣΤΗΚΕ 48 ΦΟΡΕΣ
Γράφει ο Θάνος Ζέλκας
Το ημερολόγιο γράφει 22/11/2045. Κάπου σε μια πόλη, ένας άνθρωπος ξυπνάει και ζητάει από τον ψηφιακό του βοηθό να παραγγείλει πρωινό. Η απάντηση έρχεται αμέσως. Το αίτημά του απορρίπτεται, καθώς οι τελευταίες ιατρικές εξετάσεις δεν του επιτρέπουν την κατανάλωση των συγκεκριμένων τροφίμων. Το δέχεται.
Αργότερα, νιώθει την επιθυμία να ταξιδέψει. Το σύστημα τον ενημερώνει ότι η μετακίνησή του υπερβαίνει το επιτρεπόμενο ενεργειακό του αποτύπωμα. Τελικά αποφασίζει να αγοράσει ένα αυτοκίνητο, αλλά η συναλλαγή δεν εγκρίνεται. Οι προβλεπόμενες ανάγκες του δεν δικαιολογούν την αγορά.
Κανείς δεν τον απειλεί. Κανείς δεν του έχει στερήσει την ελευθερία του. Κανείς δεν του απαγορεύει ρητά να ζήσει όπως επιθυμεί. Απλώς, κάθε εναλλακτική επιλογή έχει πάψει να είναι διαθέσιμη. Και όλα αυτά, φυσικά, για το καλό του.
Πριν από αρκετά χρόνια, ο Τζίμης Πανούσης είχε σατιρίσει έναν αντίστοιχο κόσμο, επιχειρώντας να παραγγείλει μια πίτσα. Στην άλλη άκρη της γραμμής, ένα σύστημα γνώριζε τις διατροφικές του συνήθειες, το ιατρικό του ιστορικό και όσα χρειαζόταν για να αποφασίσει τι επιτρεπόταν να φάει. Τότε γελούσαμε με την υπερβολή. Σήμερα η απόσταση ανάμεσα στη σάτιρα και στην πραγματικότητα μοιάζει να έχει ελαχιστοποιηθεί.
Δείτε το παράδοξο. Η τεχνολογία υπόσχεται να μας απαλλάξει από τα λάθη μας. Να προβλέπει τις ανάγκες μας, να προστατεύει την υγεία μας, να περιορίζει τους κινδύνους, να βελτιστοποιεί τις αποφάσεις μας. Θα ήταν τρομερά ελκυστική μια τέτοια υπόσχεση. Και σίγουρα οι περισσότεροι από εμάς θα θέλαμε να ζήσουμε σε ένα κόσμο ασφαλέστερο, αποτελεσματικότερο, απαλλαγμένο από την ανθρώπινη αυθαιρεσία.
Πίσω όμως από αυτή την υπόσχεση βρίσκεται ένα θεμελιώδες ερώτημα. Ποιος αποφασίζει τελικά τι είναι καλό για εμάς;
Ο τεχνολογικός πατερναλισμός δεν χρειάζεται απαγορεύσεις ούτε αυταρχικές διακηρύξεις. Αρκεί να μετατρέψει τις συστάσεις σε προεπιλογές, τις προεπιλογές σε περιορισμούς και τους περιορισμούς σε κανονικότητα. Κάποια στιγμή, η δυνατότητα να επιλέξουμε διαφορετικά θα υπάρχει μόνο θεωρητικά.
Ο Τζον Στιούαρτ Μιλ, ήδη από τον 19ο αιώνα, υπερασπιζόταν την ελευθερία του ανθρώπου να καθορίζει τη ζωή του, ακόμη κι όταν οι επιλογές του θεωρούνται λανθασμένες, εφόσον δεν βλάπτουν τους υπόλοιπους. Παρόλ' αυτά, η ελευθερία δεν εξαντλείται στο δικαίωμα να παίρνουμε σωστές αποφάσεις. Περιλαμβάνει και το δικαίωμα να κάνουμε λάθος, να μετανιώνουμε, να αλλάζουμε γνώμη. Να είμαστε, τελικά, άνθρωποι, με ό,τι αυτό συνεπάγεται.
Καταλήγουμε τελικά στο συμπέρασμα ότι όσο περισσότερο οι αλγόριθμοι μαθαίνουν να προβλέπουν τη συμπεριφορά μας, τόσο περισσότερο κινδυνεύουμε να συνηθίσουμε να συμπεριφερόμαστε σύμφωνα με τις προβλέψεις τους. Η προσωπική επιλογή υποχωρεί μπροστά στη στατιστικά βέλτιστη λύση. Το επιθυμητό συγχέεται με το ωφέλιμο. Η αυτονομία αντικαθίσταται από μια διαρκή, καλοπροαίρετη επιτήρηση.
Το δίλημμα έχει ήδη αποκτήσει θεσμική διάσταση. Η ευρωπαϊκή νομοθεσία προβλέπει ρητά δικαιώματα ανθρώπινης παρέμβασης και επανεξέτασης σε συγκεκριμένες αυτοματοποιημένες αξιολογήσεις πιστοληπτικής ικανότητας. Μια αναγκαία δικλίδα προστασίας, που ταυτόχρονα μας υπενθυμίζει πόσο κρίσιμη έχει γίνει η δυνατότητα αμφισβήτησης μιας αλγοριθμικής απόφασης.
Οι μηχανές μπορούν σε πολλές περιπτώσεις να λαμβάνουν ακριβέστερες αποφάσεις από τους ανθρώπους. Αυτό, όμως, δεν σημαίνει ότι η αποτελεσματικότητα αρκεί για να νομιμοποιήσει την εκχώρηση της ελευθερίας μας. Πολύ περισσότερο όταν τα κριτήρια της αποτελεσματικότητας καθορίζονται από εκείνους που σχεδιάζουν και ελέγχουν τα συστήματα.
Η μεγαλύτερη απειλή δεν βρίσκεται σε κάποια μελλοντική εξέγερση των μηχανών, αλλά στην προοπτική μιας κοινωνίας που θα έχει παραιτηθεί οικειοθελώς από την ανάγκη να αποφασίζει. Μιας κοινωνίας που θα έχει συνηθίσει τόσο να αποφασίζουν άλλοι γι' αυτήν, ώστε να μην αντιλαμβάνεται πια τι έχει χάσει.
Η ελευθερία δεν χάνεται μόνο όταν μας την αφαιρούν. Χάνεται και όταν συνηθίζουμε να αφήνουμε άλλους να αποφασίζουν για εμάς. Και δεν απέχει πολύ εκείνη η μέρα όπου θα θελήσουμε να διεκδικήσουμε ξανά το δικαίωμα να αποφασίζουμε για τον εαυτό μας και θα βρεθούμε αντιμέτωποι με την πιο ευγενική μορφή άρνησης:
«Το αίτημά σας καταχωρήθηκε. Δεν προβλέπεται ανθρώπινη παρέμβαση».

Ακολουθήστε τη Ροδιακή στο Google News