ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΚΑΙ ΟΛΟΚΛΗΡΩΤΙΣΜΟΣ

Γράφει ο Μανώλης Κουφάκης*
Σε προηγούμενο σημείωμα αναφερθήκαμε στο «κινούν» την τέταρτη Βιομηχανική Επανάσταση - της οποίας ήδη είμαστε μάρτυρες- δηλαδή την Τεχνητή Νοημοσύνη. Είμαστε ίσως στα πρώιμα στάδια της τεχνολογίας αυτής, η οποία ωστόσο φαίνεται να έχει τεράστια περιθώρια εξέλιξης και ανάπτυξης. Όπως σε κάθε περίπτωση συμβαίνει, ανάλογα θα είναι τα ωφελήματά μας και οι κίνδυνοι που θα διατρέξουμε από την Τεχνητή Νοημοσύνη. Μόνο που τώρα, ιδίως η διακινδύνευση, θα είναι ίσως υπαρξιακής φύσεως για το είδος μας, αφού, ομολογημένα ή ανομολόγητα, προσπαθούμε να φτιάξουμε νοημοσύνη με δυνατότητες που σε πολλά θα υπερβαίνουν την ανθρώπινη νοημοσύνη.
Ένας σοβαρός -αλλά όχι ο μόνος- κίνδυνος είναι η Τεχνητή Νοημοσύνη να αποτελέσει εργαλείο ολοκληρωτισμού, προκειμένου να ελεγχθούν ομάδες ανθρώπων, λαοί ή και στην κυριολεξία, όλοι οι κάτοικοι αυτού του πλανήτη. Είναι γνωστό ότι οι πρόθυμοι πάντοτε υπάρχουν. Τώρα τους δίδεται μια λαμπρή ευκαιρία, αν δεν λάβουμε έγκαιρα τα μέτρα μας.
Το πολύ βασικό χαρακτηριστικό της Τεχνητής Νοημοσύνης είναι η απόλυτη εξάρτησή της από τις βάσεις δεδομένων· δηλαδή από συγκεντρωμένα, ταξινομημένα και καταχωρημένα σύνολα πληροφοριών. Τα δεδομένα είναι κυριολεκτικά η πρώτη ύλη της Τεχνητής Νοημοσύνης. Τις πληροφορίες, ηθελημένα ή αθέλητα, τις παρέχουμε αφειδώς εμείς με την συνήθη καθημερινή μας δραστηριότητα. Το βασικό ζητούμενο όμως, στο θέμα που εξετάζουμε, είναι το ποιος κατέχει τις βάσεις δεδομένων, πώς τις χρησιμοποιεί και τι δυνατότητες άσκησης ελέγχου έχουν οι κοινωνίες και οι πολιτείες πάνω σε αυτά.
Η νέα τεχνολογία της Τεχνητής Νοημοσύνης έχει τεράστια δύναμη χειραγώγησης. Είναι η πιο κατάλληλη για να αφαιρέσει κάποιος και το παραμικρό περιθώριο ελευθερίας από τον άνθρωπο και να επιβάλει καθολικό έλεγχο στους πολίτες. Αν δεν υπάρξουν οι κατάλληλοι μηχανισμοί ελέγχου της τεχνολογίας αυτής από την κοινωνία, μπορεί εύκολα να χρησιμοποιηθεί ως πολιτικό μέσον για την εγκαθίδρυση ψηφιακών τυραννιών.
Για να κάνω κατανοητό ότι οι παραπάνω κίνδυνοι είναι ήδη εδώ και είναι πολύ σημαντικοί, θα δανειστώ δύο αναφορές από το εξαιρετικό βιβλίο του Γιώργου Χατζηβασιλείου «Φιλοσοφία της Τεχνητής Νοημοσύνης», των εκδόσεων Διόπτρα.
Στην Κίνα, από το 2010 λαμβάνει χώρα ένα πείραμα επιτήρησης πολιτών, θεσμών και επιχειρήσεων. Το κράτος μέσω της Τεχνητής Νοημοσύνης και ενός «συστήματος μονάδων αξιολόγησης» αξιολογεί και καταγράφει κάθε κίνησή τους στο διαδίκτυο. Αν ο πολίτης μιλάει επιθετικά, αν μιλάει ο ίδιος ή οι φίλοι του αντιπολιτευτικά, αν αγοράζει αλκοόλ, αν έχει απλήρωτους φόρους, αν έχει ανεξόφλητα δάνεια και άλλα πολλά, καθώς και τα αντίστροφά τους, καταγράφονται στο σύστημα και μοριοδοτούνται θετικά ή αρνητικά ώστε στο τέλος να προκύπτει το λεγόμενο «Σκορ Κοινωνικής Αξιοπιστίας». Αυτό λειτουργεί περίπου όπως σ’ εμάς παλαιότερα το «Πιστοποιητικό Κοινωνικών Φρονημάτων». Με χαμηλό σκορ δεν μπορεί ο
πολίτης να εργαστεί σε οποιαδήποτε θέση, δεν μπορεί να επιλέξει πού θα σπουδάσει, δεν μπορεί εύκολα να βρει διαμέρισμα ή να πάρει τραπεζικό δάνειο και δεν μπορεί να ταξιδέψει στο εξωτερικό. Τόσο ωραία! Η άλλη περίπτωση έρχεται από το 2016 και αφορά το τεράστιο σκάνδαλο «Cambridge Analytica», μιας εταιρείας πολιτικής επικοινωνίας με πελάτες τότε, μεταξύ άλλων, τις ομάδες προεκλογικού αγώνα του Ντόναλντ Τραμπ και του Brexit. Η εταιρεία αυτή προμηθεύτηκε παράνομα από το Facebook τα δεδομένα που είχε συγκεντρώσει από τους χρήστες στις ΗΠΑ και τη Μ. Βρετανία. Μέσα από τα δεδομένα αυτά η Cambridge Analytica είχε πλέον το ψυχογράφημα των χρηστών που την ενδιέφεραν. Εντόπισε λοιπόν τους αναποφάσιστους ψηφοφόρους που έτειναν εκλογικά προς Τραμπ και Brexit στις δύο χώρες και τους πλημμύρισε πάλι μέσω Facebook με κύματα ψευδών ειδήσεων· ειδήσεων που έβλεπαν μόνον αυτοί. Τους παρουσίασε ως αληθινά γεγονότα ανύπαρκτα εγκλήματα μεταναστών, έδειξε ειδήσεις που ανέφεραν ψευδώς ότι η Τουρκία είναι μέλος της ΕΕ, εμφάνισε εισροές τρομοκρατών από τη Μέση Ανατολή στη Δύση κ.ά. Αυτοί λοιπόν οι ψηφοφόροι συσπειρώθηκαν και πήγαν στις κάλπες τάχα «ελευθέρα βουλήσει» και θεωρώντας ότι έχουν έγκυρη γνώση της πραγματικότητας.
Στην πραγματικότητα όμως η Τεχνητή Νοημοσύνη είχε «χακάρει» τον νου,τα συναισθήματα, τους φόβους και βέβαια την πολιτική τους ψήφο. Τόσο απλά!
* Δρ. Μηχανικός
τ. Δ/ντής ΔΕΔΔΗΕ Α.Ε