ΚΟΙΝΩΝΙΑ και ΤΕΧΝΟΛΟΓΙΑ: Μπορεί ο αλγόριθμος να εκδώσει δικαστική απόφαση;
Η τεχνητή νοημοσύνη (ΤΝ) αξιοποιείται –ή μπορεί να αξιοποιηθεί– σε ευρύ φάσμα λειτουργιών του συστήματος δικαιοσύνης: από την ανωνυμοποίηση εγγράφων και την «έξυπνη» αυτοματοποίηση διαδικασιών έως την «προβλεπτική ανάλυση» δικαστικών αποφάσεων ή τη συμμετοχή συστημάτων ΤΝ στη διαδικασία σχηματισμού της δικαστικής κρίσης.
Σαφώς, η εκάστοτε χρήση εγείρει διαφορετικής φύσης και έντασης ανησυχίες σε σχέση με την επίδρασή της στα δικαιώματα των ατόμων, αλλά και τη συμβατότητά της με βασικές επιταγές του δικαιικού συστήματος, όπως π.χ. η διασφάλιση της «δίκαιης δίκης». Για παράδειγμα, ένα σύστημα ΤΝ, όπως το λογισμικό COMPAS που χρησιμοποιείται στις ΗΠΑ για την αξιολόγηση του κινδύνου υποτροπής κατηγορουμένων, ενέχει αναμφίβολα περισσότερους κινδύνους για τις ελευθερίες του ατόμου σε σύγκριση με τη χρήση ενός διαλογικού ρομπότ (chatbot) στην ιστοσελίδα ενός δικαστηρίου.
Τα ηθικά και νομικά διλήμματα εντείνονται όσο η συζήτηση για τη χρήση της ΤΝ πλησιάζει στον πυρήνα του συστήματος δικαιοσύνης, τη λήψη δικαστικών αποφάσεων. Η ανησυχία για ένα δυστοπικό μέλλον, στο οποίο η δικαστική εξουσία θα ανατεθεί εξ ολοκλήρου σε συστήματα ΤΝ είναι, χωρίς αμφιβολία, δικαιολογημένη, εάν λάβει κανείς ιδίως υπόψη ένα –εγγενές;– χαρακτηριστικό των συστημάτων ΤΝ: την αδιαφάνεια που θα καθιστούσε ανέφικτο τον ουσιαστικό έλεγχο της διαδικασίας λήψης μιας απόφασης από τον «ηλεκτρονικό δικαστή».
Επιτυγχάνει όμως ένα «ευφυές» σύστημα το ζητούμενο της αντικειμενικής και αμερόληπτης κρίσης;
Ενα σύστημα ΤΝ θα εκπαιδευτεί κατ’ αρχήν με βάση δεδομένα, τα οποία προέρχονται από προηγούμενες δικαστικές αποφάσεις που συχνά περιλαμβάνουν –όχι απαραιτήτως εμφανείς– προκαταλήψεις εις βάρος ατόμων ή ομάδων ή και παρωχημένες κοινωνικές αντιλήψεις.. Συνεπώς, φαντάζει ιδιαίτερα δύσκολο ένα σύστημα ΤΝ που βασίζεται σε δεδομένα που είναι ήδη εμποτισμένα με συγκεκριμένες τάσεις, να οδηγεί σε αποφάσεις που δεν θα τις αναπαράγουν.
Το πρόβλημα επιτείνει η λεγόμενη «προκατάληψη υπέρ της αυτοματοποίησης» (automation bias), η οποία οδηγεί τους χρήστες ενός συστήματος ΤΝ να εμπιστεύονται υπέρμετρα τα αποτελέσματα ή τις συστάσεις του και να μην αμφισβητούν την «κρίση» του.
Λαμβάνοντας υπόψη την τρέχουσα στάθμη της τεχνολογίας, η πλήρης υποκατάσταση του ανθρώπου – δικαστή από ένα σύστημα ΤΝ φαντάζει τεχνολογικά μη εφικτό αλλά και δικαιοπολιτικά μη αποδεκτό ενδεχόμενο, καθώς η πολυπλοκότητα της νομικής σκέψης, αλλά και του ίδιου του πλαισίου των κανόνων και των περιστατικών που καλείται να ερμηνεύσει ένας δικαστής, δεν φαίνεται να μπορεί να αντιμετωπιστεί από τον ηλεκτρονικό ανάλογό του. Αυτό όμως δεν θα πρέπει να ανασχέσει την αξιοποίηση υπαρκτών και πιθανών οφελών από τη χρήση συστημάτων ΤΝ σε επιμέρους στάδια και πτυχές της Δικαιοσύνης. Ακριβέστερα, ο στόχος πρέπει να συνίσταται ακριβώς στη βελτιστοποίηση αυτών των σταδίων, π.χ. μέσω της ενίσχυσης της ευρύτερης και ουσιώδους κατανόησης της νομοθεσίας και των ποικίλων συσχετισμών μεταξύ νομοθετικών κειμένων και δικαστικών αποφάσεων ή ακόμη και της υποστήριξης της δικαιοδοτικής διαδικασίας με χαρακτηριστικά προβλεπτικής ανάλυσης.
Η Ευρωπαϊκή Επιτροπή επιχειρεί να προσεγγίσει ορισμένα από τα ζητήματα αυτά μέσω της πρότασης κανονισμού για την τεχνητή νοημοσύνη. Πρόκειται για την πρώτη προσπάθεια να ρυθμιστεί δεσμευτικά η χρήση συστημάτων ΤΝ, υιοθετώντας μια «προσέγγιση με βάση τον κίνδυνο». Σύμφωνα με την πρόταση της Επιτροπής, τα συστήματα που αναπτύσσονται στο πλαίσιο της Δικαιοσύνης ανήκουν εξ ορισμού σε επίπεδο «υψηλού κινδύνου», υπαγόμενα σε ένα αυστηρό(;) κανονιστικό πλαίσιο. Με τις θετικές και τις αρνητικές πτυχές της, η επιλογή αυτή αναμένεται να αποτελέσει τη βάση για την οριοθέτηση της σχέσης μεταξύ ΤΝ και Δικαιοσύνης.
Οι προβληματισμοί σχετικά με τη χρήση ΤΝ στη Δικαιοσύνη εδράζονται σε δικαιοπολιτικούς και φιλοσοφικούς στοχασμούς που είναι ανεξάρτητοι και προγενέστεροι του νέου τεχνολογικού κύματος. Η ποιότητα, η ταχύτητα, η αποτελεσματικότητα και η ανεξαρτησία του συστήματος Δικαιοσύνης, η αποφυγή διακρίσεων, η αμεροληψία των δικαστών και η δυνατότητα κατανόησης του σκεπτικού των αποφάσεών τους αποτελούν σημεία προβληματισμού ανεξαρτήτως της χρήσης ΤΝ.
Εν προκειμένω, η ΤΝ λειτουργεί ως...
ΕΛΛΗΝΟΦΩΝΟ ΚΩΛΟΧΑΝΕΙΟ: Ελληνικό παράδοξo παραγωγικότητας
Του ΠΑΣΧΟΥ ΜΑΝΔΡΑΒΕΛΗ
Ηταν το μακρινό 1987, όταν ο διάσημος οικονομολόγος Ρόμπερτ Σόλοου διαπίστωσε ότι «σήμερα μπορείς να βρεις την πληροφορική εποχή παντού, εκτός από τους δείκτες παραγωγικότητας».
Το επονομασθέν «παράδοξο της παραγωγικότητας» έγινε ακόμη πιο σκοτεινό όταν το 1993 ένας άλλος Αμερικανός οικονομολόγος μέτρησε ότι μεταξύ 1970 και 1980 η εγκατεστημένη υπολογιστική ισχύς στις ΗΠΑ εκατονταπλασιάστηκε, αλλά η παραγωγικότητα της εργασίας μειώθηκε από το 3% τη δεκαετία του ’60 στο 1% τη δεκαετία του ’80.
Οπως είναι φυσικό, το παράδοξο του Σόλοου συζητήθηκε εκτενώς μεταξύ των οικονομολόγων, πριν το διαψεύσει η ζωή. Τις επόμενες δύο δεκαετίες (1990-2010) παρατηρείται έκρηξη της παραγωγικότητας μαζί με την αλλαγή του εργασιακού τοπίου. Καταργήθηκαν χιλιάδες θέσεις μεσαίων στελεχών, οδηγώντας τον Τζέρεμι Ρίφκιν να γράψει «Το τέλος της εργασίας» (1995), ενώ σταδιακά με τις νέες ηλεκτρονικές πλατφόρμες άρχισε να κερδίζει έδαφος το μοντέλο του εργαζομένου-επιχειρηματία· πληροφορικάριοι που πληρώνονται ανά έργο, οδηγοί Uber κ.ά.
Δεν θα αναφερθούμε στα πολλά προβλήματα που δημιουργεί στους εργαζομένους η εξέλιξη της τεχνολογίας – ανεργία, ανασφάλεια κ.λπ. Οπως συνέβη και με το «παράδοξο της παραγωγικότητας», υπάρχει υστέρηση μεταξύ της υιοθέτησης μιας τεχνολογίας και των τελικών της αποτελεσμάτων. Θα υπάρξει μια νέα ισορροπία που όμως θα είναι αποτέλεσμα πολιτικής διεκδίκησης. Στην άλλη πλευρά της εξίσωσης, η υιοθέτηση νέων παραγωγικών εργαλείων δημιουργεί ένα παράθυρο κερδοφορίας στις επιχειρήσεις, αλλά μετά –λόγω ανταγωνισμού– το όφελος διαχέεται στους καταναλωτές, είτε με μείωση της τιμής του προϊόντος είτε με μηδενισμό του κόστους των συναλλαγών, όπως γίνεται διά της ηλεκτρονικής τραπεζικής (web banking).
Το «ελληνικό παράδοξο της παραγωγικότητας» είναι διαφορετικό από εκείνο του Σόλοου. Στη χώρα μας «μπορείς να βρεις την πληροφορική εποχή παντού, εκτός από την τσέπη μας».
Οι τράπεζες, για παράδειγμα, έχουν τεράστια μείωση κόστους από το web banking, μείωση την οποία οι πελάτες τους όχι μόνο δεν βλέπουν, αλλά αντιθέτως την πληρώνουν. Συναλλαγές οι οποίες γίνονταν δωρεάν στο γκισέ (φορτώνοντας τις τράπεζες με ενοίκια, φως, νερό, τηλέφωνο, μισθούς υπαλλήλων, εισφορές κ.λπ.) τώρα τις κάνει μόνος του ο καταναλωτής και επιβαρύνεται γι’ αυτές! Μάλιστα, κατ’ αποκοπήν: 0,50 ευρώ για λογαριασμό ρεύματος 40 ευρώ, 0,50 και για 2.000 ευρώ. Είναι κατ’ ουσίαν ένας...
ΕΛΛΗΝΟΦΩΝΟ ΚΗΦΗΝΑΡΟΠΛΗΚΤΟ ΚΩΛΟΧΑΝΕΙΟ: H Βασίλισσα και Υπηρέτης όλων των επιστημών ΠΛΗΡΟΦΟΡΙΚΗ, στην χώρα του Υπαρκτού Ελληνισμού
Toυ Ανδρέα Δρυμιώτη
Ο Alan Turing θεωρείται ο πατέρας της Πληροφορικής. Είναι κρίμα που αυτός ο ιδιοφυής επιστήμονας υποχρεώθηκε να αυτοκτονήσει –δαγκώνοντας ένα δηλητηριασμένο με κυάνιο μήλο, εξ ου και προς τιμήν του το λογότυπο της Apple– αφού προηγουμένως υποβλήθηκε σε χημικό ευνουχισμό, λόγω της ομοφυλοφιλίας του. Στο ευρύ κοινό έγινε γνωστός από το κινηματογραφικό έργο «Imitation Game», όπου ήταν επικεφαλής σε μια ομάδα επιστημόνων οι οποίοι εργαζόταν στο Bletchley Park στον Β΄ Παγκόσμιο Πόλεμο και «έσπασαν» τη γερμανική κρυπτογραφική μηχανή «Enigma», με συνέπεια οι σύμμαχοι να αποκτήσουν ένα τεράστιο πλεονέκτημα και να επιταχύνουν την κατάρρευση του Αξονα.
Αυτά είναι λίγο πολύ γνωστά από τον κινηματογράφο. Η ιστορία όμως αυτή έχει τεράστιο βάθος. Η ομάδα στο Bletchley Park ήταν πολυπληθής. Εκτός από μαθηματικούς, κρυπτογράφους και αναλυτές που θα περίμενε να βρει κάποιος σε ένα τέτοιο περιβάλλον, υπήρχαν τρεις πρωταθλητές σκακιού, ένας Αιγυπτιολόγος, λογοτέχνες και ποιητές, ψυχολόγοι, ακόμα και αυτός που πήρε κάποιο βραβείο γιατί έλυσε ένα πολύ δύσκολο σταυρόλεξο! Η κρυπτογράφηση με το Enigma άλλαζε κάθε 24 ώρες και ο πρωτόλειος υπολογιστής του Bletchley Park δεν μπορούσε να επεξεργαστεί όλους τους πιθανούς συνδυασμούς μέσα σε 24 ώρες. Ετσι, κάθε μέρα ξεκινούσαν από το απόλυτο μηδέν.
Δεν θα μπορούσα να τελειώσω αυτή την ωραία ιστορία χωρίς να σας δώσω μια ενδιαφέρουσα πληροφορία.
Η Πληροφορική όμως έχει γίνει πολύ, μα πολύ πολύπλοκη. Με τις ραγδαίες εξελίξεις δεν υπάρχει κανένας που να μπορεί να ισχυριστεί ότι καλύπτει όλα τα θέματα της Πληροφορικής. Ούτε να τα απαριθμήσω μπορώ. Απλά, μετά λόγου γνώσεως, σας λέω ότι μέχρι να τελειώσει τις σπουδές του ένας φοιτητής, αυτά που έμαθε θα είναι ξεπερασμένα! Στη δική μου εποχή, όταν οι εξελίξεις δεν είχαν την ίδια ταχύτητα, προσωπικά χρειάστηκε να αυτο-επανεκπαιδευτώ τουλάχιστον πέντε φορές! Αυτό που πρέπει να μάθει ένας σημερινός φοιτητής είναι «να μάθει να μαθαίνει», γιατί η μελλοντική επαγγελματική δραστηριότητά του θα απαιτήσει την επανεκπαίδευσή του τουλάχιστον 8-10 φορές, όπως προβλέπουν οι ειδικοί!
Δεν σκοπεύω να πάρω θέση στην αντιπαράθεση γιατί από τα γραπτά είναι ολοφάνερο ότι μόνο εκπαιδευτικοί δεν είναι οι λόγοι για τη δημιουργία ή την κατάργηση τμημάτων. Και αυτό είναι άλλο ένα καρφί στο φέρετρο που έχουμε ενταφιάσει την παιδεία μας με καταστροφικές συνέπειες για το μέλλον της χώρας. Συμμερίζομαι την αγανάκτηση των φοιτητών για την αναστάτωση που φέρνει στη ζωή τους η κατάργηση του τμήματος που παρακολουθούν, αλλά βρίσκω μάλλον μελοδραματικό το «μην παίζετε με τις ζωές μας».
Οι καθηγητές υπερασπίζονται το τμήμα επαναλαμβάνοντας τον «διεπιστημονικό χαρακτήρα» του. Αυτό είναι ολέθριο λάθος! Η απόδειξη είναι εύκολη διά της «εις άτοπον απαγωγής». Το τμήμα έχει χαρακτήρα «διεπιστημονικό», δηλαδή εκπαιδεύει στη «Διαχείριση Πολιτισμικού Περιβάλλοντος» και στις «Νέες Τεχνολογίες» οι οποίες αφορούν την Πληροφορική, όπως διαπιστώνουμε από τα μαθήματα. Εχουμε ήδη θεμελιώσει ότι η Πληροφορική από μόνη της είναι εξαιρετικά πολύπλοκη επιστήμη που απαιτεί πολλή εξειδίκευση και είναι απαραίτητη σχεδόν σε όλες τις υπόλοιπες επιστήμες. Δεν μπορεί να την αντιμετωπίζουμε σαν διεπιστημονική «τσόντα». Με την ίδια λογική θα έπρεπε να δημιουργήσουμε νέα εκπαιδευτικά τμήματα για «Νευροχειρουργική και Νέες Τεχνολογίες», «Πολιτικών Μηχανικών και Νέες Τεχνολογίες», «Ηλεκτρολόγων Μηχανικών και Νέες Τεχνολογίες» κ.ο.κ. καταλήγοντας φυσικά στο άτοπον.
Υπάρχει όμως και ένα άλλο πολύ ουσιαστικό θέμα. Πού θα βρουν δουλειά οι απόφοιτοι;
Και αν δεν βρίσκουν δουλειά οι απόφοιτοι, όπως παραδέχονται οι καθηγητές τους –«…για αυτούς τους φοιτητές και αποφοίτους του ΤΔΠΠ&ΝΤ που συναντούν ήδη δυσκολίες στην αγορά εργασίας, όταν οι υποψήφιοι εργοδότες τους αναφέρονται στο καταργηθέν τμήμα…»– είναι γιατί υπάρχει αναντιστοιχία μεταξύ σπουδών και αγοράς εργασίας, όπως πολύ σωστά επισημαίνει ο φίλος Πάσχος: «Σε όλον τον –ελεύθερο, τουλάχιστον– κόσμο είναι τα ίδια τα πανεπιστήμια, και μάλιστα τα Συμβούλια Ιδρυμάτων τους, που αποφασίζουν τη δημιουργία κάποιου τμήματος… (όταν) βλέπουν (ξανά: θου Κύριε…) τις ανάγκες της αγοράς και αποφασίζουν».
Στις φετινές Πανελλήνιες στο 40% των Τμημάτων μπήκαν φοιτητές που έγραψαν κάτω από τη βάση. Από τους 81.413 επιτυχόντες, υπολογίζεται ότι οι 25.000 έγραψαν κάτω από τη βάση και σε κάποιο τμήμα πέτυχε κάποιος με λευκή κόλλα!
ΕΛΛΗΝΟΦΩΝΟ ΤΡΙΤΟΚΟΣΜΙΚΟ ΚΩΛΟΧΑΝΕΙΟ: Ηλεκτρονική Διακυβέρνηση στην Ελλάδα
Γιατί οι εταιρείες πληροφορικής εμπλέκονται σε έργα του δημοσίου τομέα;
Ετσι ξεκίνησε η πληροφορική στην Ελλάδα. Τέλη της δεκαετίας του ’60, όλη τη δεκαετία του ’70 και μέχρι τα μέσα της δεκαετίας του ’80, οι μοναδικοί υπολογιστές ήταν πανάκριβα main frames που μόνο το Δημόσιο, οι τράπεζες (πολλές ήταν κρατικές) και πολύ μεγάλες επιχειρήσεις μπορούσαν να αντέξουν οικονομικά. Για τον λόγο αυτό οι εταιρείες που δραστηριοποιούνταν στην Ελλάδα: ΙΒΜ, UNIVAC, Control Data, Honeywell-Bull στόχευαν κατά κύριο λόγο το Δημόσιο. Στην εταιρεία μας Ηλεκτρονικοί Διερευνηταί Δοξιάδη Α.Ε., η οποία αντιπροσώπευε την UNIVAC, είχαμε προμηθεύσει και εγκαταστήσει συστήματα στα υπουργεία Δημοσίων Εργων, Παιδείας, Δημοσίας Τάξεως, στον ΟΤΕ, στο ΝΑΤ, στο Ταχυδρομικό Ταμιευτήριο, στην Εθνική Στατιστική Υπηρεσία, στη Μηχανογραφική Υπηρεσία Φορολογίας (ΜΥΦ), στο Αλουμίνιο της Ελλάδος, στην Εθνική Ασφαλιστική και αλλού. Πέρα από την προμήθεια, η συντήρηση του hardware σε δολάρια εξασφάλιζε ένα σημαντικό μηνιαίο έσοδο. Το λογισμικό δινόταν δωρεάν! Τα προβλήματα άρχισαν με τη διακυβέρνηση του ΠΑΣΟΚ το 1981. Οι διαγωνισμοί προέβλεπαν προμήθεια σε δραχμές και συντήρηση σε δραχμές! Με τη συνεχή υποτίμηση της δραχμής, οι διαγωνισμοί του Δημοσίου κατάντησαν πρακτικά ασύμφοροι. Η προμήθεια του hardware ήθελε περίπου 6 μήνες, δηλαδή από τη συμμετοχή στον διαγωνισμό μέχρι την παραλαβή μπορούσαν να περάσουν και 18 μήνες, πράγμα που καθιστούσε αδύνατη την πρόβλεψη του συναλλαγματικού κινδύνου.
Στα αρχικά στάδια ο ανταγωνισμός ήταν υγιής και το όφελος ήταν αμοιβαίο. Αργότερα, όταν αυξήθηκαν δυσανάλογα οι παίκτες και «μολύνθηκε» ο ανταγωνισμός, πιστεύω ότι και τα δύο μέρη ζημιώθηκαν. Αυτό είναι ολοφάνερο σήμερα όπου οι περισσότερες εταιρείες πληροφορικής έχουν κλείσει.
ΚΟΣΜΟΣ - ΕΣΘΟΝΙΑ: O ψηφιακός πιονέρος με 48 χρόνια ανεξαρτησίας σε 7 αιώνες - Τι συμβαίνει σήμερα εκεί που εφευρέθηκε το Skype;
ΤΕΧΝΟΛΟΓΙΑ και ΚΟΙΝΩΝΙΑ: Το ανθρώπινο σύννεφο
ΤΕΧΝΟΛΟΓΙΑ και ΚΟΙΝΩΝΙΑ: H Τεχνητή Νοημοσύνη είναι σαν ένα όπλο. Μη σας φοβιζει το όπλο αλλά αυτοί που το κρατούν! ( Artificial intelligence is like a weapon. Worry about the people wielding it.)
Ορισμένοι άνθρωποι ανησυχούν ότι όταν τα ρομπότ αποκτήσουν την ικανότητα να αυτοπρογραμματίζονται, θα συνειδητοποιήσουν ότι οι άνθρωποι είναι άχρηστοι και θα θελήσουν να μας ξεφορτωθούν.
Άλλοι πιστεύουν ότι την ημέρα που τα ρομπότ θα αποκτήσουν νοημοσύνη -όταν έρθει, δηλαδή, η στιγμή της τεχνολογικής μοναδικότητας- οι άνθρωποι θα γίνουν ένα με τον υπολογιστή, παντογνώστες και αθάνατοι.
Νομίζω ότι όλοι κάνουν λάθος. Τα πράγματα δεν θα εξελιχθούν έτσι. Το μέλλον της τεχνητής νοημοσύνης θα είναι πολύ πιο κοινότυπο, ή ακόμη και εξαιρετικά λυπηρό.
Οι ανθρώπινες φαντασιώσεις για τα ρομπότ πηγάζουν από την κοινή παρανόηση ότι αυτά εργάζονται για την "αλήθεια" ή για κάποιο είδος επιστημονικής αντικειμενικότητας - ή τουλάχιστον ότι υποτάσσονται σε κάποιο αφηρημένο τρίτο μέρος. Από αυτό το σημείο, δεν θέλει πολύ για να σκεφτεί κάποιος ότι θα μεταφέρουν την υποταγή τους στον εαυτό τους, ή τουλάχιστον θα τη στρέψουν ενάντια στους ανθρώπους.
Η πραγματικότητα είναι πολύ διαφορετική:
Η τεχνητή νοημοσύνη είναι ένα εργαλείο, συχνά ένα όπλο, που στοχεύει σε ορισμένους ανθρώπους και ελέγχεται από άλλους. Η καραμπίνα μπορεί να χρησιμεύσει ως λογική μεταφορά: μπορεί να χρησιμοποιηθεί για τη διατήρηση της ειρήνης ή την καταστολή αλλά σε κάθε περίπτωση είναι στραμμένη από κάποιον προς κάποιον άλλο. Η μεγαλύτερη διαφορά είναι η κλίμακα. Ένας αλγόριθμος μπορεί να κατασκευαστεί μία φορά, μέσα σε ένα επιστημονικό εργαστήριο, και έπειτα να "εξαπολυθεί" σε δισεκατομμύρια ανθρώπους ταυτόχρονα.
Το μάρκετινγκ της τεχνητής νοημοσύνης τείνει να συσκοτίζει τη φύση της. Είτε χρησιμοποιούνται για την επιλογή ειδήσεων, είτε για τη στοχευμένη διαφήμιση, είτε για την αναγνώριση πιθανών εγκληματιών, οι αλγόριθμοι παρουσιάζονται ως εργαλεία αντικειμενικότητας, που δεν στοχεύουν συγκεκριμένα σε κάποιον, ούτε ελέγχονται συγκεκριμένα από κάποιον. To πρόσωπο αυτών που κρατούν τις καραμπίνες τείνουν να είναι κρυμμένα –συχνά βάσει σχεδιασμού. Αν τους βλέπαμε καθαρά, μπορεί να μην μας άρεσε η θέα.
Τα καλά νέα είναι ότι δεν χρειάζεται να φοβόμαστε την Αποκάλυψη των ρομπότ με τον τρόπο που είναι κοινά αντιληπτή. Οι άνθρωποι δεν θα κατασκευάσουν ρομπότ ικανά να προδώσουν τους ιδιοκτήτες τους, όπως ακριβώς δεν θα σχεδίαζαν μια καραμπίνα με μια κάννη που στρέφεται προς το πρόσωπο που πυροβολεί.
Οι άνθρωποι δεν παραδίδουν την εξουσία εθελοντικά. Αντίθετα, προσπαθούν να συγκαλύψουν την εξουσία, παρουσιάζοντας την ως αβλαβή.
Τα κακά νέα είναι ότι...
ΤΕΧΝΟΛΟΓΙΑ και ΚΟΙΝΩΝΙΑ: Οι τρεις προκλήσεις που απειλούν το διαδίκτυο
Του Sir Tim Berners-Lee/ World Wide Web Foundation
Δημιουργού του διαδικτυου!
Φαντάστηκα το διαδίκτυο ως μια ανοιχτή πλατφόρμα που θα επέτρεπε σε όλους, παντού, να μοιράζονται πληροφορίες, ευκαιρίες πρόσβασης και να συνεργάζονται πέρα από γεωγραφικά και πολιτιστικά σύνορα.
Με πολλούς τρόπους, το διαδίκτυο έχει ζήσει μέχρι σήμερα αυτό το όραμα, αν και υπήρξε μια επαναλαμβανόμενη μάχη για να κρατηθεί ανοικτό. Αλλά κατά τη διάρκεια των τελευταίων 12 μηνών, ανησυχώ όλο και περισσότερο για τρεις νέες τάσεις, οι οποίες πιστεύω ότι πρέπει να αντιμετωπιστούν προκειμένου το διαδίκτυο να εκπληρώσει τις πραγματικές δυνατότητές του ως ένα εργαλείο που εξυπηρετεί όλη την ανθρωπότητα.
1) Χάσαμε τον έλεγχο των προσωπικών μας δεδομένων
Το σημερινό επιχειρηματικό μοντέλο για πολλές ιστοσελίδες προσφέρει δωρεάν το περιεχόμενο τους με αντάλλαγμα τα προσωπικά μας δεδομένα. Πολλοί συμφωνούμε σε αυτό –συχνά με την αποδοχή μακροσκελών και μπερδεμένων εγγράφων με όρους και προϋποθέσεις- αλλά ουσιαστικά δεν μας πειράζει να συλλέγονται κάποιες πληροφορίες μας σε αντάλλαγμα των δωρεάν υπηρεσιών. Όμως, ξεχνάμε ένα κόλπο. Καθώς τα δεδομένα μας στη συνέχεια αποθηκεύονται σε ιδιόκτητα σιλό, χωρίς την επίβλεψή μας, συνειδητοποιούμε ότι χάνουμε τα οφέλη που θα απολαμβάναμε θα αν είχαμε άμεσο έλεγχο σε αυτά τα δεδομένα, και επιλέγαμε πότε και με ποιον θα τα μοιραζόμαστε. Επιπλέον, συχνά δεν υπάρχει κανένας τρόπος να πάρουμε πίσω από τις εταιρίες τα δεδομένα που μάλλον δεν θα μοιραζόμασταν- ειδικά με τρίτους- οι «Όροι και Προϋποθέσεις» τα ζητούν όλα και δεν δίνουν τίποτα με λίγα λόγια.
Αυτή η εκτεταμένη συλλογή δεδομένων από τις εταιρείες έχει και άλλες επιπτώσεις. Μέσω της συνεργασίας – ή του εξαναγκασμού- οι εταιρείες ή οι κυβερνήσεις παρακολουθούν όλο και περισσότερο κάθε κίνησή μας σε απευθείας σύνδεση, περνώντας ακραίους, πολλές φορές, νόμους που ποδοπατούν τα δικαιώματά μας στην ιδιωτικότητα. Σε καταπιεστικά καθεστώτα, είναι εύκολο να δει κανείς τον ισχυρό αντίκτυπο όλων αυτών, όπως bloggers που μπορεί να συλληφθούν ή να σκοτωθούν και πολιτικοί αντίπαλοι που μπορεί να παρακολουθούνται. Αλλά ακόμη και σε χώρες όπου πιστεύουμε ότι οι κυβερνήσεις θέτουν στο επίκεντρο το συμφέρον των πολιτών, βλέποντας το συνολικά, πάντα η κατάσταση πηγαίνει όλο και πιο μακριά. Αυτό δημιουργεί δυσάρεστες επιπτώσεις στην ελευθερία του λόγου και το διαδίκτυο σταματά να χρησιμοποιείται ως χώρος εξερεύνησης σημαντικών θεμάτων, όπως ευαίσθητα θέματα υγείας, σεξουαλικότητας ή θρησκείας.
2) Η διάδοση της παραπληροφόρησης είναι πολύ εύκολη στο διαδίκτυο
Σήμερα, οι περισσότεροι άνθρωποι βρίσκουν ειδήσεις και πληροφορίες στο διαδίκτυο μέσω μόνο ενός περιορισμένου αριθμού ιστοσελίδων μέσων ενημέρωσης, κοινωνικών δικτύων και μηχανών αναζήτησης. Οι ιστότοποι αυτοί κερδίζουν περισσότερα χρήματα όταν κάνουμε κλικ στους συνδέσμους που μας προβάλλουν. Και επιλέγουν τι ακριβώς θα μας προβάλλουν βάσει αλγόριθμων που μαθαίνουν για εμάς από τα προσωπικά μας δεδομένα που συνεχώς συλλέγουν. Το καθαρό αποτέλεσμα είναι ότι αυτές οι σελίδες μας δείχνουν το περιεχόμενο που πιστεύουν ό,τι είναι περισσότερο πιθανό να κάνουμε κλικ- πράγμα που σημαίνει ότι η παραπληροφόρηση, ή οι «ψεύτικες ειδήσεις», που συνήθως είναι εκπληκτικές, συγκλονιστικές, ή που έχουν σχεδιαστεί για να ανταποκρίνονται στις προκαταλήψεις μας, μπορούν να εξαπλωθούν σαν πυρκαγιά. Και μέσω της χρήσης της επιστήμης των δεδομένων και στρατών από bots, όσοι έχουν κακές προθέσεις μπορούν να ξεγελάσουν το σύστημα και να διασπείρουν παραπληροφόρηση για οικονομικό ή πολιτικό κέρδος.
3) Η διαδικτυακή πολιτική διαφήμιση χρειάζεται διαφάνεια και κατανόηση
Η πολιτική διαφήμιση μέσω διαδικτύου έγινε γρήγορα μια εξεζητημένη βιομηχανία. Το γεγονός ότι οι περισσότεροι άνθρωποι παίρνουν τις πληροφορίες τους από λίγες μόνο πλατφόρμες ενημέρωσης και η πολυπλοκότητα των αλγορίθμων συνεχώς αυξάνεται αντλώντας στοιχεία προσωπικών δεδομένων, σημαίνει ότι οι πολιτικές εκστρατείες πλέον οικοδομούνται βάσει ατομικών διαφημίσεων στοχεύοντας άμεσα στους χρήστες. Βάσει μιας πηγής, στις αμερικανικές εκλογές του 2016, πάνω από 50.000 παραλλαγές διαφημίσεων προβάλλονταν κάθε μέρα στο Facebook, μια κατάσταση σχεδόν αδύνατον να ελεγχθεί.
Υπάρχουν επίσης στοιχεία τα οποία δείχνουν ότι κάποιες πολιτικές καμπάνιες –τόσο στις ΗΠΑ όσο και αλλού ανά τον κόσμο- χρησιμοποιούνται με ανήθικους τρόπους, για παράδειγμα εκθέτοντας τους ψηφοφόρους σε ψεύτικες ειδήσεις ή κρατώντας τους μακριά από συγκεκριμένες δημοσκοπήσεις.
Η στοχευμένη διαφήμιση επιτρέπει σε μια προεκλογική εκστρατεία να διακηρύσσει εντελώς διαφορετικά πράγματα, ίσως και συγκρουόμενα μεταξύ τους, ανάλογα με το κοινό ή την ομάδα όπου απευθύνεται. Είναι άραγε αυτό δημοκρατικό;
Πρόκειται για σύνθετα προβλήματα, οι λύσεις των οποίων προβλέπονται εξίσου σύνθετες.
Ωστόσο, μερικά μονοπάτια που οδηγούν στην πρόοδο είναι ήδη ξεκάθαρα.
Θα πρέπει...
ΤΕΧΝΟΛΟΓΙΑ και ΚΟΙΝΩΝΙΑ: O κόσμος μας στο έλεος των Χάκερς - Γιατί δεν κάνουμε περισσότερα να τον προστατεύσουμε? (The World Is Getting Hacked. Why Don’t We Do More to Stop It?)
ΤΕΧΝΟΛΟΓΙΑ και ΚΟΙΝΩΝΙΑ: Σχεδόν τα πάντα είναι εκτεθειμένα
ΤΕΧΝΟΛΟΓΙΑ και ΚΟΙΝΩΝΙΑ: Οι χάκερ μπορούν να κλέψουν PIN και τραπεζικούς κωδικούς με τη χρήση κινητού ΜΕ ΤΡΟΠΟΥΣ ΠΟΥ ΔΕΝ ΦΑΝΤΑΖΕΣΤΕ !
Οι χάκερ είναι σε θέση να κλέψουν τα ΡΙΝ και τους διάφορους κωδικούς (passwords) -πχ τους τραπεζικούς- που εισάγει ο χρήστης στο κινητό του, από τον τρόπο και μόνο που γέρνει το τηλέφωνό του όταν πληκτρολογεί.
Η μελέτη βρήκε ότι κάθε κίνηση του χρήστη στην οθόνη αφής, ανάλογα με το πώς κρατά τη συσκευή του (π.χ. με ποιά κλίση) δημιουργεί ένα μοναδικό ίχνος, το οποίο καταγράφεται και μετά μπορεί να υποκλαπεί.
Οι ερευνητές του Πανεπιστημίου του Νιούκασλ, με επικεφαλής τη δρα Μάριαμ Μερνεζάντ, που έκαναν τη σχετική δημοσίευση στο διεθνές περιοδικό ασφάλειας πληροφοριών “International Journal of Information Security”, έδειξαν ότι είναι δυνατό -υποκλέπτοντας μόνο τα δεδομένα που συλλέγουν οι αισθητήρες κίνησης του κινητού- να «σπάσει» κανείς με ακρίβεια 70% το ΡΙΝ του χρήστη από την πρώτη κιόλας απόπειρα.
Μετά από πέντε προσπάθειες, το ποσοστό ανεβαίνει στο 100%, δηλαδή δεν υπάρχει περίπτωση να αποτύχει ο χάκερ.
Οι ερευνητές επισήμαναν ότι...
ΤΕΧΝΟΛΟΓΙΑ και ΚΟΙΝΩΝΙΑ: Η καταπολέμηση των ψευδών ειδήσεων
Παρ’ όλα αυτά, δεν υπάρχει λόγος να απελπιζόμαστε. Αν οι Οργουελ και Σολζενίτσιν κατάφεραν να μην παραδοθούν αντιμέτωποι με την απειλή του Γκέμπελς και του Στάλιν, εμείς θα ήμασταν αξιοθρήνητοι εάν παραδινόμασταν. Υπάρχουν πολλοί τρόποι με τους οποίους μπορούμε να αντιμετωπίσουμε την απειλή του post-fact και αξίζει να αφιερώσουμε το 2017 σε αυτόν τον σκοπό.
Εξίσου σημαντικό είναι να επισημανθεί η ευθύνη που έχουν οι εταιρείες που αποκαλώ «υπερδυνάμεις του ιδιωτικού τομέα», δηλαδή οι Google, Facebook και Twitter.
KOINΩΝΙΑ και ΤΕΧΝΟΛΟΓΙΑ:Αγάπησα έναν αλγόριθμο
Το δίληµµα είναι τόσο παλιό όσο και ο κόσµος. Ας υποθέσουμε πως η Μαρία νιώθει πως τσιλημπούρδισε αρκετά. Αποφάσισε πως έφτασε η ώρα, πως πρέπει επιτέλους να νοικοκυρευτεί. Είναι στην ευχάριστη θέση να έχει επιλογές: Βρίσκεται μεταξύ του Γιώργου και του Κώστα. Της αρέσουν και οι δύο - με διαφορετικό τρόπο ο καθένας. Πρέπει όμως να αποφασίσει ποιος θα είναι ο τυχερός (;), με ποιον θα προσπαθήσει να ευτυχήσει, με ποιον θα επιχειρήσει να περάσει όσο πιο ανώδυνα γίνεται τη ζωή.
Σε μια παλιότερη εποχή, θα ζητούσε τη γνώμη του Θεού. Και έπειτα θα έκανε αυτό που νόμιζε.
Στην τωρινή εποχή, μάλλον θα αποφάσιζε μόνη της, έπειτα από αέναες φιλικές τηλεφωνικές συμβουλές, όπως κάνει κάθε άνθρωπος που πιστεύει στον εαυτό του.
Σε μια (ίσως όχι πολύ μακρινή) εποχή, θα ρωτούσε αυτόν που την ξέρει καλύτερα απ' όλους: την Google. «Ποιον να παντρευτώ; Τον Γιώργο ή τον Κώστα; Μου αρέσουν και οι δύο. Εσύ που ξέρεις τα πάντα, τι προτείνεις;» θα έλεγε ή θα πληκτρολογούσε.
Η Google θα απαντούσε με βαθιά φωνή:
«Σε ξέρω από την ημέρα που γεννήθηκες. Εχω διαβάσει όλα τα e-mail σου, έχω ηχογραφήσει όλα τα τηλεφωνήματά σου. Ξέρω ποιες ταινίες σού αρέσουν, ξέρω το DNA σου, τις βιομετρικές εξετάσεις σου, πώς χτυπάει η καρδιά σου. Ξέρω πότε έκανες τα ραντεβού σου και με τους δύο και αν θέλεις μπορώ να σου δείξω σε ποια σημεία του ραντεβού σού ανέβηκε η πίεση, οι χτύποι της καρδιάς σου έγιναν πιο έντονοι. Γι' αυτό θα ενεργοποιήσω τον αλγόριθμο που θα αποφασίσει. Και κατ' αυτόν, ο Γιώργος έχει περισσότερες πιθανότητες.
Σύμφωνα με τα στοιχεία, έχεις 87% πιθανότητες να είσαι πιο ευτυχισμένη μαζί του. Και επειδή σε ξέρω τόσο καλά, είμαι σίγουρος πως δεν σου αρέσει η απάντησή μου. Ξέρω ότι ο Κώστας είναι πολύ πιο όμορφος, ότι στον αξιακό σου κώδικα η εξωτερική εμφάνιση παίζει μεγάλο ρόλο στην επιλογή. Σε ξέρω καλύτερα όμως. Γνωρίζω πως οι βιοχημικοί σου αλγόριθμοι, που εξελίχθηκαν ερήμην σου αιώνες τώρα, δίνουν στην εξωτερική ομορφιά ένα 35% στην επιλογή, ενώ οι τωρινές μου αναλύσεις δίνουν μόλις 14% στην εξωτερική εμφάνιση. Οπότε η απόφασή μου είναι ο Γιώργος, ακόμη και αν δεν σου αρέσει».
Η ιστορία είναι φανταστική ασφαλώς, είναι γραμμένη από τον ισραηλινό ιστορικό Γιουβάλ Νώε Χαράρι, στους «Financial Times», σε μια υπερβολική απόπειρά του να εξηγήσει το πέρασμα της ανθρωπότητας στη νέα εποχή: την εποχή της θρησκείας των αλγόριθμων.
Πριν αρχίσουν οι χαρακτηρισμοί για την τεχνοφοβία, να ξεκαθαρίσουμε πως η τεχνολογία έχει κάνει σαφώς τη ζωή μας πιο εύκολη. Και γι' αυτό της εκχωρούμε χωρίς ιδιαίτερη σκέψη και χωρίς ενόχληση κάθε υπάρχον δεδομένο στις ηλεκτρονικές μας συσκευές. Το δικό μου κινητό ξέρει πού πήγα διακοπές, πόσο αθλούμαι, τι ψάχνω στο Internet, από την αδράνειά του γνωρίζει πόση ώρα κοιμάμαι, τι μαγαζιά προτιμώ και για ποια πράγματα μιλάω την περισσότερη ώρα. Πιθανότατα δεν θεωρεί πως είμαι ιδιαίτερα ενδιαφέρων τύπος, αλλά δεν πειράζει, τα αισθήματα είναι αμοιβαία.
Ο Χαράρι εξηγεί πως για χιλιάδες χρόνια οι άνθρωποι εμπιστεύονταν ως απόλυτη αρχή τον Θεό ή τους θεούς. Επειτα, στη μοντέρνα εποχή, ο ουμανισμός πέρασε τις θεϊκές εξουσίες στους ανθρώπους, στη γνώση, στην επιστήμη. Καταλήξαμε πως οι επιθυμίες και τα συναισθήματά μας μάς ορίζουν, αποφασίσαμε πως η ελεύθερη βούλησή μας είναι η μεγαλύτερη αρχή. Και τώρα, σταδιακά, αλλά στην πραγματικότητα πολύ γρήγορα, μια νέα θεϊκή ύπαρξη έχει παραμερίσει όλες τις ιδεολογίες:














