Λίγο πριν τη σταδιακή εισβολή τους στο λεξιλόγιο των ανθρώπων, έχει προηγηθεί η κατάληψη της… εξουσίας και η διαχείριση μέρους της καθημερινότητας των ανθρώπων, από τους αλγόριθμους.
του Τάσου Οικονόμου
Τι είναι όμως ένας αλγόριθμος; μία σειρά εντολών και ενεργειών με τις οποίες ένας υπολογιστής εκτελεί μία διαδικασία πουσκοπό έχει να λύσει ένα πρόβλημα ή να επιτύχει ένα επιθυμητό αποτέλεσμα. Και δεν εννοούμε μόνο μαθηματικά προβλήματα, καθώς το οτιδήποτε στη ζωή μπορεί να θεωρηθεί πρόβλημα.
Το πέρασμα στην εποχή της τεχνητής νοημοσύνης, έχει φέρει μια «έκρηξη» ολοένα και πιο περίπλοκων αλγόριθμων, που προσπαθούν να εξομοιώσουν όσο γίνεται περισσότερο την ανθρώπινη σκέψη – με τα καλά και τα κακά της- και, ανάμεσα στα άλλα, να κάνουν προβλέψεις
Αλλά αυτό, αντί για την επίλυση ενός προβλήματος, μπορεί να αποδειχθεί προβληματικό το ίδιο, επειδή ο αλγόριθμος επιχειρεί να προβλέψει τη μελλοντική συμπεριφορά μας μόνο με βάση αυτά που έχει μάθει για μας (συχνά χωρίς τη συγκατάθεσή μας), ιδίως μέσω του διαδικτύου και των διαφόρων βάσεων δεδομένων.
Σύμφωνα με έρευνα του Pew Research Center με τη συμμετοχή περισσότερων από χίλιων επιστημόνων και εξειδικευμένων επαγγελματιών στον τομέα της τεχνητής νοημοσύνης και της τεχνολογίας που σχετίζεται με τους αλγόριθμους, αυτά είναι τα σημαντικότερα ευρήματα που απαιτούν ειδική προσέγγιση
– Οι αλγόριθμοι θα συνεχίσουν να επεκτείνονται παντού
– Η προσέγγιση της αξιοποίησης των δεδομένων για την εύρεση λύσεων θα αναπτύσσεται διαρκώς
– Το κριτήριο του ανθρωπισμού και η εμπιστοσύνη στην ανθρώπινη κρίση θα υποχωρεί μπροστά στην «επέλαση» των αλγόριθμων
– Οι προκαταλήψεις των ανθρώπων μεταφέρονται μέσω του προγραμματισμού στους αλγόριθμους
– Δημιουργούν κατηγοριοποιήσεις ανθρώπων με βάση τη λειτουργία τους
– Θα συνεχίσει να αυξάνεται η ανεργία
– Αυξάνεται διαρκώς η ανάγκη για τεχνογνωσία στη δημιουργία αλγορίθμων, στη διαφάνεια και παρακολούθηση της λειτουργίας τους
Πίσω από τις αναζητήσεις της Google έως τα ηλεκτρονικά ψώνια στο Amazon και τις σελίδες του Facebook, βρίσκονται κρυμμένοι άγρυπνοι αλγόριθμοι, που καταγράφουν την ανθρώπινη συμπεριφορά, συγκεντρώνουν τα μεγάλα δεδομένα που δημιουργούνται και… απαντούν με το δικό τους τρόπο. Αν η διαδικτυακή αναζήτησή σας στη Google για παπούτσια ή κινηματογραφικές ταινίες φέρνει τα επιθυμητά αποτελέσματα μέσα σε κλάσματα του δευτερολέπτου και αν το Facebook «ξέρει» τι περιεχόμενο προτιμάτε να δείτε ή το Amazon τι προτιμάτε να αγοράσετε, αυτό οφείλεται στους πανταχού παρόντες αλγόριθμούς τους.
Η προέλευση των αλγόριθμων
Αν και ετυμολογικά η λέξη «αλγόριθμος» παραπέμπει στην άλγεβρα και στον πέρση «πατέρα» της αλ-Χουαρίζμι, στη Βαγδάτη του 9ου αιώνα, σήμερα οι αλγόριθμοι έχουν ξεφύγει πια από την επικράτεια των μαθηματικών και αποτελούν βασική ενασχόληση των ειδικών των υπολογιστών και των προγραμματιστών. Οι «εγκέφαλοι» του λογισμικού είναι αλγόριθμοι και, αφού το λογισμικό «τρυπώνει» παντού, ιδίως στην εποχή του διαδικτύου, οι αλγόριθμοι εισβάλλουν και αυτοί παντού.
Σε τομείς όπως ο χρηματοοικονομικός-τραπεζικός-χρηματιστηριακός οι αλγόριθμοι «βασιλεύουν» και παίρνουν κρίσιμες αποφάσεις μόνοι τους μέσα σε χιλιοστά του δευτερολέπτου, μετακινώντας τεράστια χρηματικά ποσά από τη μία στην άλλη άκρη του πλανήτη – με όποιες επιπτώσεις μπορεί να έχει αυτό σε οικονομίες και ανθρώπους, που εκτίθενται σε απρόβλεπτες διακυμάνσεις κερδοσκοπικού χαρακτήρα.
Οι αστυνομίες όλο και συχνότερα χρησιμοποιούν αλγόριθμους για να προβλέψουν πού θα συμβεί κάποια εγκληματική πράξη και οι μυστικές υπηρεσίες χρησιμοποιούν κατά κόρον τους αλγόριθμους για να παρακολουθούν μαζικά όποιους θεωρούν ύποπτους για τρομοκρατία ή εχθρούς του κράτους. Οι δορυφόροι και τα διαστημόπλοια πετούν χάρη στους αλγόριθμούς τους, ενώ τα ρομπότ θα ήσαν χαζές μηχανές χωρίς τους δικούς τους αλγόριθμους. Τα αυτόνομα αυτοκίνητα χωρίς οδηγό, που θα κυκλοφορούν στους δρόμους στο όχι μακρινό μέλλον, στην ουσία οδηγούνται από αλγόριθμους.
Οι ιατρικοί αλγόριθμοι έχουν αρχίσει να κάνουν διαγνώσεις ασθενειών (π.χ. του καρκίνου του δέρματος) εξίσου καλά με τους γιατρούς, αν όχι καλύτερα. Στις επιχειρήσεις οι αλγόριθμοί κρίνουν ποιός από τους υποψήφιους θα πάρει την κενή θέση εργασίας και ποιός εργαζόμενος θα πρέπει να απολυθεί. Ενώ με τη βοήθεια αλγόριθμων οι ασφαλιστικές εταιρείες αποφασίζουν αν θα ασφαλίσουν κάποιον ή κάτι και με ποιό κόστος.
Στα δικαστήρια οι δικαστές έχουν πια βοήθεια από τους αλγόριθμους για τις αποφάσεις τους και στα καλλιστεία χρησιμοποιήθηκαν οι πρώτοι αλγόριθμοι για να βαθμολογήσουν τις ωραίες, αναφέρει το ειδικό θέμα του Αθηναϊκού Πρακτορείου
Οι κίνδυνοι των αλγόριθμων
Βασική δουλειά των αλγόριθμων είναι να «φιλτράρουν» τον τεράστιο όγκο πληροφοριών, πράγμα χρήσιμο αναμφισβήτητα. Αλλά εδώ επίσης κρύβεται ένας κίνδυνος: οι άνθρωποι σταδιακά ζουν σε ψηφιακά σύμπαντα που οι αλγόριθμοι έχουν δημιουργήσει για τη διευκόλυνση της ζωής μας. Αλλά το τίμημα είναι ότι έτσι περιορίζεται η οπτική γωνία των ανθρώπων, οι πεποιθήσεις τους «στενεύουν», οι υπάρχουσες απόψεις τους απλώς αυτοτροφοδοτούνται από την ηχώ τους, που αντανακλάται στους αόρατους τοίχους της ψηφιακής «φυλακής» τους.
Συχνά οι αλγόριθμοι, όπως αυτοί του Facebook ή του Twitter, δεν μπορούν να διακρίνουν την αλήθεια από το ψέμα, καθώς κρίνουν με βάση πόσο δημοφιλής είναι μια πληροφορία (ή μάλλον παραπληροφόρηση) που διαδίδεται στα μέσα κοινωνικής δικτύωσης. Έτσι, όπως φάνηκε και στην πρόσφατη προεκλογική εκστρατεία στις ΗΠΑ, οι ψευδο-ειδήσεις εξαπλώνονται σαν πυρκαγιά και η μετα-αλήθεια σκεπάζει την αλήθεια.
Ολοένα περισσότερες φωνές ζητούν να υπάρξει μεγαλύτερη διαφάνεια και έλεγχος πάνω στους αλγόριθμους. Γίνεται αντιληπτό ότι οι αλγόριθμοι -που υποτίθεται αποτελούν ένα εργαλείο αντικειμενικότητας- στην πραγματικότητα ενσωματώνουν τις προκαταλήψεις των δημιουργών τους και άρα κάλλιστα μπορεί να αναπαράγουν τις κοινωνικές αδικίες, το ρατσισμό, το σεξισμό κ.α.
Όπως επεσήμανε μια πρόσφατη έκθεση του Λευκού Οίκου των ΗΠΑ, σύμφωνα με το Γαλλικό Πρακτορείο, «τα αλγοριθμικά συστήματα δεν είναι αλάνθαστα. Εξαρτώνται από τις ατέλειες των δεδομένων, της λογικής, των πιθανοτήτων και των ανθρώπων που σχεδιάζουν τους αλγόριθμους». Γι’ αυτό, προειδοποίησε ότι «οι αλγόριθμοι μπορεί συστηματικά να θέτουν σε μειονεκτική θέση συγκεκριμένες ομάδες».
Οι αλγόριθμοι καλούνται να απαντήσουν σε δύσκολα ερωτήματα, που δεν είναι δυνατό να έχουν μία και μοναδική αντικειμενική «λύση». Για παράδειγνμα, το ερώτημα «ποιόν πρέπει να προσλάβει η επιχείρηση;» αναπόφευκτα οδηγεί σε μια υποκειμενική, ανοικτή και αξιολογική απάντηση, ανάλογα με την ηθική και τα κριτήρια κάθε ανθρώπου. Με άλλα λόγια υπάρχουν πολλές «λύσεις». Όμως ο αλγόριθμος μπορεί να έχει «διδαχθεί» να προτιμά μια συγκεκριμένη απάντηση-λύση (π.χ. τους χριστιανούς λευκοούς άνδρες και όχι τιςω μουσουλμάνες μαύρες γυναίκες), την οποία μάλιστα «ντύνει» με τον μανδύα της αντικειμενικότητας.
Με άλλα λόγια, οι αλγόριθμοι μπορούν να πάρουν κακές αποφάσεις, που έχουν σοβαρές επιπτώσεις στις ανθρώπινες ζωές. Όμως οι δημιουργοί των αλγόριθμων -ιδίως οι μεγάλες εταιρείες τεχνολογίας- είναι πολύ μυστικοπαθείς για το πώς δουλεύουν οι αλγόριθμοί τους, προκειμένου να αποτρέψουν την αντιγραφή τους από τους ανταγωνιστές τους.
[…]
