Το 2013, οι φορολογικές αρχές στην Ολλανδία, χρησιμοποίησαν έναν αλγόριθμο για να εντοπίσουν απάτες μεταξύ πολιτών, που υπέβαλλαν αίτηση για επιδόματα παιδικής μέριμνας. Στόχος ήταν με τον αλγόριθμο να δημιουργήσουν ένα «προφίλ κινδύνου», ώστε να «συλλαμβάνονται» όσοι κάνουν ψευδείς δηλώσεις.
του Μιχάλη Ψύλου
Ο αλγόριθμος με τα κριτήρια για το «προφίλ κινδύνου», συνδέονταν με διάφορους παράγοντες, όπως η διπλή υπηκοότητα και οι οικογένειες με χαμηλό εισόδημα. Με βάση τον αλγόριθμο, οι αρχές άρχισαν να διεκδικούν επιστροφές από οικογένειες που επισημάνθηκαν από το σύστημα, χωρίς όμως να αποδείξουν ότι είχαν διαπράξει κάποια απάτη.
Μόνο, που ο «αλγόριθμος κινδύνου» αποδείχτηκε εσφαλμένος και μεροληπτικός –ιδίως ενάντια σε πολίτες με μεταναστευτικό υπόβαθρο- με αποτέλεσμα οι ολλανδικές αρχές να τιμωρήσουν χιλιάδες οικογένειες ανελέητα, ακόμη και για τα πιο μικρά λάθη, αναγκάζοντάς τις να επιστρέψουν όλα τα επιδόματα παιδικής μέριμνας. Δεκάδες χιλιάδες οικογένειες ωθήθηκαν στη φτώχεια εξαιτίας των υπέρογκων χρεών προς την εφορία. Κάποια από τα «θύματα» αυτοκτόνησαν. Πάνω από 1.000 παιδιά μεταφέρθηκαν σε ανάδοχες οικογένειες.
Πολλές οικογένειες κατέφυγαν στα δικαστήρια και στα τέλη του 2020, δικαιώθηκαν: Ανάμεσά τους η Σερμέν Λέισνερ, με καταγωγή από το Σουρινάμ, η οποία είχε λάβει μια επιστολή από την εφορία που της ζητούσε να επιστρέψει το επίδομα παιδικής φροντίδας από το 2008. Η Λέισνερ, φοιτήτρια τότε, είχε τρία παιδιά κάτω των έξι ετών. Η εφορία τής ζητούσε να επιστρέψει πάνω από 100.000 ευρώ. «Σκέφτηκα: «μην ανησυχείς, κάποιο λάθος έχει γίνει», λέει η Λέισνερ. Μόνο που δεν ήταν λάθος. Ήταν η αρχή για κάτι μεγάλο».
Η Λέισνερ προσέφυγε στη δικαιοσύνη και η δοκιμασία της πήρε εννέα χρόνια από τη ζωή της. Από το άγχος της, η άτυχη Ολλανδέζα παρουσίασε κατάθλιψη. Κατέληξε να χωρίσει με τον πατέρα των παιδιών της. «Δούλευα σαν τρελή για να ξεπληρώσω το χρέος στην εφορία, ώστε να μην στερώ από τα παιδιά μου τουλάχιστον το φαγητό. Αλλά ήταν φορές που τα παιδιά μου πήγαιναν στο σχολεία με τρύπια παπούτσια».
Πλήρωσε η …εφορία
Η δικαιοσύνη έκανε λόγο για το σκάνδαλο «toeslagen» (προσαυξήσεων) και καταδίκασε τον «αλγόριθμο». Το εκκρεμές της εφορίας, γύρισε εντελώς αντίστροφα: με την παραμικρή αίτηση πλέον, οι ολλανδικές αρχές αναγκάζονται να χορηγούν γενναιόδωρες αποζημιώσεις για την παιδική μέριμνα. Ακόμη και αν όντως υπήρχε εξαπάτηση. Το κόστος έχει ανέλθει πλέον στα 5,5 δισ. ευρώ, 11 φορές περισσότερο από ό,τι είχε προϋπολογιστεί πέρυσι. με την υποψία απάτης.
Το σκάνδαλο «toeslagen» έφτασε και στην ολλανδική βουλή. Κοινοβουλευτική έκθεση που εξέτασε τις λίστες με τα επιδόματα παιδικής μέριμνας, εντόπισε αρκετές σοβαρές ελλείψεις, όπως θεσμική μεροληψία και απόκρυψη πληροφοριών ή και παραπλάνηση του Κοινοβουλίου σχετικά με τα γεγονότα. Το σκάνδαλο αυτό άλλωστε ήταν η αιτία που οδήγησε πέρυσι σε παραίτηση την ολλανδική κυβέρνηση του Μαρκ Ρούτε και στην προκήρυξη εκλογών. Χρειάστηκε μάλιστα να περάσουν 299 ημέρες για να σχηματίσει ο Ρούτε την τέταρτη, διαδοχικά, κυβέρνησή του, τον περασμένο Ιανουάριο.
Παράνομες «μαύρες λίστες»
Ενα μήνα πριν τον σχηματισμό της νέας κυβέρνησης, τον Δεκέμβριο του 2021, η ολλανδική υπηρεσία προστασίας δεδομένων επέβαλε μάλιστα πρόστιμο ύψους 2,75 εκατομμυρίων ευρώ στη Φορολογική Διοίκηση για τον «παράνομο, μεροληπτικό και ως εκ τούτου ακατάλληλο τρόπο» με τον οποίο επεξεργαζόταν δεδομένα, σχετικά με τη διπλή ιθαγένεια των αιτούντων επιδόματα παιδικής μέριμνας. Οι ολλανδικές εφημερίδες Trouw και RTL αποκάλυψαν επίσης ότι οι φορολογικές αρχές διατηρούσαν μυστικές «μαύρες λίστες» ατόμων για δύο δεκαετίες, τα οποία παρακολουθούσαν, κυρίως χωρίς λόγο, για να εντοπίσουν «απάτες». Οι πολίτες δεν είχαν τρόπο να μάθουν γιατί είναι στη λίστα ή να υπερασπιστούν τον εαυτό τους. Το σκάνδαλο αυτό αναμένεται να προκαλέσει μάλιστα νέες εντάσεις, καθώς εκπρόσωπος της ολλανδικής Φορολογικής Αρχής είπε ότι η έρευνα για τη «μαύρη λίστα» θα είναι έτοιμη τον Απρίλιο.
Η νέα κυβέρνηση Ρούτε έχει δεσμευτεί να δημιουργήσει έναν νέο ρυθμιστή αλγορίθμου υπό την αρχή προστασίας δεδομένων της χώρας. Η νέα Υπουργός Ψηφιακών Υπηρεσιών της Ολλανδίας, Αλεξάνδρα φαν Χούφελεν, δήλωσε στην ιστοσελίδα Politico ότι «η ρυθμιστική αρχή θα πρέπει να εξετάζει εξονυχιστικά τους αλγόριθμους ,τόσο στον δημόσιο όσο και στον ιδιωτικό τομέα».
Η παρέμβαση της Ε.Ε.
Το ολλανδικό σκάνδαλο δείχνει πόσο καταστροφικά μπορεί να είναι τα αυτοματοποιημένα συστήματα, χωρίς τις κατάλληλες διασφαλίσεις. Σε μια περίοδο μάλιστα, που πολλές κυβερνήσεις στον κόσμο στρέφονται σε αλγόριθμους και τεχνητή νοημοσύνη για να αυτοματοποιήσουν τα συστήματά τους.
Ηδη, η Ευρωπαϊκή Ένωση, η οποία θέλει να θεωρείται ως η κορυφαία ρυθμιστική αρχή τεχνολογίας στον κόσμο, επεξεργάζεται ένα νομοσχέδιο που στοχεύει στον περιορισμό των αλγοριθμικών βλαβών. Η αρμόδια Επίτροπος Μαργκρέτε Βέσταγκερ τόνισε ότι το ολλανδικό σκάνδαλο είναι ακριβώς αυτό που πρέπει να φοβάται κάθε κυβέρνηση.
Η Ευρωπαϊκή Επιτροπή με τον νόμο για την τεχνητή νοημοσύνη (AI), θέλει να περιορίσει τη χρήση των συστημάτων υψηλού κινδύνου και απαγορεύει ορισμένες «μη αποδεκτές» χρήσεις. Οι εταιρείες που παρέχουν συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου πρέπει να πληρούν ορισμένες απαιτήσεις της Ε.Ε.. Όπως λέει όμως η Ολλανδέζα βουλευτίνα Ρένσκε Λέιζτεν , που ανήκει στο Σοσιαλιστικό κόμμα, «το σημαντικό πράγμα που πρέπει να μάθουμε από το σκάνδαλο των επιδομάτων παιδικής μέριμνας είναι ότι δεν ευθύνονταν οι επιχειρήσεις ή ο ιδιωτικός τομέας… Αλλά η κυβέρνηση».
