Ο αλγόριθμος είπε στην αστυνομία ότι ήταν ασφαλής. Και μετά ο άντρας της, τη σκότωσε

Το VioGén «στήθηκε» πάνω σε μια ερώτηση: Μπορεί η αστυνομία να προβλέψει την κακοποίηση των γυναικών πριν συμβεί;

Η Ισπανία αποτελεί παράδειγμα για το πώς οι κυβερνήσεις στρέφονται σε αλγόριθμους για να λαμβάνουν κοινωνικές αποφάσεις, μια παγκόσμια τάση που αναμένεται να αναπτυχθεί με την άνοδο της τεχνητής νοημοσύνης. Στις Ηνωμένες Πολιτείες, οι αλγόριθμοι βοηθούν στον καθορισμό των ποινών φυλάκισης, στη ρύθμιση περιπολιών της αστυνομίας και στον εντοπισμό παιδιών που κινδυνεύουν να υποστούν κακοποίηση.

Στην Ολλανδία και τη Βρετανία, οι αρχές έχουν πειραματιστεί με αλγόριθμους για να προβλέψουν ποιοι μπορεί να γίνουν εγκληματίες και να εντοπίσουν άτομα που μπορεί να διαπράττουν απάτες κοινωνικής πρόνοιας.

Λίγα, όμως, από αυτά τα προγράμματα παίρνουν αποφάσεις ζωής ή θανάτου όπως το VioGén. Και στην συγκριμένη περίπτωση, οι θανατηφόρες συνέπειες δεν είναι αμελητέες.

Ο αλγόριθμος, στον οποίο βασίζεται η Ισπανική αστυνομία για να προβλέψει  κατά πόσο είναι πιθανό είναι να κακοποιηθεί ξανά ένα θύμα ενδοοικογενειακής βίας και ποια προστασία πρέπει να παράσχει είχε τραγικό τέλος για μια Ισπανίδα.

Μια, από τις πολλές, αιματηρές ιστορίες

Στις 11 Ιανουαρίου του 2022, ένας καυγάς για τις δουλειές του σπιτιού, κατέληξε σε βίαιο ξυλοδαρμό μιας γυναίκας. Οι κραυγές της ακούστηκαν από τους γείτονες. Τα τέσσερα παιδιά της οικογένειας, ηλικίας 6 έως 12 ετών, βρίσκονταν στο σπίτι.

Όπως κατήγγειλε, αργότερα, στους αστυνομικούς, ο επί 10 χρόνια σύζυγός της, την κακοποιούσε τόσο σωματικά όσο και λεκτικά αποκαλώντας την «πόρνη», «αηδιαστική» και «άχρηστη».

Πριν η γυναίκα φύγει, από το τμήμα, οι αστυνομικοί έκαναν το τεστ του αλγόριθμου, γνωστό ως VioGén. Στόχος να διαπιστωθεί αν κινδύνευε να δεχτεί νέα επίθεση και αν χρειαζόταν αστυνομική προστασία.

Ο αστυνομικός συμπλήρωσε 35 ερωτήσεις, που έπρεπε να απαντηθούν με ένα «ναι» και ένα «όχι». Για παράδειγμα Χρησιμοποιήθηκε όπλο; Υπήρχαν οικονομικά προβλήματα;

Ο αλγόριθμος απεφάνθη: Περίπτωση «χαμηλού ρίσκου».

Η αστυνομία αποδέχτηκε την κρίση του λογισμικού και 32χρονη γυναίκα γύρισε στο σπίτι.

Ο κακοποιητής της φυλακίστηκε εκείνο το βράδυ, και αφέθηκε ελεύθερος την επόμενη μέρα.

Επτά εβδομάδες αργότερα, την μαχαίρωσε θανάσιμα στο στήθος και την κοιλιά, πριν αυτοκτονήσει.

 Αποτελεσματικό αλλά με μοιραία ελαττώματα

Το λογισμικό «κατά της έμφυλης βίας» στο οποίο στηρίζεται η Ισπανική αστυνομία, έχει πράγματι προστατεύσει ευάλωτες γυναίκες και, συνολικά, έχει μειώσει τον αριθμό των επαναλαμβανόμενων επιθέσεων σε υποθέσεις ενδοοικογενειακής βίας.

Η Ισπανία έχει 92.000 ενεργές υποθέσεις θυμάτων έμφυλης βίας που αξιολογήθηκαν από το VioGén, με τις περισσότερες περιπτώσεις – το 83% – να κατατάσσονται στην κλίμακα του χαμηλού κίνδυνου για να δεχτούν ξανά επίθεση από τον θύτη τους.

Ωστόσο, περίπου το 8% των γυναικών που ο αλγόριθμος έκρινε ότι διατρέχουν αμελητέο κίνδυνο, και το 14 % που κρίθηκαν ως χαμηλού κινδύνου, ανέφεραν ότι υπέστησαν ξανά κακοποίηση, σύμφωνα με το υπουργείο Εσωτερικών της Ισπανίας, το οποίο εποπτεύει το σύστημα.

Στην προκειμένη περίπτωση, αλλά και σε άλλες 247 υποθέσεις έμφυλης βίας, το λάθος του αλγόριθμου ήταν θανατηφόρο.

Αν και πρόκειται για ένα μικρό κλάσμα των περιπτώσεων – από το 2007, περίπου το 0,03 % των 814.000 αναφερόμενων θυμάτων έμφυλης βίας στην Ισπανία δολοφονήθηκαν μετά από αξιολόγηση από το VioGén – εν τούτοις αναδεικνύει τα -μοιραία για την ζωή- ελαττώματα του συστήματος, 

Οι New York Times σε έρευνα που έκαναν, ανακάλυψαν ότι στις  98 από αυτές τις ανθρωποκτονίες, οι 55 από τις δολοφονημένες γυναίκες βαθμολογήθηκαν από το VioGén  ως χαμηλού κινδύνου να υποστούν κακοποίηση εκ νέου.

Όταν το δικαστήριο στηρίχθηκε στον αλγόριθμο…

Όταν η  Stefany González Escarraman, μια 26χρονη που ζούσε κοντά στη Σεβίλλη πήγε στο δικαστήριο ζητώντας  περιοριστικούς όρους κατά του συζύγου της, οι δικαστές – που έχουν το δικαίωμα να αξιολογήσουν τις αποφάσεις του  VioGén, και να παρεμβαίνουν- αρνήθηκαν   επικαλούμενοι τη χαμηλή βαθμολογία κινδύνου και την έλλειψη ποινικού ιστορικού του συζύγου της.

Περίπου ένα μήνα αργότερα, η Stefany μαχαιρώθηκε από τον σύζυγό της πολλές φορές στην καρδιά μπροστά στα παιδιά τους.

Το 2020, η οικογένειά της κέρδισε δίκη κατά του κράτους, επειδή το σύστημα απέτυχε να μετρήσει επαρκώς το επίπεδο κινδύνου και να παράσχει επαρκή προστασία.

«Αν της είχε δοθεί η βοήθεια, ίσως θα ήταν ζωντανή», είπε ο Williams Escarraman, ο αδερφός της κας Escarraman.

Παρόμοια προσέγγιση με  την μέθοδο που χρησιμοποιούν ασφαλιστικές και τράπεζες

Αφού η Ισπανία ψήφισε νόμο το 2004 για την αντιμετώπιση της βίας κατά των γυναικών, η κυβέρνηση συγκέντρωσε ειδικούς στην στατιστική, την ψυχολογία και άλλους τομείς για να βρει μια απάντηση στο πρόβλημα. Στόχος τους ήταν να δημιουργήσουν ένα στατιστικό μοντέλο για τον εντοπισμό των γυναικών που κινδυνεύουν περισσότερο από κακοποίηση.

Η ομάδα ακολούθησε παρόμοια προσέγγιση με την μέθοδο που χρησιμοποιούν ασφαλιστικές εταιρείες και τράπεζες για να προβλέπουν την πιθανότητα μελλοντικών γεγονότων, όπως πυρκαγιές κατοικιών ή μεταβολές νομισμάτων.

Μελέτησαν εθνικές στατιστικές για το έγκλημα, αστυνομικά αρχεία και έρευνες για να εντοπίσουν εκείνους τους δείκτες που φαινόταν να συσχετίζονται με τη έμφυλη βία. Η κατάχρηση ουσιών, η απώλεια θέσεων εργασίας και η οικονομική αβεβαιότητα ήταν ψηλά στη λίστα.

Στη συνέχεια, κατέληξαν σε ένα ερωτηματολόγιο για τα θύματα.

Η βαρύτητα των απαντήσεων ήταν διαβαθμισμένη. Σημαντικό ρόλο έπαιζαν όπως εάν ένας θύτης παρουσίαζε τάσεις αυτοκτονίας ή έδειξε σημάδια ζήλιας.

Με τα χρόνια, το VioGén βελτιώθηκε και ενημερώθηκε, μεταξύ άλλων με μετρήσεις που πιστεύεται ότι προβλέπουν καλύτερα την ανθρωποκτονία. Απαιτήθηκε επίσης από την αστυνομία να διενεργήσει αξιολόγηση κινδύνου παρακολούθησης εντός 90 ημερών από την επίθεση.

Η ισπανική αστυνομία είναι εκπαιδευμένη να ακυρώνει τις συστάσεις της VioGén ανάλογα με τα στοιχεία, αλλά αποδέχεται τους βαθμούς κινδύνου περίπου στο 95 τοις εκατό των περιπτώσεων, δήλωσαν αξιωματούχοι. Οι δικαστές μπορούν επίσης να χρησιμοποιήσουν τα αποτελέσματα όταν εξετάζουν αιτήματα για περιοριστικά μέτρα και άλλα προστατευτικά μέτρα.

naftemporiki.gr