ΚΣΣΕ | Σχέδιο Ψηφίσματος σχετικά με τη χρήση Αλγορίθμων στη Δικαιοσύνη

Η Επιτροπή Νομικών Υποθέσεων και Ανθρωπίνων Δικαιωμάτων  ενέκρινε σχέδιο Ψηφίσματος βάσει της έκθεσης του Boriss Cilevics (Λετονία, SOC) με θέμα “Justice by algorithm? a committee urges smart regulation of AI in criminal justice to avoid unfairness”. Ζητείται να υπάρξουν εθνικά νομικά πλαίσια για τη ρύθμιση της χρήσης της Τεχνητής Νοημοσύνης στην αστυνομική και ποινική δικαιοσύνη, που θα στηρίζονται στις βασικές αρχές της διαφάνειας, της δικαιοσύνης, της ασφάλειας, της ιδιωτικής ζωής καθώς και στη σαφή ανάληψη της ανθρώπινης ευθύνης για όλες τις αποφάσεις σε αυτόν τον τομέα. 

Σημειώνεται ότι, ενώ η χρήση της Τεχνητής Νοημοσύνης από την αστυνομία, τους εισαγγελείς και τα δικαστήρια μπορεί να έχει σημαντικά οφέλη εάν ρυθμιστεί σωστά, αν δεν γίνει αυτό, υπάρχει ο κίνδυνος να έχει ιδιαίτερα σοβαρό αντίκτυπο στα ανθρώπινα δικαιώματα. Τέτοια συστήματα Τεχνητής Νοημοσύνης που χρησιμοποιούνται ή αναπτύσσονται περιλαμβάνουν αναγνώριση προσώπου, προγνωστική αστυνόμευση, εντοπισμό πιθανών θυμάτων εγκλήματος, εκτίμηση του κινδύνου προφυλακισθέντων κρατουμένων, ποινές και υπό όρους απαλλαγή, και εντοπισμό υποθέσεων που θα μπορούσαν να επιλυθούν με τη χρήση σύγχρονης εγκληματολογικής τεχνολογίας.

Η Επιτροπή επισήμανε υφιστάμενες ανησυχίες, όπως ιδιωτικές εταιρείες που αρνούνται την πρόσβαση στον πηγαίο κώδικα (source code) για τα συστήματά τους για λόγους πνευματικής ιδιοκτησίας, αποθήκευση δεδομένων ή μη εξήγηση των συστημάτων τους πλήρως στις δημόσιες Αρχές που τα χρησιμοποιούν. Υπάρχουν επίσης ανησυχίες σχετικά με τα συστήματα Τεχνητής Νοημοσύνης που βασίζονται σε τεράστια σύνολα δεδομένων, τα οποία έχουν επηρεαστεί από παλιότερες στερεοτυπικές κατηγοριοποιήσεις, που οδηγούν σε διακρίσεις, ή το «ξέπλυμα τεχνολογίας» (tech-washing) που αποκρύπτει και συνεπώς διαιωνίζει  στερεοτυπικές κατηγοριοποιήσεις.

Προκειμένου οι πολίτες να αποδεχτούν τη χρήση της Τεχνητής Νοημοσύνης και να απολαύσουν τα πιθανά οφέλη της, πρέπει να είναι σίγουροι ότι οι κίνδυνοι αντιμετωπίζονται σωστά, αναφέρει το σχέδιο Ψηφίσματος. Για να υπάρξει η συναίνεση των ενημερωμένων πολιτών στη χρήση της Τεχνητής Νοημοσύνης, όπως είναι αναμενόμενο σε μια δημοκρατία, είναι απαραίτητη προϋπόθεση η αποτελεσματική και αναλογική ρύθμιση.