ΚΣΣΕ | Διευρυμένη Διαρκής Επιτροπή | Χρήση αλγορίθμων στην αστυνόμευση και την ποινική δικαιοσύνη

Η Διαρκής Επιτροπή της ΚΣΣΕ υιοθέτησε Ψήφισμα και Σύσταση βάσει της έκθεσης του Boriss Cilevičs (Λετονία, SOC) σχετικά με τη χρήση των αλγορίθμων στην αστυνομία και την ποινική δικαιοσύνη. Ζητείται από τα κράτη να έχουν εθνικά νομικά πλαίσια για τη ρύθμιση της χρήσης της Τεχνητής Νοημοσύνης στην αστυνομική και ποινική δικαιοσύνη, στηριγμένα στις βασικές αρχές διαφάνειας, δικαιοσύνης, ασφάλειας, ιδιωτικής ζωής και σαφούς απόδοσης της ανθρώπινης ευθύνης για όλες τις αποφάσεις σε αυτόν τον τομέα.

Επισημαίνεται ότι η χρήση της Τεχνητής Νοημοσύνης από την αστυνομία, τους εισαγγελείς και τα δικαστήρια μπορεί να έχει σημαντικά οφέλη με τη σωστή ρύθμιση, ωστόσο, σε διαφορετική περίπτωση, υπάρχει ο κίνδυνος να έχει ιδιαίτερα σοβαρό αντίκτυπο στα ανθρώπινα δικαιώματα.

Τέτοια συστήματα Τεχνητής Νοημοσύνης που χρησιμοποιούνται ή αναπτύσσονται περιλαμβάνουν αναγνώριση προσώπου, προγνωστική αστυνόμευση, εντοπισμό πιθανών θυμάτων εγκλήματος, εκτίμηση του κινδύνου προφυλακισμένων κρατουμένων, καταδίκη και απαλλαγή, καθώς και ταυτοποίηση υποθέσεων που έχουν παγώσει και που θα μπορούσαν τώρα να επιλυθούν χρησιμοποιώντας τη σύγχρονη ιατροδικαστική τεχνολογία.

Επισημαίνονται οι ήδη υπάρχουσες ανησυχίες, όπως ιδιωτικές εταιρείες που αρνούνται την πρόσβαση στον κώδικα πηγής των συστημάτων τους για λόγους πνευματικής ιδιοκτησίας, αποθήκευση δεδομένων ή μη εξήγηση των συστημάτων τους στις δημόσιες αρχές που τα χρησιμοποιούν. Άλλες ανησυχίες περιλαμβάνουν τα συστήματα Τεχνητής Νοημοσύνης που εκπαιδεύονται σε τεράστια σύνολα δεδομένων τα οποία στρεβλώνονται από προϋπάρχουσες κατηγοριοποιήσεις που αναπαράγουν προκαταλήψεις, οδηγούν σε διακρίσεις ή «τεχνολογικό ξέπλυμα» (“techwashing”) που αποκρύπτει και συνεπώς διαιωνίζει τις προκαταλήψεις.

Για να αποδεχτεί το κοινό τη χρήση της Τεχνητής Νοημοσύνης και να απολαύσει τα πιθανά οφέλη της, πρέπει να έχει εμπιστοσύνη ότι οι κίνδυνοι αντιμετωπίζονται σωστά. Εάν η Τεχνητή Νοημοσύνη πρόκειται να εισαχθεί με τη συγκατάθεση των πολιτών, όπως είναι αναμενόμενο σε μια δημοκρατία, τότε η αποτελεσματική, αναλογική ρύθμιση είναι απαραίτητη προϋπόθεση.

Ψήφισμα

Σύσταση

Έκθεση