Τεχνητή νοημοσύνη και δημόσια διοίκηση: ένας δρόμος στρωμένος με προκλήσεις

του Μιχάλη Κρητικού*

Τις τελευταίες εβδομάδες ο όρος τεχνητή νοημοσύνη συνδέθηκε για πρώτη φορά τόσο έντονα με την ίδια την καθημερινότητα των πολιτών καθώς η νέα κυβέρνηση ανακοίνωσε την πρόθεση της να προχωρήσει στην άμεση ενσωμάτωση ‘έξυπνων’ αλγοριθμικών συστημάτων σε επιμέρους τομείς κοινωνικού ενδιαφέροντος.

Πιο συγκεκριμένα ανακοινώθηκε ότι το «νέο Taxis» θα ενσωματώνει εργαλεία τεχνητής νοημοσύνης και data mining για να ελέγχει «έξυπνα» τις κινήσεις των φορολογουμένων αντλώντας δεδομένα από μια τεράστια δεξαμενή πληροφοριών και στοιχείων. Την ίδια στιγμή, αναπτύσσονται αλγοριθμικά μοντέλα μηχανικής μάθησης για τον εντοπισμό των ρευματοκλοπών ενώ η τεχνητή νοημοσύνη εισέρχεται και στον ελληνικό τραπεζικό τομέα, καθώς θα επιτρέψει στις τράπεζες να αναγνωρίζουν και να ερμηνεύουν τις ανάγκες των πελατών τους, προσφέροντας τους εξατομικευμένες χρηματοοικονομικές λύσεις και συμβουλές. Παράλληλα ανακοινώθηκε ότι θα εισαχθεί σύστημα τεχνητής νοημοσύνης για τις προσλήψεις στο Δημόσιο που θα διαβλέπει ποιες θα είναι οι ανάγκες του δημοσίου ενώ στους κλάδους που θα ψηφιοποιούνται το δημόσιο θα χρειάζεται όλο και λιγότερο κόσμο.

Ο κατακλυσμός ανακοινώσεων για την επερχόμενη πολλαπλή χρήση τέτοιων συστημάτων στην χώρα μας δημιουργεί αυτομάτως μια σειρά ερωτημάτων για την κοινωνική/τεχνική ‘ωριμότητα’ τους αλλά και την ίδια την ‘ετοιμότητα’ του δημόσιου τομέα να ανταποκριθεί στις σχετικές προκλήσεις. Μία από αυτές είναι και η προστασία της ιδιωτικότητας, καθώς η τεχνολογία αυτή απαιτεί την ‘εξορυξη’ και την ανάλυση μεγάλων ποσοτήτων ευαίσθητων προσωπικών δεδομένων. Επιπλέον, η εξάρτηση σημαντικών λειτουργιών του κράτους από την τεχνητή νοημοσύνη μπορεί να αυξήσει τον κίνδυνο της κυβερνοεπίθεσης ενώ δεν πρέπει να παραγνωρίζεται ότι σύμφωνα με την τελευταία έκθεση του ΟΟΣΑ, περισσότερες από μία στις τέσσερις θέσεις εργασίας στην Ελλάδα απειλούνται πλέον άμεσα από την επικείμενη εισαγωγή τέτοιων συστημάτων.

Οι προκλήσεις αυτές επιβάλλουν την ανάγκη επενδύσεων σε συστήματα ασφαλείας για την αντιμετώπιση των κυβερνοεπιθέσεων, την πολυδιάστατη ενίσχυση των ανεξάρτητων ρυθμιστικών αρχών προκειμένου να είναι σε θέση να παρακολουθούν την συμμόρφωση των συστημάτων αυτών με τα ισχύοντα ηθικά και νομικά πρότυπα, κυρίως, δε, καθιστούν απαραίτητη την τήρηση του ίδιου του εθνικού νομικού πλαισίου για τις νέες και αναδυόμενες τεχνολογίες που υιοθετήθηκε μόλις πέρυσι.

Το πλαίσιο αυτό προβλέπει την θέσπιση μιας σειράς εργαλείων και διαδικασιών που διασφαλίζουν την ασφαλή, δίκαιη και ισότιμη λειτουργία των συστημάτων αυτών. Για παράδειγμα, θα πρέπει η Πολιτεία να εκπονήσει μια Εθνική Στρατηγική για την Τεχνητή Νοημοσύνη, να επεξεργαστεί μεθοδολογίες για να προβεί στις νομικά αναγκαίες αλγοριθμικές εκτιμήσεις αντικτύπου και να ιδρύσει ένα εθνικό Παρατηρητήριο για την λεπτομερή καταγραφή των επιπτώσεων των συστημάτων αυτών στα θεμελιώδη ανθρώπινα δικαιώματα.

Καθώς η δυναμική αυτή τεχνολογία είναι υπό ραγδαία ανάπτυξη, το σχετικό ευρωπαικό θεσμικο πλαισιο βρίσκεται ακόμα υπό διαμόρφωση και το αντίστοιχο εθνικό παραμένει ουσιαστικά ανεφάρμοστο, θα πρέπει να είμαστε ιδιαίτερα συγκρατημένοι σε σχέση με το εάν και υπό ποιους όρους θα πρέπει να εισαχθεί άμεσα σε ευαίσθητους κοινωνικά τομείς όπως ο τραπεζικός, ο φορολογικός, η δημόσια υγεία ή να κληθεί να αξιολογήσουν τις ανάγκες του δημοσίου τομέα. Η οργανική ένταξη μια τόσο επιδραστικής τεχνολογίας αποτελεί μια πολύ σοβαρή κοινωνικοπολιτική και νομική εξίσωση και ζητούμενο ακόμα και για πολλές προηγμένες τεχνολογικά χώρες.

Για παράδειγμα δεν έχουν ακόμα διαμορφωθεί κοινά αποδεκτά διεθνή πρότυπα που θα διασφαλίζουν ότι οι αλγόριθμοί που χρησιμοποιούνται είναι δίκαιοι και αμερόληπτοι και ότι η διαδικασία διαμόρφωσης τους είναι συμπεριληπτική και διαφανής. Επομένως, η αξιοπιστία και κοινωνική αποδοχή μιας τέτοιας τεχνολογικής πρωτοβουλίας θα εξαρτηθεί κατά κύριο λόγο απ’ την ίδια την ικανότητα του κράτους να εγγυηθεί την συμβατότητα των συστημάτων αυτών με τις σχετικές ευρωπαικες κατευθυντήριες γραμμές δεοντολογίας και να εισάγει έναν οδικό χάρτη ρυθμίσεων που να εγγυώνται την χρηστή, αναλογική και κυρίως ανθρωποκεντρική χρήση τους.

*ερευνητής του ΕΛΙΑΜΕΠ και Επίκουρος Καθηγητής σε θέματα Τεχνητής Νοημοσύνης και Ψηφιακής Μετάβασης στη Σχολή Διακυβέρνησης του Ελεύθερου Πανεπιστημίου των Βρυξελλών
**πρώτη δημοσίευση: Οικονομικός Ταχυδρόμος