Το Κέντρο Ευρωπαϊκού Συνταγματικού Δικαίου – Ίδρυμα Θεμιστοκλή και Δημήτρη Τσάτσου και το e-ΠΟΛΙΤΕΙΑ παρουσιάζουν, σε μορφή e–book ελεύθερης πρόσβασης, τη μονογραφία της Aναπληρώτριας Καθηγήτριας Συνταγματικού Δικαίου, Δικαίου Προστασίας Δεδομένων και Βιοηθικής στο Πάντειο Πανεπιστήμιο και Δικηγόρου Φερενίκης Παναγοπούλου, με τίτλο «Ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη (ΕΕ/2024/1689, Artificial Intelligence Act, ΑI Act): Μια πρώτη συνταγματο-ηθική θεώρηση».
Στο πλαίσιο της ανά χείρας μελέτης επιχειρείται μια πρώτη ανάλυση του Κανονισμού για την τεχνητή νοημοσύνη (ΤΝ). Η εργασία διακρίνεται στην Εισαγωγή, το Γενικό Μέρος, το Ειδικό Μέρος και τα Συμπεράσματα. Η Εισαγωγή χαράσσει το γενικό πλαίσιο της μελέτης και προβαίνει σε μια σύντομη ορολογική διασάφηση. Το Γενικό Μέρος διαγράφει την πορεία θέσπισης του Κανονισμού και των παράλληλων νομοθετημάτων. Έπεται η συγκριτική επισκόπηση της ρύθμισης της ΤΝ. Στη συνέχεια, διερευνάται το ερώτημα αναφορικά με την αναγκαιότητα της νομοθετικής ρύθμισης. Έπειτα, σταχυολογείται η φιλοσοφία-στοχοθεσία του νομοθετικού κειμένου και αναλύονται οι κατευθυντήριες αρχές που πρέπει να διέπουν την ΤΝ. Ακολουθεί η ανάλυση του πεδίου εφαρμογής, σκιαγραφούνται οι ομοιότητες με τον Γενικό Κανονισμό Προστασίας Δεδομένων ΕΕ/679/2016. Έπειτα αναλύονται οι βασικοί άξονες του Κανονισμού, αναζητούνται οι υποχρεώσεις των μερών (παρόχων, εισαγωγέων, διανομέων, φορέων εφαρμογής, εξουσιοδοτημένων αντιπροσώπων) και συζητείται το ζήτημα του ελέγχου και της εποπτείας της ΤΝ τόσο σε εθνικό όσο και σε υπερεθνικό επίπεδο. Ακολουθεί η συστηματοποίηση του καθεστώτος των κυρώσεων, της ευθύνης και η ανάλυση της έναρξης ισχύος του κανονιστικού πλαισίου. Η μελέτη συνεχίζει με το ειδικό μέρος σε βασικούς τομείς που εγείρουν έντονη συνταγματική προβληματική, όπως η βιομετρική αναγνώριση, η εργασία, η δημοκρατία, η εκπαίδευση, η υγεία και η καινοτομία. Ιδιαίτερη ενότητα αφιερώνεται στο ερώτημα αν ο αναθεωρητικός νομοθέτης πρέπει να εντάξει την ΤΝ στο αναθεωρημένο κείμενο. Η συμβολή ολοκληρώνεται με τα τελικά συμπεράσματά της. Στόχος της εργασίας είναι να σκιαγραφήσει κριτικά τις βασικές πτυχές του νέου κανονιστικού πλαισίου και να φωτίσει επιλεκτικά κάποια επί μέρους συνταγματικού ενδιαφέροντος ζητήματα που χρήζουν έντονου προβληματισμού.
Η μελέτη εισάγει τον αναγνώστη στο νέο δίκαιο για την τεχνητή νοημοσύνη, αναλύει τη φιλοσοφία και τις ιδιαιτερότητες του νέου κανονιστικού πλαισίου, χαράσσει τις κατευθυντήριες αρχές στις οποίες πρέπει να δομείται η τεχνητή νοημοσύνη και διεισδύει επιλεκτικά σε τομείς έντονου συνταγματικού ενδιαφέροντος.
Από τα ειδικότερα ζητήματα αξίζει να τονισθεί η ιδιαιτερότητα της προβλεπτικής ιατρικής. Η δυνατότητα πρόβλεψης επερχόμενης ασθένειας και του θανάτου δεν είναι άμοιρη προβληματισμού. Η γνώση είναι δύναμη, αλλά και βάσανος. Μπορεί να οδηγήσει στην πρόληψη, δεν αποκλείεται όμως να μας στερήσει το δικαίωμα από ένα ανοικτό μέλλον. Η διαχείριση της πληροφορίας απαιτεί πολλή προσοχή και περίσκεψη. Η διαβίβαση των δεδομένων σε μη εξουσιοδοτημένα άτομα θα επιφέρει πολύ αρνητικές συνέπειες για το άτομο. Οι εργοδότες θα προσθέσουν στα κριτήρια πρόσληψης την παράμετρο της προβλεπτικής ιατρικής, παραγκωνίζοντας την αξιοκρατία. Αντιστοίχως, οι ασφαλιστικές εταιρείες θα διστάζουν να ασφαλίσουν ή θα ασφαλίζουν υπό επαχθείς όρους μελλοντικούς ασθενείς.
Περαιτέρω, δεν πρέπει να διαλάθει της προσοχής μας το ενδεχόμενο λανθασμένης διάγνωσης, το οποίο δύναται να έχει καταστροφικές συνέπειες για τον ενδιαφερόμενο. Καταρρακώνεται από την ιδέα ενός θανάτου ή μιας ασθένειας που μπορεί και να μην έλθει και αφήνεται νωχελικά στην (πεπλανημένη πολλές φορές) μοίρα του. Τίθεται ένα θέμα διαχείρισης της πληροφορίας από τους ασθενείς. Αν κάποιος μάθει ότι θα πάθει άνοια λίαν συντόμως μπορεί να οδηγηθεί και στην αυτοκτονία.
Επίσης, η συμπερίληψη πάρα πολλών μεταβλητών θα μπορούσε να υπονομεύσει την αξιοπιστία αυτού του τύπου ανάλυσης. Για παράδειγμα, οι γενετικές εξετάσεις, που αποτελούν τον ακρογωνιαίο λίθο της προληπτικής ιατρικής, δεν είναι πάντα ακριβείς. Τουλάχιστον, οι γενετικές εξετάσεις δεν δίνουν πάντα την πληρέστερη εικόνα του ασθενούς και τα γονίδια δεν είναι οι μόνοι παράγοντες που ευθύνονται για τις ασθένειες. Υπάρχουν και άλλοι παράγοντες, όπως το περιβάλλον, ο τρόπος ζωής και το ιστορικό εργασίας, που διαδραματίζουν σημαντικό ρόλο στην υγεία των ασθενών και στην ανάπτυξη διαφόρων ασθενειών.
Ως εκ τούτου, τίθεται ζήτημα αναφορικά με την εγκυρότητα και την αξιοπιστία των δεδομένων που χρησιμοποιούνται. Η αξιοποίηση ενός ιστορικού υγείας για μελλοντικές προβλέψεις θα προσέκρουε πιθανότατα στους περιορισμούς που θέτουν η έλλειψη αντιπροσωπευτικότητας ομάδων πληθυσμού, καθώς και η μη συστηματική καταγραφή κοινωνικών, ψυχολογικών και συμπεριφορικών προσδιοριστικών παραγόντων πέραν των βιοϊατρικών δεδομένων. Στις αδυναμίες αυτές προστίθεται και οι πιθανές μεροληψίες που περιέχονται στα δεδομένα εκπαίδευσης των αλγορίθμων, καθώς οι προβλέψεις βασίζονται σε δεδομένα που ενδέχεται να μην είναι αντιπροσωπευτικά ή συμπεριληπτικά. Περαιτέρω, τυχόν αμφισημίες, έλλειψη κοινώς αποδεκτής ορολογίας, διαφορετικές κλίμακες αναφοράς, ανακρίβειες στη διάγνωση κατά τη διενέργεια εξετάσεων και τη χορήγηση θεραπειών, ακρωνύμια στη συμπλήρωση των φακέλων μπορούν να δημιουργήσουν ακατάλληλα σύνολα δεδομένων. Επίσης, δεν πρέπει να παραβλέψουμε το ζήτημα της χρονικής εγκυρότητας των δεδομένων. Και αυτό επειδή τα δεδομένα που χρησιμοποιεί η προβλεπτική αναλυτική έχουν συλλεχθεί μέχρι μια δεδομένη χρονική στιγμή και, άρα, καλύπτουν μια συγκεκριμένη χρονική περίοδο, η τυχόν μη έγκαιρη επικαιροποίησή τους μπορεί να οδηγήσει σε υποβάθμιση ή σε υπερεκτίμηση παραγόντων που μπορεί να έχουν επιδράσει ως τη στιγμή που αφορά η ίδια η πρόβλεψη. Δεν πρέπει επίσης να παραβλέψουμε το γεγονός ότι αν καθορίσουμε τις πολιτικές υγείας με βάση τα τωρινά δεδομένα, θα στηριχθούμε σε μη έγκυρα δεδομένα.
Επιπρόσθετα, ελλοχεύει ο κίνδυνος τα άτομα με αρνητικούς γενετικούς προγνωστικούς παράγοντες για ορισμένες ασθένειες να αντιμετωπίζουν διακρίσεις.
Η συγγραφέας συνδιαλέγεται ώριμα και με την αντίθετη άποψη και καταλήγει σε τεκμηριωμένα και πειστικά συμπεράσματα. Η χρήση μεθόδων προβλεπτικής ιατρικής μπορεί να οδηγήσει σε αναβάθμιση του δικαιώματος στην υγεία, αποτελεί όμως υψηλό κίνδυνο για τα δικαιώματα του ατόμου. Για τον λόγο αυτό απαιτείται ο αυστηρός σχεδιασμός της χρήσεώς της και η μελέτη εκπόνησης αντικτύπου της τεχνολογίας στα θεμελιώδη δικαιώματα των εμπλεκομένων. Οι κίνδυνοι είναι πολλοί και μη αμελητέοι και σχετίζονται με το ενδεχόμενο λάθους διάγνωσης, την παραβίαση της αυτονομίας του ατόμου και των προσωπικών του δεδομένων μέσω μη εξουσιοδοτημένων προσβάσεων από ομάδες που επιθυμούν να έχουν γνώση, όπως οι ασφαλιστικές εταιρείες και οι εργοδότες. Ως εκ του λόγου τούτου, πρέπει να λαμβάνει χώρα ο σχεδιασμός πρωτοκόλλων και η εκπαίδευση όλων των επαγγελματιών υγείας για την ορθή διαχείριση της ενημέρωσης των ασθενών. Στην κατεύθυνση αυτή ο ασθενής θα πρέπει να έχει πρόσβαση στην πληροφορία μέσω ενός ιατρού που έχει εκπαιδευτεί ως προς το πώς να ενημερώνει τον ασθενή, ο οποίος θα έχει και την ευθύνη της εποπτείας του ασθενούς αναφορικά με τη διαχείριση της πληροφορίας του. Επίσης είναι απαραίτητος ο καθορισμός τεχνικών απαιτήσεων για διαφάνεια και επεξηγησιμότητα των αποφάσεων των μεθόδων προβλεπτικής αναλυτικής ιατρικής. Περαιτέρω, απαιτείται λεπτομερής περιγραφή του συνόλου των μεταβλητών που πρέπει να λαμβάνει υπ’ όψιν μια προβλεπτική μέθοδος ανάλογα με το αντικείμενό της. Ο ιατρός πρέπει να ενημερώσει τον ασθενή ότι πρόκειται για μια πρόβλεψη, η οποία δύναται να ανατραπεί και από ένα τυχαίο γεγονός. Πολύ σημαντική είναι η διαρκής επικαιροποίηση των μοντέλων προβλεπτικής αναλυτικής. Καθοριστικής σημασίας είναι η λήψη τεχνικών και οργανωτικών μέτρων για την αποφυγή μη εξουσιοδοτημένων προσβάσεων και την προστασία της ιδιωτικότητας και του δικαιώματος προστασίας προσωπικών δεδομένων των ασθενών. Τέλος, χάριν της προστασίας της παιδικής ηλικίας, η πρόσβαση στην πληροφορία πρόβλεψης πρέπει να μη δίδεται σε ανηλίκους.
Το πόνημα είναι πολύ χρήσιμο όχι μόνο για νομικούς, αλλά για όλους όσοι ενδιαφέρονται για την ΤΝ. Με πλήρως κατανοητή γλώσσα αναλύονται δυσνόητες έννοιες, λαμβάνονται ξεκάθαρες θέσεις που δεν φοβούνται την ετερότητα και καλλιεργείται μια ανθρωποκεντρική και μη τεχνοφοβική θεώρηση για την ΤΝ. Άξια επαίνου δεν είναι μόνον η προσεκτική γραφή, η κριτική θεώρηση, η διεισδυτική σκέψη και οι πρωτότυπες ιδέες, αλλά και η ελεύθερη διάθεση της εργασίας σε όλους τους ενδιαφερόμενους. Μακάρι να ακολουθήσουν και άλλες αντίστοιχες πρωτοβουλίες.
Για περισσότερες πληροφορίες βλ. τον παρακάτω σύνδεσμο:
