γράφει ο Γιάννης Λεοντάρης

Με στόχο να καταστεί η Ευρώπη παγκόσμιος κόμβος αξιόπιστης τεχνητής νοημοσύνης (ΤΝ), η Ευρωπαϊκή Επιτροπή πρότεινε την εφαρμογή νέων κανόνων και δράσεων για την εμπιστοσύνη στην τεχνητή νοημοσύνη, καθώς αυτή διεισδύει ταχύτατα σε όλους τους τομείς, από τις «βαριές» βιομηχανικές εφαρμογές, μέχρι και την απλή καθημερινότητα.

Ο συνδυασμός του πρώτου νομικού πλαισίου για την ΤΝ στην ιστορία και ενός νέου συντονισμένου σχεδίου με τα κράτη μέλη φιλοδοξεί να εγγυηθεί την ασφάλεια και τα θεμελιώδη δικαιώματα των πολιτών και των επιχειρήσεων, ενισχύοντας παράλληλα την αποδοχή της ΤΝ, τις επενδύσεις και την καινοτομία σε ολόκληρη την ΕΕ.

Οι νέοι κανόνες για τα μηχανήματα θα συμπληρώσουν την εν λόγω προσέγγιση, προσαρμόζοντας τους κανόνες ασφαλείας ώστε να ενισχυθεί η εμπιστοσύνη των χρηστών/χρηστριών στη νέα πολυδύναμη γενιά προϊόντων.

Το σκεπτικό

Ο νέος κανονισμός για την ΤΝ θα διασφαλίσει ότι οι Ευρωπαίοι μπορούν να εμπιστεύονται όλα όσα έχει να προσφέρει η ΤΝ. Οι αναλογικοί και ευέλικτοι κανόνες θα αντιμετωπίσουν τους ειδικούς κινδύνους που ενέχουν τα συστήματα ΤΝ και θα θέσουν τα πλέον υψηλά πρότυπα σε παγκόσμιο επίπεδο.

Το συντονισμένο σχέδιο περιγράφει τις απαραίτητες αλλαγές πολιτικής και τις απαραίτητες επενδύσεις σε επίπεδο κρατών μελών για την ενίσχυση της ηγετικής θέσης της Ευρώπης στην ανάπτυξη ανθρωποκεντρικής, βιώσιμης, ασφαλούς και αξιόπιστης Τεχνητής Νοημοσύνης χωρίς αποκλεισμούς.

Η ευρωπαϊκή προσέγγιση για μια αξιόπιστη τεχνητή νοημοσύνη

Οι νέοι κανόνες θα εφαρμόζονται άμεσα και με τον ίδιο τρόπο σε όλα τα κράτη μέλη βάσει ενός διαχρονικού ορισμού της τεχνητής νοημοσύνης. Οι εν λόγω κανόνες ακολουθούν μια προσέγγιση με βάση τον κίνδυνο:

Μη αποδεκτός κίνδυνος: τα συστήματα ΤΝ που θεωρείται ότι συνιστούν σαφή απειλή για την ασφάλεια, τον βιοπορισμό και τα δικαιώματα των ατόμων θα απαγορεύονται. Εδώ περιλαμβάνονται συστήματα ή εφαρμογές ΤΝ που χειραγωγούν την ανθρώπινη συμπεριφορά για να παρακάμψουν την ελεύθερη βούληση των χρηστών/χρηστριών (παραδείγματος χάριν, παιχνίδια με φωνητικό βοηθό που παροτρύνουν ανηλίκους σε επικίνδυνη συμπεριφορά) και συστήματα που επιτρέπουν την «κοινωνική βαθμολόγηση» από τις κυβερνήσεις.

Υψηλός κίνδυνος: στα συστήματα ΤΝ που χαρακτηρίζονται ως υψηλού κινδύνου περιλαμβάνεται η τεχνολογία ΤΝ που χρησιμοποιείται:

στις υποδομές ζωτικής σημασίας (π.χ. μεταφορές), τεχνολογία ΤΝ που θα μπορούσε να θέσει σε κίνδυνο τη ζωή και την υγεία των πολιτών·

στην εκπαίδευση ή την επαγγελματική κατάρτιση, τεχνολογία ΤΝ που μπορεί να καθορίζει την πρόσβαση στην εκπαίδευση και την πορεία της επαγγελματικής ζωής ενός ατόμου (π.χ. βαθμολόγηση εξετάσεων)·

στα κατασκευαστικά στοιχεία ασφαλείας των προϊόντων (π.χ. εφαρμογή ΤΝ σε υποβοηθούμενη από ρομπότ χειρουργική)·

στην απασχόληση, στη διαχείριση εργαζομένων και στην πρόσβαση στην αυτοαπασχόληση (π.χ. λογισμικό διαλογής βιογραφικών σημειωμάτων για διαδικασίες πρόσληψης)·

στις βασικές ιδιωτικές και Δημόσιες υπηρεσίες (π.χ. αξιολόγηση πιστοληπτικής ικανότητας που στερεί από τους πολίτες τη δυνατότητα να λαμβάνουν δάνεια)·

στην επιβολή του νόμου, τεχνολογία ΤΝ που μπορεί να παρεμβαίνει στα θεμελιώδη δικαιώματα των πολιτών (π.χ. αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων)·

στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων (π.χ. εξακρίβωση της γνησιότητας ταξιδιωτικών εγγράφων)·

στην απονομή δικαιοσύνης και στις δημοκρατικές διαδικασίες (π.χ. εφαρμογή του νόμου σε συγκεκριμένα πραγματικά περιστατικά).

Με βάση τα προτεινόμενα μέτρα, τα συστήματα ΤΝ υψηλού κινδύνου θα υπόκεινται σε αυστηρές υποχρεώσεις προτού επιτραπεί η διάθεσή τους στην αγορά:

– Κατάλληλα συστήματα εκτίμησης και μετριασμού των κινδύνων

– Υψηλή ποιότητα των συνόλων δεδομένων που τροφοδοτούν το σύστημα ώστε να ελαχιστοποιούνται οι κίνδυνοι και οι διακρίσεις

– Καταγραφή των δραστηριοτήτων με σκοπό τη διασφάλιση της ιχνηλασιμότητας των αποτελεσμάτων

– Λεπτομερής τεκμηρίωση που παρέχει όλες τις απαραίτητες πληροφορίες σχετικά με το σύστημα και τον σκοπό του ώστε οι αρχές να αξιολογούν τη συμμόρφωσή του

– Σαφείς και επαρκείς πληροφορίες για τον χρήστη/χρήστρια

– Κατάλληλα μέτρα ανθρώπινης εποπτείας για την ελαχιστοποίηση του κινδύνου

– Υψηλό επίπεδο ανθεκτικότητας, ασφάλειας και ακρίβειας.

Ειδικότερα, με βάση τα προτεινόμενα μέτρα, όλα τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης θεωρούνται υψηλού κινδύνου και υπόκεινται σε αυστηρές απαιτήσεις. Η χρήση τους σε πραγματικό χρόνο σε δημοσίως προσβάσιμους χώρους για σκοπούς επιβολής του νόμου καταρχήν απαγορεύεται. Οι ελάχιστες εξαιρέσεις σ’ αυτόν τον κανόνα καθορίζονται και ρυθμίζονται αυστηρά (για παράδειγμα, όταν είναι απολύτως αναγκαίο για την αναζήτηση αγνοούμενου παιδιού, για την πρόληψη συγκεκριμένης και επικείμενης τρομοκρατικής απειλής ή για τον εντοπισμό, την επισήμανση, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου σοβαρής αξιόποινης πράξης). Η χρήση αυτή υπόκειται στην έγκριση δικαστικής ή άλλης ανεξάρτητης αρχής και σε κατάλληλους περιορισμούς όσον αφορά το χρονικό διάστημα, τη γεωγραφική εμβέλεια και τις βάσεις δεδομένων όπου πραγματοποιείται αναζήτηση.

 

Περιορισμένος κίνδυνος, δηλαδή συστήματα ΤΝ που υπόκεινται σε συγκεκριμένες υποχρεώσεις διαφάνειας: όταν χρησιμοποιούν συστήματα ΤΝ όπως τα διαλογικά ρομπότ (chatbot), οι χρήστες θα πρέπει να γνωρίζουν ότι αλληλεπιδρούν με μηχάνημα, ώστε να μπορούν να λάβουν τεκμηριωμένη απόφαση να συνεχίσουν ή να διακόψουν την αλληλεπίδραση.

 

Ελάχιστος κίνδυνος: η νομική πρόταση επιτρέπει την ελεύθερη χρήση εφαρμογών όπως βιντεοπαιχνιδιών βασισμένων στην τεχνητή νοημοσύνη ή φίλτρων ανεπιθύμητης αλληλογραφίας. Η συντριπτική πλειονότητα των συστημάτων ΤΝ εμπίπτουν σε αυτή την κατηγορία. Το σχέδιο κανονισμού δεν παρεμβαίνει σε αυτή την κατηγορία, καθώς αυτά τα συστήματα ΤΝ συνεπάγονται μόνο ελάχιστο ή μηδενικό κίνδυνο για τα δικαιώματα και την ασφάλεια των πολιτών.

Όσον αφορά τη διακυβέρνηση, η Επιτροπή προτείνει οι εθνικές αρμόδιες αρχές εποπτείας της αγοράς να εποπτεύουν τους νέους κανόνες, ενώ η δημιουργία ενός Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης θα διευκολύνει την εφαρμογή τους και θα προωθήσει την ανάπτυξη προτύπων για την ΤΝ. Επιπλέον, προτείνονται εθελοντικοί κώδικες δεοντολογίας για την ΤΝ μη υψηλού κινδύνου, καθώς και ρυθμιστικά δοκιμαστήρια για τη διευκόλυνση της υπεύθυνης καινοτομίας.

Η ευρωπαϊκή προσέγγιση της αριστείας στην τεχνητή νοημοσύνη

Ο συντονισμός αναμένεται ότι θα ενισχύσει την ηγετική θέση της Ευρώπης στον τομέα της ανθρωποκεντρικής, βιώσιμης, ασφαλούς και αξιόπιστης ΤΝ χωρίς αποκλεισμούς. Για να παραμείνει ανταγωνιστική σε παγκόσμιο επίπεδο, η Επιτροπή έχει δεσμευθεί να προωθήσει την καινοτομία στην ανάπτυξη και χρήση της τεχνολογίας ΤΝ σε όλες τις βιομηχανίες και σε όλα τα κράτη μέλη.

Το συντονισμένο σχέδιο για την τεχνητή νοημοσύνη, που δημοσιεύθηκε για πρώτη φορά το 2018 για τον καθορισμό δράσεων και χρηματοδοτικών μέσων με σκοπό την ανάπτυξη και την αποδοχή της τεχνητής νοημοσύνης, κατέστησε δυνατή τη διαμόρφωση ενός δυναμικού τοπίου εθνικών στρατηγικών και τη χρηματοδότηση της ΕΕ για συμπράξεις δημόσιου και ιδιωτικού τομέα και δίκτυα έρευνας και καινοτομίας. Με τη συνολική επικαιροποίηση του συντονισμένου σχεδίου προτείνονται συγκεκριμένες κοινές δράσεις συνεργασίας προκειμένου να διασφαλιστεί ότι όλες οι προσπάθειες εναρμονίζονται με την ευρωπαϊκή στρατηγική για την τεχνητή νοημοσύνη και την Ευρωπαϊκή Πράσινη Συμφωνία, λαμβάνοντας παράλληλα υπόψη τις νέες προκλήσεις που συνεπάγεται η πανδημία του κορονοϊού. Προτείνεται ένα όραμα για την επιτάχυνση των επενδύσεων στην ΤΝ, οι οποίες μπορούν να ωφελήσουν την ανάκαμψη. Σκοπός της είναι, επίσης, να δώσει ώθηση στην εφαρμογή εθνικών στρατηγικών ΤΝ, να εξαλείψει τον κατακερματισμό και να δώσει απάντηση σε παγκόσμιες προκλήσεις.

Το επικαιροποιημένο συντονισμένο σχέδιο θα χρησιμοποιήσει τη χρηματοδότηση που διατίθεται μέσω των προγραμμάτων «Ψηφιακή Ευρώπη» και «Ορίζων Ευρώπη», καθώς και του Μηχανισμού Ανάκαμψης και Ανθεκτικότητας που προβλέπει στόχο 20% για ψηφιακές δαπάνες και των προγραμμάτων της πολιτικής συνοχής με σκοπό:

 

τη δημιουργία ευνοϊκών συνθηκών για την ανάπτυξη και την αποδοχή της ΤΝ μέσω ανταλλαγής γνώσεων περί πολιτικής, διαμοιρασμού δεδομένων και επενδύσεων σε ζωτικές υπολογιστικές ικανότητες·

 

την προώθηση της αριστείας στον τομέα της τεχνητής νοημοσύνης «από το εργαστήριο στην αγορά», με τη δημιουργία σύμπραξης δημόσιου-ιδιωτικού τομέα, τη δημιουργία και κινητοποίηση ικανοτήτων έρευνας, ανάπτυξης και καινοτομίας, και τη διάθεση εγκαταστάσεων δοκιμών και πειραματισμού, καθώς και κόμβων ψηφιακής καινοτομίας σε ΜΜΕ και δημόσιες διοικήσεις·

 

τη διασφάλιση ότι η τεχνητή νοημοσύνη χρησιμοποιείται προς όφελος των ανθρώπων και αποτελεί μια δύναμη για το καλό της κοινωνίας, καθώς η Ευρώπη βρίσκεται στην πρωτοπορία της ανάπτυξης και της ευρείας χρήσης αξιόπιστης τεχνητής νοημοσύνης, καλλιεργώντας ταλέντα και δεξιότητες με την παροχή στήριξης για περιόδους πρακτικής άσκησης, διδακτορικά δίκτυα και μεταδιδακτορικές υποτροφίες σε ψηφιακούς τομείς, ενσωματώνοντας την εμπιστοσύνη στις πολιτικές για την ΤΝ και προωθώντας το ευρωπαϊκό όραμα για μια βιώσιμη και αξιόπιστη ΤΝ σε παγκόσμιο επίπεδο·

τη δημιουργία στρατηγικής ηγετικής θέσης σε τομείς και τεχνολογίες υψηλού αντικτύπου, συμπεριλαμβανομένου του περιβάλλοντος, εστιάζοντας στη συμβολή της τεχνητής νοημοσύνης στη βιώσιμη παραγωγή, στην υγεία μέσω της επέκτασης της διασυνοριακής ανταλλαγής πληροφοριών, καθώς και στον δημόσιο τομέα, την κινητικότητα, τις εσωτερικές υποθέσεις και τη γεωργία, και τη ρομποτική.

Η ευρωπαϊκή προσέγγιση για τα νέα μηχανολογικά προϊόντα

 

Τα μηχανολογικά προϊόντα καλύπτουν ένα ευρύ φάσμα καταναλωτικών και επαγγελματικών προϊόντων, από ρομπότ έως χορτοκοπτικά, εκτυπωτές τρισδιάστατης εκτύπωσης, μηχανήματα κατασκευών, γραμμές βιομηχανικής παραγωγής.

Η οδηγία για τα μηχανήματα, η οποία αντικαταστάθηκε από τον νέο κανονισμό για τα μηχανήματα, καθόρισε τις απαιτήσεις υγείας και ασφάλειας για τα μηχανήματα. Ο εν λόγω νέος κανονισμός για τα μηχανήματα θα διασφαλίζει ότι η νέα γενιά μηχανημάτων θα εγγυάται την ασφάλεια των χρηστών/χρηστριών και των καταναλωτών/καταναλωτριών, και ενθαρρύνει την καινοτομία.

Ενώ ο κανονισμός για την τεχνητή νοημοσύνη αντιμετωπίζει τους κινδύνους ασφάλειας των συστημάτων ΤΝ, ο νέος κανονισμός για τα μηχανήματα θα διασφαλίζει την ασφαλή ενσωμάτωση του συστήματος ΤΝ στο σύνολο των μηχανημάτων. Οι επιχειρήσεις θα πρέπει να διενεργούν μία μόνο αξιολόγηση της συμμόρφωσης.

 

Επιπλέον, ο νέος κανονισμός για τα μηχανήματα θα ανταποκρίνεται στις ανάγκες της αγοράς παρέχοντας μεγαλύτερη νομική σαφήνεια στις ισχύουσες διατάξεις, απλουστεύοντας τον διοικητικό φόρτο και το κόστος για τις εταιρείες μέσω των ψηφιακών μορφοτύπων για την τεκμηρίωση και της προσαρμογής των τελών αξιολόγησης της συμμόρφωσης για τις ΜΜΕ, διασφαλίζοντας παράλληλα τη συνοχή με το νομοθετικό πλαίσιο της ΕΕ για τα προϊόντα.

 

 

Τα επόμενα στάδια

 

Το Ευρωπαϊκό Κοινοβούλιο και τα κράτη – μέλη θα πρέπει να εγκρίνουν τις προτάσεις της Επιτροπής με αντικείμενο την ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης και τα μηχανολογικά προϊόντα στο πλαίσιο της συνήθους νομοθετικής διαδικασίας. Μόλις εγκριθούν, οι κανονισμοί θα είναι άμεσα εφαρμόσιμοι σε ολόκληρη την ΕΕ.

Παράλληλα, η Επιτροπή θα συνεχίσει να συνεργάζεται με τα κράτη μέλη για την υλοποίηση των δράσεων που εξαγγέλλονται στο συντονισμένο σχέδιο.