ΕΑΕΕ: Βασικά σημεία Ευρωπαϊκού Κανονισμού (ΕΕ) 2024/1689 για την Τεχνητή Νοημοσύνη
Στο πλαίσιο της ενημέρωσης για τον τομέα του ψηφιακού μετασχηματισμού και της τεχνητής νοημοσύνης, η ΕΑΕΕ ενημερώνει ότι στις 12 Ιουλίου 2024 δημοσιεύθηκε στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης ο «Κανονισμός (ΕΕ) 2024/1689 για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη και την τροποποίηση των κανονισμών (ΕΚ) αριθ. 300/2008, (ΕΕ) αριθ. 167/2013, (ΕΕ) αριθ. 168/2013, (ΕΕ) 2018/858, (ΕΕ) 2018/1139 και (ΕΕ) 2019/2144 και των οδηγιών 2014/90/ΕΕ, (ΕΕ) 2016/797 και (ΕΕ) 2020/1828 (Κανονισμός για την Τεχνητή Νοημοσύνη)», γνωστός ως Artificial Intelligence Act ή AI ACT.
Ο Κανονισμός για την Τεχνητή Νοημοσύνη (ΤΝ), ο οποίος αποτελείται από 180 αιτιολογικές σκέψεις, 113 άρθρα και 13 Παραρτήματα, είναι ένα πρωτοποριακό, φιλόδοξο και πολύπλοκο νομοθέτημα που επιχειρεί να ρυθμίσει και να θέσει εναρμονισμένους κανόνες για την ΤΝ, εκτιμώντας τους κινδύνους και τις πιθανές επιπτώσεις από τη χρήση της, ακολουθώντας μια αναλογική προσέγγιση «βάσει κινδύνου».
Ο Κανονισμός για την Τεχνητή Νοημοσύνη τέθηκε σε ισχύ την 1η Αυγούστου 2024 (δηλαδή την εικοστή ημέρα από τη δημοσίευσή του στην Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης), ενώ η έναρξη εφαρμογής του τοποθετείται στις 2 Αυγούστου 2026, με ορισμένες από τις διατάξεις του ωστόσο να τίθενται σε εφαρμογή νωρίτερα, από τις 2 Φεβρουαρίου 2025, και κάποιες αργότερα, από 2 Αυγούστου 2027 (άρθρο 113 Κανονισμού).
Στη συνέχεια ακολουθεί συνοπτική και όχι εξαντλητική παρουσίαση των βασικών σημείων του Κανονισμού με έμφαση σε σημεία ειδικού ενδιαφέροντος για την ασφαλιστική αγορά. Ειδικότερα:
Αντικείμενο Κανονισμού (άρθρο 1)
Σκοπός του Κανονισμού για την ΤΝ είναι να προωθήσει και να στηρίξει την ανάπτυξη και την καινοτομία σε ολόκληρη την ενιαία αγορά με την υιοθέτηση ασφαλούς, ανθρωποκεντρικής και αξιόπιστης ΤΝ, διασφαλίζοντας ταυτόχρονα την προστασία της δημοκρατίας, του κράτους δικαίου και των θεμελιωδών εν γένει δικαιωμάτων των πολιτών της Ευρωπαϊκής Ένωσης (ΕΕ).
Στο πλαίσιο αυτό, ο Κανονισμός θεσπίζει διαφορετικές υποχρεώσεις και διαδικασίες ελέγχων για τα συστήματα ΤΝ με βάση τους δυνητικούς κινδύνους και το επίπεδο των επιπτώσεων που ενέχει η χρήση του κάθε συστήματος (προσέγγιση βάσει κινδύνου).
Ειδικότερα, ο Κανονισμός θεσπίζει:
- εναρμονισμένους κανόνες για τη διάθεση στην αγορά, τη θέση σε λειτουργία και τη χρήση συστημάτων ΤΝ στην Ένωση
- απαγορεύσεις ορισμένων πρακτικών ΤΝ που ενέχουν μη αποδεκτό κίνδυνο
- ειδικές αυστηρές απαιτήσεις για συστήματα ΤΝ υψηλού κινδύνου και υποχρεώσεις για τους φορείς εκμετάλλευσης τέτοιων συστημάτων
- εναρμονισμένους κανόνες διαφάνειας για συστήματα ΤΝ που ενέχουν περιορισμένο κίνδυνο
- εναρμονισμένους κανόνες για τη διάθεση στην αγορά μοντέλων ΤΝ γενικού σκοπού
- κανόνες για την παρακολούθηση της αγοράς, την εποπτεία της αγοράς, τη διακυβέρνηση και την αποτελεσματική εφαρμογή του Κανονισμού
- μέτρα για τη στήριξη της καινοτομίας, με ιδιαίτερη έμφαση στις ΜΜΕ, περιλαμβανομένων των νεοφυών επιχειρήσεων.
Πεδίο εφαρμογής (άρθρο 2)
Ο Κανονισμός εφαρμόζεται σε δημόσιους και ιδιωτικούς φορείς, εντός και εκτός της ΕΕ (εφόσον το σύστημα ΤΝ τοποθετείται στην Ένωση και η αγορά ή η χρήση του επηρεάζει άτομα που βρίσκονται στην ΕΕ).
Ο Κανονισμός εφαρμόζεται σε τομείς που εμπίπτουν στο δίκαιο της ΕΕ, ενώ προβλέπονται εξαιρέσεις, όπως για συστήματα που χρησιμοποιούνται για στρατιωτικούς, αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας. Ο Κανονισμός δεν εφαρμόζεται επίσης σε συστήματα ελεύθερου και ανοικτού κώδικα (με εξαιρέσεις), καθώς και σε δραστηριότητες έρευνας, ανάπτυξης και δημιουργίας πρωτοτύπων που προηγούνται της διάθεσης στην αγορά. Οι δοκιμές ωστόσο σε πραγματικές συνθήκες δεν καλύπτονται από αυτή την εξαίρεση.
Ορολογία (άρθρο 4)
Ορισμός συστήματος ΤΝ
Για τους σκοπούς του Κανονισμού, «Σύστημα ΤΝ» είναι το μηχανικό σύστημα που έχει σχεδιαστεί για να λειτουργεί με διαφορετικά επίπεδα αυτονομίας και μπορεί να παρουσιάζει προσαρμοστικότητα μετά την εφαρμογή του και το οποίο, για ρητούς ή σιωπηρούς στόχους, συνάγει, από τα στοιχεία εισόδου που λαμβάνει, πώς να παράγει στοιχεία εξόδου, όπως προβλέψεις, περιεχόμενο, συστάσεις ή αποφάσεις που μπορούν να επηρεάσουν υλικά ή εικονικά περιβάλλοντα.
Σημείωση
Ο ορισμός της έννοιας του «συστήματος ΤΝ» που υιοθετήθηκε στο τελικό κείμενο του Κανονισμού για την ΤΝ, μετά από συνεχείς διαβουλεύσεις με την αγορά, είναι ευθυγραμμισμένος με αυτόν του ΟΟΣΑ.
Ο περιορισμός του ευρύτερου ορισμού του «συστήματος ΤΝ» που είχε τεθεί αρχικώς από την Ευρωπαϊκή Επιτροπή και η υιοθέτηση της προσέγγισης του ΟΟΣΑ προκειμένου ο ορισμός να επικεντρώνεται στη μηχανική μάθηση, διακρίνοντας το σύστημα ΤΝ από τα απλούστερα παραδοσιακά συστήματα λογισμικού, αποτελεί θετική εξέλιξη για την αγορά εν γένει αλλά και τον ασφαλιστικό τομέα. Ο ορισμός που εν τέλει υιοθετήθηκε διασφαλίζει σύμφωνα με την Insurance Europe ότι μόνο οι γνήσιες χρήσεις της τεχνητής νοημοσύνης περιλαμβάνονται στο πεδίο εφαρμογής και ότι οι υπάρχουσες τεχνικές στατιστικής και άλλα εργαλεία που χρησιμοποιούνται από τους ασφαλιστές δεν εμπίπτουν στον εν λόγω ορισμό ως συστήματα ΤΝ, μειώνοντας έτσι αποτελεσματικά το εύρος των εργαλείων που χρησιμοποιεί η αγορά και θα μπορούσαν ενδεχομένως να θεωρηθούν υψηλού κινδύνου.
ΤΝ γενικού σκοπού (ΤΝΓΣ)
Για να αξιολογηθεί το ευρύ φάσμα των εργασιών που μπορούν να επιτύχουν τα συστήματα ΤΝI και τη γρήγορη επέκταση των δυνατοτήτων τους, κρίθηκε αναγκαίο να συμπεριληφθούν στον Κανονισμό για την ΤΝ και τα μοντέλα / συστήματα ΤΝ γενικού σκοπού (ΤΝΓΣ).
Ως «μοντέλο ΤΝΓΣ» νοείται ένα μοντέλο ΤΝ το οποίο έχει εκπαιδευτεί με μεγάλο όγκο δεδομένων χρησιμοποιώντας αυτοεποπτεία σε κλίμακα και το οποίο παρουσιάζει σημαντική γενικότητα και είναι ικανό να εκτελεί αποτελεσματικά ευρύ φάσμα διακριτών καθηκόντων, ανεξάρτητα από τον τρόπο με τον οποίο το μοντέλο διατίθεται στην αγορά και μπορεί να ενσωματωθεί σε διάφορα κατάντη συστήματα ή εφαρμογές. Αυτό δεν καλύπτει μοντέλα ΤΝ που χρησιμοποιούνται πριν από τη διάθεσή τους στην αγορά για δραστηριότητες έρευνας, ανάπτυξης και κατασκευής πρωτοτύπων.
Ως «Σύστημα ΤΝΓΣ» νοείται ένα σύστημα ΤΝ που βασίζεται σε ένα μοντέλο ΤΝΓΣ, το οποίο έχει τη δυνατότητα να εξυπηρετεί ποικίλους σκοπούς, τόσο για άμεση χρήση όσο και για ενσωμάτωση σε άλλα συστήματα ΤΝ.
Σημείωση
Ο Κανονισμός ΤΝ διακρίνει τα μοντέλα ΤΝΓΣ σε αυτά που δεν ενέχουν συστημικούς κινδύνους και στα μοντέλα που ενέχουν συστημικούς κινδύνους (Κεφάλαιο V Κανονισμού).
Οι πάροχοι μοντέλων ΤΝΓΣ υπόκεινται σε ξεχωριστές υποχρεώσεις από τους παρόχους συστημάτων ΤΝ. Μεταξύ άλλων, πρέπει να δημιουργήσουν και να διατηρήσουν τεχνικό φάκελο και τεχνική τεκμηρίωση του μοντέλου, να καταρτίζουν πολιτική για τη συμμόρφωσή τους με τη νομοθεσία περί πνευματικών δικαιωμάτων και να δημιουργήσουν μια λεπτομερή περίληψη του περιεχομένου που χρησιμοποιείται για την εκπαίδευση του μοντέλου ΤΝΓΣ.
Οι πάροχοι μοντέλων ΤΝΓΣ που ενέχουν συστηματικούς κινδύνους έχουν πρόσθετες υποχρεώσεις, συμπεριλαμβανομένης της διενέργειας αξιολόγησης των μοντέλων και λήψης μέτρων μετριασμού των συστημικών κινδύνων, τεκμηρίωση και αναφορά σοβαρών περιστατικών στην Υπηρεσία ΤΝ (ΑΙ Office) της Ευρωπαϊκής Επιτροπής και στις εθνικές αρμόδιες αρχές και εξασφάλιση επαρκούς επιπέδου προστασίας στον κυβερνοχώρο.
Ταξινόμηση συστημάτων ΤΝ
Ο Κανονισμός για την ΤΝ κατατάσσει τα συστήματα ΤΝ ανάλογα με τον κίνδυνο που ενέχουν σε συστήματα που δημιουργούν:
α) μη αποδεκτό κίνδυνο, όπως είναι τα συστήματα ΤΝ που προβαίνουν σε ανάλυση συναισθημάτων, προληπτική αστυνόμευση βάσει προφίλ του ατόμου, κοινωνική βαθμολόγηση, συμπεριφορική χειραγώγηση, εκμετάλλευση ευάλωτων κοινωνικών ομάδων, παρότρυνση σε επικίνδυνη συμπεριφορά κ.α., και για τα οποία ισχύει καθολική απαγόρευση χρήσης, με ειδική εξαίρεση και υπό συγκεκριμένες προϋποθέσεις για τις αρχές επιβολής του νόμου (Κεφάλαιο ΙΙ Κανονισμού),
β) υψηλό κίνδυνο, όπως είναι τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικό στοιχείο ασφάλειας ενός προϊόντος, ή εφαρμόζονται για μη απαγορευμένη βιομετρική ταυτοποίηση φυσικών προσώπων, ή τη διαχείριση και λειτουργία υποδομών ζωτικής σημασίας, ή την εκπαίδευση και επαγγελματική κατάρτιση, ή την απασχόληση & τη διαχείριση εργαζομένων, ή την επιβολή του νόμου, ή την απονομή δικαιοσύνης ή τη διαχείριση της μετανάστευση και του ασύλου, ή την πρόσβαση & απόλαυση βασικών δημόσιων & ιδιωτικών υπηρεσιών, περιλαμβανομένων των συστημάτων ΤΝ που προορίζονται να χρησιμοποιηθούν για την εκτίμηση κινδύνων και την τιμολόγηση σε σχέση με φυσικά πρόσωπα στην περίπτωση ασφάλισης ζωής και υγείας, και για τα οποία συστήματα ΤΝ προβλέπονται εκτεταμένες υποχρεώσεις συμμόρφωσης και εποπτείας (Κεφάλαιο ΙΙΙ Κανονισμού, Παράρτημα ΙΙΙ),
γ) περιορισμένο κίνδυνο, όπως είναι οι διασυνδεμένες συσκευές και οι ψηφιακοί βοηθοί, συστήματα για τα οποία ισχύουν ελαφρύτερες υποχρεώσεις διαφάνειας (οι προγραμματιστές και οι φορείς ανάπτυξης πρέπει να διασφαλίζουν ότι οι τελικοί χρήστες γνωρίζουν ότι αλληλοεπιδρούν με ΤΝ (Κεφάλαιο ΙV Κανονισμού),
και δ) ελάχιστο ή ανύπαρκτο κίνδυνο, συστήματα τα οποία δεν ρυθμίζονται από τον Κανονισμό και αφορούν στην πλειονότητα των εφαρμογών ΤΝ που διατίθενται σήμερα στην ενιαία αγορά της ΕΕ, όπως είναι οι περισσότερες εφαρμογές βιντεοπαιχνιδιών και τα φίλτρα ανεπιθύμητης αλληλογραφίας.
Συστήματα ΤΝ υψηλού κινδύνου (Κεφάλαιο ΙΙΙ Κανονισμού, Παράρτημα ΙΙΙ)
Ειδικό ενδιαφέρον για την ασφαλιστική αγορά παρουσιάζουν οι διατάξεις του Κανονισμού που ρυθμίζουν τα συστήματα ΤΝ υψηλού κινδύνου και τις υποχρεώσεις των παρόχων και φορέων εφαρμογής των εν λόγω συστημάτων, καθώς στον κατάλογο του Παραρτήματος III του Κανονισμού που απαριθμεί του τομείς συστημάτων ΤΝ υψηλού κινδύνου συμπεριλήφθηκαν εν τέλει και «τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εκτίμηση κινδύνων και την τιμολόγηση σε σχέση με φυσικά πρόσωπα στην περίπτωση ασφάλιση ζωής και υγείας» (σημείο 5, στοιχείο γ).
Σημειώσεις 1. Παρότι, η ασφάλιση δεν περιλαμβανόταν στην αρχική πρόταση Κανονισμού της Ευρωπαϊκής Επιτροπής, εν τέλει συμπεριλήφθηκε στο Παράρτημα ΙΙΙ μετά από ισχυρές πιέσεις του Ευρωπαϊκού Συμβουλίου και του Κοινοβουλίου. Ωστόσο, η τελική διατύπωση θεωρείται σημαντικά βελτιωμένη σε σχέση με τις προηγούμενες διατυπώσεις που είχαν προταθεί από τα ευρωπαϊκά όργανα (π.χ. υπήρχαν προτάσεις που επιχειρούσαν να εντάξουν το σύνολο του ασφαλιστικού τομέα στην κατηγορία υψηλού κινδύνου). 2. Επιπλέον θετική εξέλιξη αποτελεί η αναφορά στην αιτιολογική σκέψη 58 του Κανονισμού ότι δεν θα πρέπει να θεωρούνται υψηλού κινδύνου τα συστήματα ΤΝ που προβλέπονται για τον εντοπισμό περιπτώσεων απάτης κατά την προσφορά χρηματοοικονομικών υπηρεσιών και για σκοπούς προληπτικής εποπτείας προκειμένου να υπολογίζονται οι κεφαλαιακές απαιτήσεις πιστωτικών ιδρυμάτων και ασφαλιστικών επιχειρήσεων. Η Ιnsurance Europe επισημαίνει ωστόσο ότι θα υπήρχε μεγαλύτερη ασφάλεια δικαίου εάν η εξαίρεση για τον εντοπισμό της ασφαλιστικής απάτης περιλαμβανόταν ρητά στο Παράρτημα III του Κανονισμού και όχι μόνο στις αιτιολογικές σκέψεις, όπως συνέβη για την οικονομική απάτη και τις πιστώσεις (σημείο 5, στοιχείο β, Παραρτήματος III του Κανονισμού). 3. Η Insurance Europe επισημαίνει ότι προκύπτουν αρκετά ερωτηματικά σχετικά με την ερμηνεία και εφαρμογή της εν λόγω της διάταξης (όπως για παράδειγμα ποια προϊόντα ασφάλισης ζωής και υγείας θα εμπίπτουν στο πεδίο εφαρμογής). Για την αποσαφήνιση των θεμάτων αυτών, η ΙΕ προτίθεται να ξεκινήσει διάλογο τους επομένους μήνες με την EIOPA καθώς θεωρεί χρήσιμη την έκδοση κατευθυντήριων γραμμών από πλευράς ΕΙΟPA/ESAs. Στο ίδιο πλαίσιο, με εξαιρετικό ενδιαφέρον αναμένονται και οι κατευθυντήριες γραμμές που θα δημοσιεύσει η Ευρωπαϊκή Επιτροπή, κατόπιν διαβούλευσης με το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης, το αργότερο έως τη 2α Φεβρουαρίου 2026, οι οποίες θα εξειδικεύουν την πρακτική εφαρμογή των εν λόγω διατάξεων για τα συστήματα ΤΝ υψηλού κινδύνου και θα περιλαμβάνουν κατάλογο πρακτικών παραδειγμάτων περιπτώσεων χρήσης συστημάτων ΤΝ υψηλού και μη υψηλού κινδύνου (άρθρο 6 παρ. 5 Κανονισμού).
Εξαίρεση από την κατηγορία συστημάτων ΤΝ υψηλού κινδύνου (άρθρα 6 παρ. 3 και 4 Κανονισμού)
Ο Κανονισμός στην τελική μορφή του (άρθρο 6 παρ.3) συμπεριέλαβε μία σημαντική ρύθμιση που δίδει τη δυνατότητα εξαίρεσης σε σύστημα ΤΝ που αναφέρεται στο Παράρτημα ΙΙΙ ως υψηλού κινδύνου, ώστε να μην θεωρείται τελικά υψηλού κινδύνου εάν δεν ενέχει σημαντικό κίνδυνο βλάβης για την υγεία, την ασφάλεια ή τα θεμελιώδη δικαιώματα φυσικών προσώπων, μεταξύ άλλων μην επηρεάζοντας ουσιωδώς το αποτέλεσμα της λήψης αποφάσεων.
Η εξαίρεση αυτή εφαρμόζεται όταν συντρέχει οποιαδήποτε από τις ακόλουθες προϋποθέσεις:
α) το σύστημα ΤΝ προορίζεται να εκτελεί μια περιορισμένη διαδικαστική εργασία,
β) το σύστημα ΤΝ προορίζεται να βελτιώνει το αποτέλεσμα μιας ανθρώπινης δραστηριότητας που έχει ολοκληρωθεί προηγουμένως,
γ) το σύστημα ΤΝ προορίζεται να εντοπίζει μοτίβα λήψης αποφάσεων ή αποκλίσεις από προηγούμενα μοτίβα λήψης αποφάσεων και δεν αποσκοπεί να αντικαταστήσει ή να επηρεάσει την προηγουμένως ολοκληρωθείσα ανθρώπινη αξιολόγηση, χωρίς κατάλληλη ανθρώπινη επανεξέταση, ή
δ) το σύστημα ΤΝ προορίζεται να εκτελέσει προπαρασκευαστικό καθήκον αξιολόγησης για τους σκοπούς των περιπτώσεων χρήσης που απαριθμούνται στο παράρτημα III.
Στην ίδια παράγραφο ο Κανονισμός αποσαφηνίζει ωστόσο ότι ένα σύστημα ΤΝ που αναφέρεται στο Παράρτημα III θεωρείται σε κάθε περίπτωση υψηλού κινδύνου, όταν το σύστημα ΤΝ διενεργεί κατάρτιση προφίλ φυσικών προσώπων.
Σε ό,τι αφορά τη διαδικασία που πρέπει να ακολουθήσει ο πάροχος του συστήματος ΤΝ που αναφέρεται στο Παράρτημα III για να εξαιρεθεί από τα συστήματα ΤΝ υψηλού κινδύνου και τις αυστηρές υποχρεώσεις που τα συνοδεύουν, ο Κανονισμός (άρθρο 6 παρ.4) προβλέπει ότι ο πάροχος έχει υποχρέωση:
- να προβαίνει σε αυτό-αξιολόγηση και να τεκμηριώνει το συμπέρασμά του πριν από τη διάθεση του εν λόγω συστήματος στην αγορά ή τη θέση του σε λειτουργία,
- ανεξαρτήτως συμπεράσματος, να καταχωρεί το εν λόγω σύστημα ΤΝ στη βάση δεδομένων που θα δημιουργήσει η Ευρωπαϊκή Επιτροπή για τα συστήματα ΤΝ υψηλού κινδύνου (άρθρο 49 παρ. 2 και άρθρο 71 Κανονισμού), και
- κατόπιν αιτήματος των εθνικών αρμόδιων αρχών, να παρέχει την τεκμηρίωση της αξιολόγησή του.
Σημείωση
Σύμφωνα με την Insurance Europe, η εισαγωγή ενός μηχανισμού αυτό-αξιολόγησης, που παρέχει δυνατότητα εξαίρεσης από τα συστήματα ΤΝ υψηλού κινδύνου, αποτελεί θετική εξέλιξη. Θα επιτρέψει σε ασφαλιστές που χρησιμοποιούν συστήματα ΤΝ, τα οποία εμπίπτουν στην κατηγορία υψηλού κινδύνου (Παράρτημα ΙΙΙ), να εκτιμήσουν εάν όντως ενέχουν σημαντικό κίνδυνο βλάβης και, εάν όχι να εξαιρεθούν, αποφεύγοντας πρόσθετες επιβαρύνσεις και το κόστος εκπλήρωσης των υποχρεώσεων που συνεπάγονται τα συστήματα υψηλού κινδύνου. Αυτό θα είναι ιδιαίτερα σημαντικό για διαδικασίες που δεν είναι πλήρως αυτοματοποιημένες και υπόκεινται σε ανθρώπινη επανεξέταση, καθώς και για εργασίες που θεωρούνται προπαρασκευαστικές.
Ωστόσο, ο πρακτικός αντίκτυπος αυτού του μηχανισμού αυτό-αξιολόγησης μένει να αποδειχθεί, καθώς υπάρχει κίνδυνος για τη φήμη των ασφαλιστών στην περίπτωση που αποδειχθεί ότι ένα σύστημα ΤΝ ανήκει τελικά στην κατηγορία υψηλού κινδύνου, ενώ στο πλαίσιο του μηχανισμού αυτοξιοαλόγησης είχε κριθεί εσφαλμένα ότι δεν ανήκει.
Υποχρεώσεις παρόχων συστημάτων ΤΝ υψηλού κινδύνου (άρθρα 16 Κανονισμού)
Το μεγαλύτερο μέρος του Κανονισμού αναφέρεται στα συστήματα ΤΝ υψηλού κινδύνου, τα οποία υπόκεινται σε αυστηρές ρυθμίσεις και υποχρεώσεις. Ο Κανονισμός προβλέπει επιμέρους υποχρεώσεις για τις διάφορες κατηγορίες εμπλεκομένων με τα συστήματα ΤΝ υψηλού κινδύνου και ιδίως για τους παρόχους, εξουσιοδοτημένους αντιπροσώπους παρόχων, φορείς εφαρμογής, εισαγωγείς και διανομείς, κατανέμοντας διαφορετικές ευθύνες κατά μήκος της αξιακής αλυσίδας της ΤΝ.
Ειδικά για τους παρόχους συστημάτων ΤΝ υψηλού κινδύνου ο Κανονισμός (άρθρο 16) προβλέπει ότι πρέπει να πληρούν αυστηρές απαιτήσεις για να διασφαλίζουν ότι τα συστήματα τεχνητής νοημοσύνης τους είναι αξιόπιστα, διαφανή και υπεύθυνα. Μεταξύ άλλων υποχρεώσεων, πρέπει να διενεργούν αξιολογήσεις του κινδύνου, να χρησιμοποιούν δεδομένα υψηλής ποιότητας, να τεκμηριώνουν τις τεχνικές και ηθικές επιλογές τους, να τηρούν αρχεία για την απόδοση του συστήματός τους, να ενημερώνουν τους χρήστες για τη φύση και το σκοπό των συστημάτων τους, να επιτρέπουν την ανθρώπινη εποπτεία και παρέμβαση και να διασφαλίζουν την ακρίβεια, ευρωστία και ασφάλεια στον κυβερνοχώρο.
Πρέπει, επίσης, να δοκιμάζουν τα συστήματά τους ως προς τη συμμόρφωσή τους με τους κανόνες του Κανονισμού πριν τα διαθέσουν στην αγορά ή τα θέσουν σε λειτουργία και να καταχωρούν τα συστήματά τους στη βάση δεδομένων που θα δημιουργήσει για τα συστήματα ΤΝ υψηλού κινδύνου η Ευρωπαϊκή Επιτροπή, η οποία θα είναι προσβάσιμη στο κοινό.
Σημείωση
Αναφορικά με τη διενέργεια από τους παρόχους αξιολόγησης των συστημάτων ΤΝ υψηλού κινδύνου ως προς τη συμμόρφωσή τους με τους κανόνες του Κανονισμού, αξίζει να επισημανθεί ότι για τα περισσότερα από τα συστήματα ΤΝ που απαριθμούνται στο Παράρτημα ΙΙΙ του Κανονισμού (σημεία 2 έως 8), περιλαμβανομένων των συστημάτων ΤΝ που προορίζονται να χρησιμοποιηθούν για την εκτίμηση κινδύνων και την τιμολόγηση σε σχέση με φυσικά πρόσωπα στην περίπτωση ασφάλιση ζωής και υγείας (σημείο 5, στοιχείο γ), η διαδικασία αξιολόγησης της συμμόρφωσης γίνεται με βάση τον εσωτερικό έλεγχο (αυτό - αξιολόγηση) που περιγράφεται στο Παράρτημα VI, η οποία δεν προβλέπει τη συμμετοχή Οργανισμού αξιολόγησης.
Εποπτεία Αγοράς (Κεφάλαιο VII)
Για τον έλεγχο και την εποπτεία της αγοράς, ο Κανονισμός προβλέπει τη θέσπιση εθνικών και ευρωπαϊκών φορέων και αρχών.
• Σε ευρωπαϊκό επίπεδο
Σε ευρωπαϊκό επίπεδο διαμορφώνονται τα εξής βασικά όργανα:
- Υπηρεσία ΤΝ (ΑΙ Office) εντός της Ευρωπαϊκής Επιτροπής για την επιβολή των κοινών κανόνων σε ολόκληρη την ΕΕ
- Eυρωπαϊκό Συμβούλιο ΤΝ (AI Board) με εκπροσώπους των κρατών μελών για την παροχή συμβουλευτικής καθοδήγησης και συνδρομής στην Ευρωπαϊκή Επιτροπή και τα κράτη μέλη σχετικά με τη συνεπή και αποτελεσματική εφαρμογή του κανονισμού για την ΤΝ
- Συμβουλευτικό φόρουμ (Advisory Forum) για τα ενδιαφερόμενα μέρη με σκοπό την παροχή τεχνικής εμπειρογνωμοσύνης στο Συμβούλιο ΤΝ και στην Ευρωπαϊκή Επιτροπή
- Επιστημονική ομάδα ανεξάρτητων εμπειρογνωμόνων (Scientific Panel of independent experts) για την υποστήριξη των δραστηριοτήτων επιβολής
• Σε Εθνικό επίπεδο
Σε εθνικό επίπεδο, ο Κανονισμός προβλέπει ότι τα Κράτη Μέλη έχουν προθεσμία έως τις 2 Αυγούστου 2025 να δημιουργήσουν τουλάχιστον μια κοινοποιούσα αρχή υπεύθυνη για τις διαδικασίες συμμόρφωσης και πιστοποίησης και μια αρχή εποπτείας της αγοράς για να ελέγχει ότι τα συστήματα ΤΝ στην ενωσιακή αγορά ανταποκρίνονται στα πρότυπα της νομοθεσίας και του παρόντος Κανονισμού.
Ο Κανονισμός ορίζει ότι οι εθνικές αρχές πρέπει, μεταξύ άλλων, να έχουν μόνιμα στη διάθεσή τους προσωπικό με εμπειρική γνώση σε θέματα ΤΝ, προστασίας δεδομένων, ασφάλειας στον κυβερνοχώρο, θεμελιωδών δικαιωμάτων, υγείας και ασφάλειας, καθώς και γνώση των προτύπων και του νομοθετικού πλαισίου. Τα κράτη μέλη πρέπει να αξιολογούν και να υποβάλλουν εκθέσεις στην Επιτροπή κάθε δύο χρόνια (άρθρο 70). Στο πλαίσιο αυτό, τα κράτη μέλη έχουν την ευελιξία να σχεδιάζουν τη διακυβέρνησή τους για τη ρύθμιση της ΤΝ και μπορούν είτε να δημιουργήσουν νέους ρυθμιστικούς φορείς για την ΤΝ, είτε να ενσωματώσουν αυτές τις αρμοδιότητες εποπτείας σε υφιστάμενες οντότητες.
Σημείωση
Η Insurance Europe υποστηρίζει σθεναρά τη διατήρηση των αρμοδιοτήτων των υφιστάμενων εποπτικών αρχών του ασφαλιστικού τομέα και για την εποπτεία των υποχρεώσεων που απορρέουν από τον Κανονισμό ΤΝ, δυνατότητα που υποστηρίζεται ρητά και στην αιτιολογική σκέψη 158 του Κανονισμού. Ωστόσο, είναι στη διακριτική ευχέρεια των Κρατών Μελών να λάβουν την τελική απόφαση και για το θέμα αυτό.
Σε κάθε περίπτωση, ο συντονισμός μεταξύ των διαφορετικών αρχών αρμόδιων για την εποπτεία εφαρμογής του Κανονισμού θα είναι πρόκληση (εθνικές εποπτικές αρχές ασφαλίσεων, ΑΙ Office, αρχές προστασίας δεδομένων, αρχές ανταγωνισμού κ.λπ.).
Κυρώσεις (Κεφάλαιο ΧΙΙ)
Η μη συμμόρφωση με διατάξεις του Κανονισμού μπορεί να επισύρει διοικητικά πρόστιμα που κυμαίνονται από 35 εκατομμύρια ευρώ ή 7% του παγκόσμιου ετήσιου κύκλου εργασιών της επιχείρησης έως 7,5
Ακολουθήστε την ασφαλιστική αγορά στο Google News
