Η τσεχική Προεδρία του Συμβουλίου της ΕΕ πρότεινε έναν στενότερο ορισμό της Τεχνητής Νοημοσύνης (ΤΝ), έναν αναθεωρημένο και συντομότερο κατάλογο συστημάτων υψηλού κινδύνου, έναν ισχυρότερο ρόλο για το Συμβούλιο ΤΝ και μια αναδιατυπωμένη εξαίρεση για την εθνική ασφάλεια.
Η Πράγα μοιράστηκε την Παρασκευή (15 Ιουλίου) τον πρώτο πλήρη συμβιβασμό πάνω στην Πράξη για την Τεχνητή Νοημοσύνη, τον οποίο εξασφάλισε η EURACTIV. Το κείμενο θα αποτελέσει τη βάση της συζήτησης στην Ομάδα Εργασίας Τηλεπικοινωνιών την Τετάρτη, την τελευταία συνεδρίαση πριν από τις θερινές διακοπές.
«Η τσεχική Προεδρία προτίθεται να παρουσιάσει τις αλλαγές που έγιναν στη δεύτερη συμβιβαστική πρόταση, η οποία καλύπτει τα τέσσερα θέματα που παρουσιάζονται στο έγγραφο επιλογών πολιτικής και συνοψίζονται παρακάτω, και καλεί τις αντιπροσωπείες να παράσχουν απόψεις και σχόλια γενικού χαρακτήρα», αναφέρει το έγγραφο.
Ορισμός
Ο ορισμός της τεχνητής νοημοσύνης έχει περιοριστεί σημαντικά σε ένα σύστημα που έχει σχεδιαστεί με ένα ορισμένο επίπεδο αυτονομίας για την επίτευξη ενός συγκεκριμένου συνόλου στόχων που καθορίζονται από τον άνθρωπο, χρησιμοποιώντας μηχανική μάθηση ή/και λογικές ή γνωσιακές προσεγγίσεις.
Οι ορισμοί για τις προσεγγίσεις μηχανικής μάθησης και τις προσεγγίσεις βασισμένες στη γνώση έχουν προστεθεί στο προοίμιο του κειμένου, το οποίο έχει επίσης τροποποιηθεί για να διακρίνει την ΤΝ από το παραδοσιακό λογισμικό.
«Οι βασικές έννοιες από τον ορισμό του ΟΟΣΑ [Οργανισμός Οικονομικής Συνεργασίας και Ανάπτυξης] για το σύστημα τεχνητής νοημοσύνης έχουν διατηρηθεί, ενώ και η έννοια της αυτονομίας έχει συμπεριληφθεί στον ορισμό, σύμφωνα με το συγκεκριμένο αίτημα ορισμένων αντιπροσωπειών», αναφέρεται στο έγγραφο.
Η τσεχική Προεδρία συμπεριέλαβε έναν ορισμό και υποχρεώσεις για τα συστήματα ΤΝ γενικού σκοπού. Οι υποχρεώσεις του κανονισμού θα ισχύουν σε μεγάλο βαθμό για αυτό το είδος συστήματος, εκτός εάν ο πάροχος ΤΝ αποκλείσει οποιαδήποτε υποχρέωση υψηλού κινδύνου.
Επιπλέον, το παράρτημα Ι σχετικά με τις τεχνικές και τις προσεγγίσεις ΤΝ έχει διαγραφεί, μαζί με την εξουσία της Επιτροπής να επικαιροποιεί μέσω κατ’ εξουσιοδότηση πράξεων. Η Επιτροπή θα έχει την εξουσία να εκδίδει εκτελεστικές πράξεις για τον προσδιορισμό αυτών των τεχνικών με βάση τις τεχνολογικές εξελίξεις.
Συστήματα υψηλού κινδύνου
Καθώς αρκετά κράτη μέλη φοβήθηκαν ότι ο κανονισμός για την ΤΝ θα μπορούσε να καταλάβει συστήματα που δεν ενέχουν σοβαρό κίνδυνο παραβίασης θεμελιωδών δικαιωμάτων, η τσεχική Προεδρία πρότεινε την προσθήκη ενός οριζόντιου επιπέδου στην κορυφή της ταξινόμησης υψηλού κινδύνου, εμπνευσμένου από την ομάδα εμπειρογνωμόνων υψηλού επιπέδου για την ΤΝ και το πλαίσιο ταξινόμησης του ΟΟΣΑ.
Το πρόσθετο στρώμα βασίζεται στη σημασία και την αμεσότητα των αποτελεσμάτων του συστήματος στη διαδικασία λήψης αποφάσεων. Με άλλα λόγια, η ΤΝ μπορεί να θεωρηθεί υψηλού κινδύνου μόνο εάν είναι άμεσα αποτελεσματική χωρίς ανθρώπινη επανεξέταση ή εάν δεν είναι απλώς ένα εξάρτημα της ανθρώπινης απόφασης.
Ο τρόπος με τον οποίο αυτή η έξοδος θα θεωρείται σημαντική στη λήψη αποφάσεων θα καθοριστεί από την Επιτροπή μέσω εκτελεστικών πράξεων, οι οποίες θα πρέπει επίσης να παρέχουν κατευθυντήριες γραμμές για να διασφαλίσουν ομοιόμορφες συνθήκες εφαρμογής.
Είναι σημαντικό ότι ο κατάλογος των περιπτώσεων χρήσης υψηλού κινδύνου στο παράρτημα ΙΙΙ έχει αλλάξει σημαντικά. Οι κατηγορίες σχετικά με τον καθορισμό ασφαλιστικών συμβάσεων, τη βιομετρική κατηγοριοποίηση, την προστασία του περιβάλλοντος, τον έλεγχο της ρύπανσης και τη βαθιά ανίχνευση ψεύτικων στοιχείων έχουν αφαιρεθεί.
Επιπλέον, η Επιτροπή δεν θα μπορεί πλέον να προσθέτει περιπτώσεις χρήσης υψηλού κινδύνου στον κατάλογο, αλλά και να τις αφαιρεί, εφόσον δεν ενέχουν πλέον σημαντικούς κινδύνους ή η διαγραφή τους δεν μειώνει το συνολικό επίπεδο προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων.
Διακυβέρνηση και επιβολή
Αρκετά κράτη μέλη συμμερίστηκαν τις ανησυχίες ότι η αρχιτεκτονική διακυβέρνησης της πράξης ΤΝ ήταν υπερβολικά αποκεντρωμένη, καθώς «η επιβολή σε εθνικό επίπεδο στον κυβερνοχώρο θα μπορούσε να έχει περιορισμούς, ιδίως λόγω ανεπαρκών ικανοτήτων και τεχνογνωσίας σε επίπεδο εθνικών αρχών».
Η τσεχική λύση βασίζεται σε δύο μέρη. Το πρώτο μέρος αφορά το Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης, το οποίο θα υποστηρίξει τις εθνικές αρχές κατά την εφαρμογή, ιδίως με την παροχή βοήθειας στις αρχές εποπτείας της αγοράς, την κατάρτιση του εθνικού προσωπικού και τη συμβουλευτική υποστήριξη της Επιτροπής σε διεθνή θέματα που σχετίζονται με την ΤΝ.
Καθώς το Συμβούλιο θα συμμετέχει στις δραστηριότητες επιβολής, η σύνθεσή του τροποποιήθηκε ώστε να περιλαμβάνει μόνο εκπροσώπους των κρατών μελών. Παράλληλα, μια νέα ανάγκη ήταν η δημιουργία μιας μόνιμης υποομάδας που θα χρησιμεύει ως πλατφόρμα για ένα ευρύ φάσμα ενδιαφερόμενων φορέων, η οποία θα ερωτάται επίσης για τη σύνταξη των εκτελεστικών πράξεων.
Δεύτερον, οι Τσέχοι πρότειναν ένα νέο άρθρο που απαιτεί από την Επιτροπή να ορίσει μία ή περισσότερες εγκαταστάσεις δοκιμών σε επίπεδο ΕΕ, οι οποίες θα παρέχουν τεχνικές και επιστημονικές συμβουλές στο Συμβούλιο Προστασίας Δεδομένων ή στις αρχές εποπτείας της αγοράς.
Επιπλέον, η Επιτροπή θα μπορούσε να δημιουργήσει μια ομάδα ανεξάρτητων εμπειρογνωμόνων που θα υποστήριζε τις δραστηριότητες επιβολής, όπως η υποστήριξη των εθνικών αρχών, η παροχή συμβουλών για διασυνοριακές έρευνες και η Επιτροπή σε περιπτώσεις μη συμμόρφωσης με απαγορευμένες πρακτικές.
Εθνική ασφάλεια
Κατόπιν αιτήματος ορισμένων χωρών της ΕΕ, η εξαίρεση για την εθνική ασφάλεια αποσαφηνίστηκε ώστε να καλύπτει «δραστηριότητες που αφορούν τον στρατό, την άμυνα ή την εθνική ασφάλεια, ανεξάρτητα από το είδος της οντότητας που ασκεί τις δραστηριότητες αυτές».