Γράφει η Αλεξάνδρα Μαγγίπα
Στην παρούσα ανάλυση παρουσιάζεται το σχέδιο της Ευρωπαϊκής Ένωσης για την ψηφιακή κυριαρχία. Εντός του παραπάνω σχεδίου, που αποτελεί μέρος του γενικότερου πλάνου της ΕΕ για τη στρατηγική αυτονομία, συμπεριλαμβάνεται και η ευρύτατη επέκταση της χρήσης της τεχνητής νοημοσύνης (Artificial Intelligence). Παράλληλα δίνεται έμφαση, για τους σκοπούς της ανάλυσης, στην προσπάθεια θεσμοθέτησης της τεχνητής νοημοσύνης με τον κανονισμό Artificial Intelligence Act (ΑΙΑ).
Είναι γεγονός ότι τα τελευταία χρόνια, η διεθνής κοινότητα ασχολείται περισσότερο από ποτέ με τον ψηφιακό εκσυγχρονισμό, ως συστατικό πλέον στοιχείο ενός ευρέος φάσματος σημαντικών τομέων της δημόσιας ζωής, όπως η στρατηγική σε ζητήματα άμυνας και ασφάλειας, τα οπλικά συστήματα και η υγεία. Η Ευρώπη φαίνεται πως θέλει να στερεώσει δυναμικά την παρουσία της στη διεθνή αρένα του ψηφιακού εκσυγχρονισμού, δηλώνοντας πως κύριος στόχος της είναι η «ψηφιακή κυριαρχία».Πως ορίζεται όμως πραγματικά ένας ψηφιακά κυρίαρχος διεθνής δρών; Οφείλουμε να ξεκινήσουμε επισημαίνοντας ότι η κυριαρχία έχει αποτελέσει όρο ελαστικό και κατά καιρούς ανανοηματοδοτούμενο, ανάλογα με τις πολιτικές και κοινωνικές συγκυρίες και -ίσως- τα πολιτικά κίνητρα. Έχοντας λοιπόν αυτό ως βάση, θα μπορούσαμε να ορίσουμε, κάπως αφηρημένα, την ψηφιακή κυριαρχία ως τον κάποιου είδους κρατικό έλεγχο στην τεχνολογία και την ψηφιακή εξέλιξη.
Η ψηφιακή κυριαρχία, όπως αυτή ορίζεται, αποτελεί αντικείμενο έντονης ενασχόλησης από τα όργανα της Ευρωπαϊκής Ένωσης. Την σκυτάλη όμως σε αυτό τον αγώνα κρατάει μάλλον η Ευρωπαϊκή Επιτροπή. Ως σημείο αφετηρίας αυτής της γενικότερης κατεύθυνσης θα ορίζαμε την χρονιά εκλογής της Ursula von der Leyen ως προέδρου της Επιτροπής. Η ίδια υπήρξε η πρώτη που μίλησε ανοικτά για συντονισμένη «γνώση και ιδιοκτησία βασικών τεχνολογιών στην Ευρώπη». Εντός της τελευταίας πενταετίας, παρατηρείται ότι εντείνονται σημαντικά οι διεργασίες προώθησης του ελέγχου του κυβερνοχώρου και των ψηφιακών δεδομένων, ενώ δίνονται όλο και περισσότερο επενδυτικές ευκαιρίες για ψηφιακή άνοδο και εκσυγχρονισμό.
Σε αυτό το σημείο υπεισέρχεται η χρήση και η ανάπτυξη των εφαρμογών τεχνητής νοημοσύνης (Αrtificial Ιntelligence). Η τεχνητή νοημοσύνη ορίζεται ως «η ικανότητα μιας μηχανής να εμφανίζει ανθρώπινες ικανότητες όπως η συλλογιστική, η μάθηση, ο προγραμματισμός και η δημιουργικότητα.» Η αναδυόμενη αξίωση για Ψηφιακή Κυριαρχία συνδυάστηκε με έντονες συζητήσεις για τον ρόλο της τεχνητής νοημοσύνης, συμπεριλαμβανομένης της «εξόρυξης» δεδομένων και του υπεύθυνου ελέγχου και δημιουργίας αλγορίθμου.
Τυπικά, το πρώτο αποφασιστικό βήμα προς την ένταξη των εφαρμογών τεχνητής νοημοσύνης στην Ευρώπη έγινε το 2020, χρονιά κατά την οποία η Επιτροπή εξέδωσε την «Λευκή Βίβλο για την Τεχνητή Νοημοσύνη» (White Paper on AI). Παρά το ότι το κείμενο δεν είναι δεσμευτικό, αξίζει να κρατήσουμε ότι δίνεται ιδιαίτερη βαρύτητα στην ταχύτατη επέκταση αυτόνομων προϊόντων και υπηρεσιών τεχνητής νοημοσύνης, ιδίως για την ουσιαστική διευκόλυνση και ανάπτυξη της υγειονομικής περίθαλψης, των μεταφορών και της δικαιοσύνης.
Θα ήταν εύλογο, στο σημείο αυτό, να αναρωτηθούμε ποιος ή ποιοι ήταν λόγοι για τους οποίους ένα τέτοιο κείμενο «άργησε» τόσο από την Επιτροπή, δεδομένης της πολλαπλώς αποδεδειγμένης ταχύτητας στο σχεδιασμό μέτρων και της ήδη, μέχρι τότε,επέκτασης των εφαρμογών τεχνητής νοημοσύνης διεθνώς. Η απάντηση μάλλον δίνεται από το ίδιο το κείμενο, όπου δηλώνεται ρητά «η έλλειψη εμπιστοσύνης απέναντι στην ευρύτερη διαχείριση της τεχνητής νοημοσύνης». Υποδηλώνεται έτσι ότι τα ψηφιακά εργαλεία ακολουθούν μια πορεία που γίνεται πιο ακριβής και πιο αυτόνομη καθημερινά, έχοντας φτάσει σε ένα σημείο όπου η εμπιστοσύνη, όσων είναι υπεύθυνοι για τη διάδοση και τη χρήση τους, κλονίζεται.
Με θεμέλιο τα παραπάνω δεδομένα, η Ευρωπαϊκή Επιτροπή έρχεται τον αμέσως επόμενο χρόνο, με πρόταση για δημιουργία θεσμικού πλαισίου. Συγκεκριμένα, το Artificial Intelligence Act (AIA), που έκανε την πρώτη του εμφάνιση τον Απρίλιο του 2021, προσπαθεί να ρυθμίσει, με σχετικά γενικούς κανόνες, την τεχνητή νοημοσύνη και τους κινδύνους που ελλοχεύουν από τη χρήση των εργαλείων της. Την παραπάνω δέσμη μέτρων ακολουθεί μια σειρά από στόχους που δεν αγγίζουν μόνο την ευρωπαϊκή σφαίρα. Αφενός, υπογραμμίζονται οι φιλοδοξίες της ΕΕ να αποτελέσει η τεχνητή νοημοσύνη ακρογωνιαίο λίθο για την οργάνωση της άμυνας και της ασφάλειας. Αφετέρου, διαγράφεται ο σκοπός της Ένωσης να γίνει παγκόσμιος ηγέτης στην τεχνητή νοημοσύνη τόσο με τη μείωση της εξάρτησης από εξωτερικούς παράγοντες και αναδυόμενες τεχνολογίες, όσο και δημιουργώντας πρώτη ένα ελκυστικό κανονιστικό πλαίσιο, ικανό να γίνει πρότυπο από τους υπόλοιπους εμπλεκόμενους διεθνείς παίκτες.
Στο πλαίσιο του AIA, δίνεται εμφανής προτεραιότητα στην διαχείριση και την προστασία των χρηστών από τους απορρέοντες κινδύνους της τεχνητής νοημοσύνης με την κατηγοριοποίηση των συστημάτων νοημοσύνης σε συστήματα απαράδεκτου, υψηλού και χαμηλού κινδύνου. Αναφορικά με τα πρώτα, ένα σύστημα τεχνητής νοημοσύνης κρίνεται απαγορευτικό όταν αυτό αναπτύσσει υποσυνείδητες μεθόδους προκειμένου να αλλοιώσει την ανθρώπινη συμπεριφορά, όταν εκμεταλλεύεται συγκεκριμένες ευπάθειες και χαρακτηριστικά κοινωνικών ομάδων ή όταν αξιολογεί συμπεριφορές φυσικών προσώπων με την αδικαιολόγητη χρήση βιομετρικών συστημάτων αναζήτησης. Όσον αφορά τα συστήματα υψηλού κινδύνου, οι προϋποθέσεις που θα πρέπει να συντρέχουν ώστε να κρίνονται αυτά διαθέσιμα περιλαμβάνουν την apriori δημιουργία τεχνικής τεκμηρίωσης του συστήματος, την αυτόματη καταγραφή, τη διασφάλιση της διαφάνειας αλλά και την εποπτεία από άνθρωπο όσο τίθεται σε λειτουργία. Έτσι λοιπόν, η αυτονομία του συστήματος, το ισχυρότερο δηλαδή χαρακτηριστικό της τεχνητής νοημοσύνης, κρίνεται τινά τρόπον ανούσια.
Με γνώμονα το παραπάνω κανονιστικό τοπίο, καταλαβαίνουμε ότι συμβαίνει κάτι παράδοξο : ενώ οι κανόνες, τόσο ως προς την επιλογή της γλώσσας όσο και με βάση την ερμηνεία του σκοπού τους, καλύπτουν γενικά και κάπως αφηρημένα τα προβλήματα που ανακύπτουν από τη χρήση εφαρμογών AI, την ίδια στιγμή τα κριτήρια που αφορούν τα συστήματα υψηλού κινδύνου έχουν έντονα επεμβατικό και περιοριστικό χαρακτήρα που θα μπορούσε να θέσει σε σοβαρό κίνδυνο την ανταγωνιστικότητα των συστημάτων AI που δημιουργούνται εντός της ΕΕ. Ήδη μεγάλες εταιρείες που εδράζονται στον ευρωπαϊκό χώρο όπως η Siemens και η Renault έχουν εκφράσει τις ανησυχίες τους, μη παραλείποντας να προειδοποιήσουν για αποθάρρυνση και μετακίνηση των επενδύσεων «στην άλλη μεριά του Ατλαντικού».
Αυτό που κάνει τους αποδέκτες των κανόνων να αντιδρούν δεν είναι η ίδια η προσπάθεια για θεσμοθέτηση, αλλά ο προσανατολισμός της. Σε αντίθεση με τους δύο άλλους μείζονος σημασίας δρώντες στο ζήτημα της τεχνητής νοημοσύνης -και εννοούμε βεβαίως τις ΗΠΑ και την Κίνα-, των οποίων οι πολιτικές είναι προσανατολισμένες στην προώθηση ενός μοντέλου διαχείρισης της τεχνητής νοημοσύνης ως εργαλείο ανταγωνισμού στις παγκόσμιες αγορές κεφαλαίου, η ΕΕ επιλέγει να ακολουθήσει το δρόμο της εξεύρεσης της ταυτότητας του AI, στη βάση πολιτικών που αποσκοπούν στο σεβασμό των θεμελιωδών δικαιωμάτων έχοντας όμως παράλληλα αξιώσεις παγκόσμιας γενίκευσης.
Σε αντίθεση με την πορεία που ακολουθείται από την ΕΕ, συχνά παρατηρείται μια τάση αποστασιοποίησης από την απόφαση για δεσμευτικές ρυθμίσεις σε ζητήματα που σχετίζονται με τον παγκόσμιο ιστό και την πρόσβαση σε βάσεις δεδομένων. Σε κάθε περίπτωση, η όλο και πιο έντονη επιρροή των διαρκώς εξελισσόμενων ψηφιακών μέσων ίσως να υποδηλώνει την έναρξη μιας εποχής δυναμικότερης παρέμβασης κι ελέγχου των εργαλείων που μας παρέχονται, εποχής στην οποία η ΕΕ φαίνεται να πρωτοστατεί. Είναι όμως, στην περίπτωση που μας απασχολεί, η παρέμβαση για προστασίασυμβατή με την πίεση για οικονομική επέκταση κι ανταγωνιστικότητα, ή θα έπρεπε να εξετάζονται οι δύο παραπάνω προβληματικές σε ένα πιο συγχρονικό πλαίσιο;
BΙΒΛΙΟΓΡΑΦΙΑ
Πηγή φωτογραφίας : δημιουργήθηκε από το εργαλείο Hotpot AI : AIArtGenerator
Calderaro, A., Blumfelde, S. (2022) Artificial Intelligence and EU Security: the False Promise of Digital Sovereignty. EuropeanSecurity. Ανακτήθηκε 7 Ιουλίου, 2023, από :https://www.tandfonline.com/doi/epdf/10.1080/09662839.2022.2101885?needAccess=true&role=button
Crespi, F., Caravella, S., Menghini, M., Salvatori C. (2021). European Technological Sovereignty: An Emerging Framework for Policy Strategy. Intereconomics. Ανακτήθηκε 8 Ιουλίου, 2023, από: https://link.springer.com/content/pdf/10.1007/s10272-021-1013-6.pdf
Egan, M., Raube, K., Wouters, J. &Chaisse, J. (2023). Contestation and Polarization in Global Governance. [χ.τ.]: Edward Elgar Publishing Limited.
European Commission. (19 Φεβρουαρίου, 2020). White Paper on Artificial Intelligence: a European Approach to Excellence and Trust. Ανακτήθηκε 10 Ιουλίου, 2023, από: https://commission.europa.eu/system/files/2020-02/commission-white-paper-artificial-intelligence-feb2020_en.pdf
European Parliament. (4 Σεπτεμβρίου, 2020). What is Artificial Intelligence and how is it used?.Ανακτήθηκε 7 Ιουλίου, 2023, από https://www.europarl.europa.eu/news/en/headlines/society/20200827STO85804/what-is-artificial-intelligence-and-how-is-it-used.
European Union. Artificial Intelligence Act. Ανακτήθηκε 24 Ιουνίου, 2023, από https://artificialintelligenceact.com/.
Laux J. , Wachter S., Mittelstad B. (2023). Trustworthy Artificial Intelligence and the European Union AI Act: On the Conflation of Trustworthiness and Acceptability of Risk. Ανακτήθηκε 8 Ιουλίου, 2023, από:https://onlinelibrary.wiley.com/doi/pdf/10.1111/rego.12512
Roberts, H., Hine, E., Floridi, L. (23 Ιουνίου, 2023). Digital Sovereignty, Digital Expansionism, and the Prospects for Global AI Governance.Ανακτήθηκε 8 Ιουλίου, 2023, από : https://deliverypdf.ssrn.com/delivery.php?ID=133113085074071125106127071104027112006064056058069029104007021119110005112028112067098033019101022122010121089065082070101118059052014001081098126030064068120114100018049010096018098123092002102064012096080116069007099072019124096030029025092097025103&EXT=pdf&INDEX=TRUE
Schuett, J. Risk Management in the Artificial Intelligence Act. European Journal of Risk Regulation. Ανακτήθηκε 10 Ιουλίου, 2023, από: https://www.cambridge.org/core/services/aop-cambridge-core/content/view/2E4D5707E65EFB3251A76E288BA74068/S1867299X23000016a.pdf/risk-management-in-the-artificial-intelligence-act.pdf.
Toh, M. (30 Ιουνίου, 2023). ‘Serious Concerns’: Top Companies raise Alarm over Europe’s proposed AI Law. CNN Business. Ανακτήθηκε 5 Ιουλίου, 2023, από: https://edition.cnn.com/2023/06/30/tech/eu-companies-risks-ai-law-intl-hnk/index.html.