Γράφει ο Μάνος Γαβριελάτος
Από τη θεραπεία χρόνιων νόσων και τη μείωση τροχαίων ατυχημάτων, μέχρι την κυβερνοασφάλεια και την προσωποποιημένη εξυπηρέτηση στα ηλεκτρονικά μέσα, δε θα ήταν υπερβολή ο ισχυρισμός ότι η τεχνητή νοημοσύνη έχει γίνει αναπόσπαστο κομμάτι της ανθρώπινης ζωής. Όσο εφαρμογές που βασίζονται στην τεχνητή νοημοσύνη κάνουν αισθητή την παρουσία τους στην καθημερινή μας ζωή, τόσο εντείνεται η ανάγκη για ρύθμιση των παραμέτρων της. Αυτό το νομικό κενό έρχεται να καλύψει η Ευρωπαϊκή Ένωση, με την Πρόταση Νόμου για την Τεχνητή Νοημοσύνη (ΤΝ).
Εισαγωγή
Στις 12 Απριλίου 2021 η Κομισιόν υπέβαλε τον υποψήφιο κανονισμό για την Τεχνητή Νοημοσύνη. Σήμερα, το νομοσχέδιο βρίσκεται στα χέρια του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, με τον αριθμό των τροπολογιών να ξεπερνάει τις 3300, επιδεικνύοντας την αμφιλεγόμενη φύση του ζητήματος. Τα όργανα της Ένωσης έχουν επωμιστεί ένα ιδιαίτερα απαιτητικό έργο, καθώς βάφουν σε λευκό καμβά, αποφασίζοντας για πρώτη φορά παγκοσμίως οριζόντιους κανόνες για τη ρύθμιση τεχνολογιών, που ήδη βρίσκονται στο επίκεντρο της ζωής μας. Η ΕΕ θεσμοθετεί με άξονα τόσο την διασφάλιση θεμελιωδών δικαιωμάτων, όσο και την προσέλκυση νέων επενδύσεων. Παράλληλα, επιχειρεί να αποφύγει την υπερβολική ρύθμιση της αγοράς και να ενθαρρύνει την καινοτομία. Κύριο μέλημά της παραμένει η απόκτηση ηγετικής θέσης στη νέα ψηφιακή εποχή.
Το υποψήφιο νομοσχέδιο ακολουθεί μία προσέγγιση με βάση τον κίνδυνο, διακρίνοντας τις πρακτικές που απορρέουν από συστήματα ΤΝ σε τέσσερα επίπεδα. Το πρώτο αφορά πρακτικές μη αποδεκτού κινδύνου, όπως συστήματα κοινωνικής αξιολόγησης και μαζικής παρακολούθησης. Συστήματα ΤΝ που υποστηρίζουν τέτοιες εφαρμογές απαγορεύονται, καθώς παραβιάζουν θεμελιώδη δικαιώματα. Το δεύτερο επίπεδο αφορά πρακτικές υψηλού κινδύνου σε κρίσιμους τομείς όπως η εργασία και οι μεταφορές. Εφαρμογές όπως αυτοματοποιημένα συστήματα διαλογής βιογραφικών και συστήματα αυτόνομης οδήγησης υπόκεινται σε διαδικασίες αξιολόγησης ως προς την ορθή τους συμμόρφωση. Το τρίτο επίπεδο περιλαμβάνει εφαρμογές που παράγουν περιορισμένο κίνδυνο και αφορούν ρομπότ συνομιλίας (chatbots) και συστήματα που παράγουν τεχνητό περιεχόμενο, όπως τα deepfakes. Τέτοιες εφαρμογές θα πρέπει να διέπονται από διαφάνεια, ενημερώνοντας τους χρήστες επαρκώς για την αλληλεπίδρασή τους με μηχάνημα. Τέλος, το τέταρτο επίπεδο ελάχιστου κινδύνου αφορά εφαρμογές φιλτραρίσματος ανεπιθύμητης αλληλογραφίας και βιντεοπαιχνίδια για τα οποία απλώς προτείνεται εθελοντική συμμόρφωση σύμφωνα με προκαθορισμένους βασικούς κανόνες δεοντολογίας.
Η θέση της ΕΕ στην κούρσα για κυριαρχία στην ψηφιακή εποχή και η επεκτατική φύση του κανονισμού
Η εξέταση των οικονομικών δεικτών δείχνει ότι η ΕΕ υπολείπεται σημαντικά των ΗΠΑ και της Κίνας στο διεθνή ανταγωνισμό στο κομμάτι της αγοράς που αφορά την ΤΝ. Το 2020 για παράδειγμα στις ΗΠΑ συγκεντρώθηκε ένα ποσό ιδιωτικών επενδύσεων σε συστήματα ΤΝ που ανήλθε στα 23.6 δισεκατομμύρια δολάρια. Την ίδια χρονιά στη Κίνα συγκεντρώθηκαν 9.9 δισεκατομμύρια, ενώ στην ΕΕ οι ιδιωτικές επενδύσεις ανήλθαν μόλις στα 2 δισεκατομμύρια. Η δεινή θέση της ΕΕ σε αυτόν τον τομέα διαφαίνεται και από το μερίδιο αγοράς που κατέχουν οι τρεις βασικοί ανταγωνιστές όσον αφορά την προέλευση των επιχειρήσεων που κατέχουν αντίστοιχα διπλώματα ευρεσιτεχνίας. Μέχρι το 2020, το 60% αυτών των επιχειρήσεων προερχόταν από την Κίνα, το 14% από τις ΗΠΑ και μόλις το 7% από χώρες της ΕΕ.
Η ΕΕ επιχειρεί να γεφυρώσει αυτό το χάσμα μέσω ενός επεκτατικού κανονισμού. Στη σχετική βιβλιογραφία, έχει διατυπωθεί η ιδέα ότι η ΕΕ έχει την ικανότητα να εκδίδει κανονισμούς που διαμορφώνουν ανάλογα πρότυπα στο παγκόσμιο επιχειρηματικό περιβάλλον, χωρίς να χρειάζεται να καταφεύγει σε διεθνείς οργανισμούς, το λεγόμενο “Brussels effect”. Αυτό σημαίνει ότι οι δυνάμεις της αγοράς από μόνες τους είναι ικανές να οδηγήσουν στον εξευρωπαϊσμό πολλών πτυχών του παγκόσμιου εμπορίου, χωρίς η ΕΕ να επιβάλλει καταναγκαστικά τους κανονισμούς της σε επιχειρήσεις και συνεπάγεται μία ισχυρή και μοναδική δύναμη της ΕΕ να διαμορφώνει την παγκόσμια αγορά μονομερώς, κάτι που ήδη έχει γίνει ευρέως αντιληπτό με την εφαρμογή του κανονισμού για την προστασία των προσωπικών δεδομένων (GDPR) και που επιχειρείται να επαναληφθεί με τον κανονισμό για την ΤΝ.
Στον τίτλο Ι του νομοσχεδίου καθορίζεται το πεδίο εφαρμογής του κανονισμού. Σε αυτό περιλαμβάνονται οι χρήστες των συστημάτων ΤΝ, δηλαδή οι αποδέκτες των νέων αυτών τεχνολογιών. Σε αυτούς προστίθενται, φυσικά, οι πάροχοι των συστημάτων ΤΝ, οι οποίοι αποτελούνται από όλους τους παρόχους που δραστηριοποιούνται εντός της Ένωσης ανεξάρτητα από το αν αυτοί είναι εγκατεστημένοι εντός ή εκτός αυτής. Προκειμένου το πεδίο εφαρμογής να καταστεί ευρύτερο, σε αυτό συμπεριλαμβάνονται και οι πάροχοι τρίτων χωρών των οποίων τα συστήματα ΤΝ παράγουν “στοιχεία εξόδου” εντός της Ένωσης. Τέλος, διευκρινίζεται ότι οι σχετικές διατάξεις δεν εμπίπτουν σε χρήσεις που αφορούν αποκλειστικά στρατιωτικούς σκοπούς. Η πρώτη παρατήρηση, λοιπόν, σχετίζεται με την επεκτατική φύση του πεδίου εφαρμογής, η οποία, φυσικά, εντάσσεται στην δέσμη ενεργειών της ΕΕ, που αποσκοπούν στην απόκτηση ηγετικής θέσης στην κούρσα για παγκόσμια κυριαρχία στην ψηφιακή εποχή.
Το επίμαχο ζήτημα του ορισμού
Στη συνέχεια του νομοσχεδίου δίνεται ο ορισμός ενός συστήματος ΤΝ ως εξής: “λογισμικό που […] για ένα δεδομένο σύνολο στόχων που έχουν καθοριστεί από τον άνθρωπο, παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλεπιδρά”. Ιδιαίτερο ενδιαφέρον σε αυτόν τον ορισμό έχει ο καθορισμός των μεθόδων λειτουργίας των ανωτέρω λογισμικών. Σε αυτές περιλαμβάνονται τεχνικές άμεσα συνυφασμένες με την ΤΝ όπως η μηχανική μάθηση, αλλά και άλλες ευρύτερης σχετικότητας όπως μέθοδοι που στηρίζονται στη λογική (μεταξύ άλλων μέθοδοι επαγωγικού προγραμματισμού) και τις βάσεις γνώσεων, στατιστικές προσεγγίσεις, εκτίμηση κατά Bayes και μέθοδοι αναζήτησης και βελτιστοποίησης.
Με μία πρώτη ματιά ο συγκεκριμένος ορισμός προσομοιάζει αρκετά στον τρόπο που λειτουργούν δημοφιλείς εφαρμογές, όπως το Facebook, ώστε να παρέχουν προσωποποιημένες πληροφορίες στους χρήστες τους. Επομένως, τίθεται εξαρχής ζήτημα ενός ανεξέλεγκτα διευρυμένου ορισμού, κάτι που έχουν επισημάνει τεχνολογικοί κολοσσοί όπως η IBM. Ο καθορισμός των μεθόδων στο υποψήφιο νομοσχέδιο συμπεριλαμβάνει τεχνικές, που μπορούν να χαρακτηριστούν ως απλές στατιστικές μέθοδοι, γεγονός που ενδέχεται να καταστήσει τον ορισμό δυσλειτουργικά ευρύ. Επομένως, σε έναν τέτοιο ορισμό κρίνεται απαραίτητο να αποσαφηνιστεί ο τρόπος με τον οποίο θα διαφοροποιούνται οι διάφορες λειτουργίες των σύγχρονων τεχνολογιών και θα ταξινομούνται ως συστήματα ΤΝ.
Εκ φύσεως, η προσπάθεια ορισμού της ΤΝ και η ένταξή της σε νομικό πλαίσιο είναι μία ιδιαίτερα προβληματική συνιστώσα του νομοσχεδίου. Αυτό γιατί οι νομοθέτες πρέπει να κάνουν έναν συμβιβασμό ανάμεσα σε μία τεχνική ή ανθρωποκεντρική ορολογία. Η ανθρωποκεντρική προσέγγιση του ορισμού θα μπορούσε να τον διαμορφώσει ως εξής, σύμφωνα με το Υπουργείο Άμυνας των ΗΠΑ: “η ικανότητα των μηχανών να εκτελούν εργασίες που συνήθως απαιτούν ανθρώπινη νοημοσύνη”. Το υποψήφιο νομοσχέδιο για την ώρα έχει στραφεί προφανώς προς την τεχνική κατεύθυνση. Αυτή λειτουργεί, αρχικά, προς όφελος της νομικής σαφήνειας. Ωστόσο, ελλοχεύει ο κίνδυνος, ο ορισμός να καταστεί απαρχαιωμένος, δεδομένης της ταχύτητας των τεχνολογικών εξελίξεων και της εισαγωγής νέων μεθόδων στη λειτουργία συστημάτων ΤΝ. Τέλος, θα πρέπει να ληφθούν υπόψη και ενδεχόμενες απόπειρες των παρόχων να διαφύγουν του ορισμού, εφαρμόζοντας επιδέξια μεθοδολογία στα συστήματά τους.
Διαδικασίες συμμόρφωσης και επιβολή του νόμου
Αν τα ζητήματα ορισμού είναι υποθέσεις που απασχολούν κυρίως τις μεγάλες επιχειρήσεις, όπως η IBM, τότε οι κανονισμοί που ρυθμίζουν τις διαδικασίες συμμόρφωσης είναι υποθέσεις που επηρεάζουν άμεσα τις μικρομεσαίες επιχειρήσεις, λόγω του συνεπαγόμενου κόστους. Σύμφωνα με το νομοσχέδιο, οι διαδικασίες συμμόρφωσης επιβάλλονται στα συστήματα ΤΝ που ταξινομούνται στο επίπεδο υψηλού κινδύνου. Οι εταιρείες που διοχετεύουν τέτοια συστήματα στην αγορά θα πρέπει να εισάγουν ένα Σύστημα Διαχείρισης Ποιότητας (ΣΔΠ) στις επιχειρήσεις τους, επιφορτισμένο με μία σειρά διαδικασιών που θα διασφαλίζουν τη συμμόρφωση με τις διατάξεις του κανονισμού.
Η εγκατάσταση του ΣΔΠ, στις περιπτώσεις που δεν προϋπάρχει, έχει υψηλό κόστος, ενώ σε αυτό θα πρέπει να συνυπολογισθεί και το κόστος διατήρησής του. Σύμφωνα με την Εκτίμηση Επιπτώσεων που συμπεριλαμβάνεται στο νομοσχέδιο το σχετικό κόστος εγκατάστασης για μία μικρομεσαία επιχείρηση υπολογίζεται στις 170.000 ευρώ. Σε μία άλλη έρευνα η ίδια δαπάνη υπολογίζεται στα 400.000 ευρώ. Σε κάθε περίπτωση οι επενδύσεις ΤΝ από μικρομεσαίες επιχειρήσεις αναμένεται να μειωθούν, ως αποτέλεσμα των νέων προτύπων συμμόρφωσης. Όσον αφορά τις μεγάλες αμερικανικές εταιρείες, στην ίδια έρευνα έχει υπολογισθεί ότι η συμμόρφωσή τους με το Γενικό Κανονισμό για την Προστασία των Δεδομένων (GDPR) τους κόστισε συνολικά $150 δις. Επειδή, όμως το πεδίο αναφοράς της Πρότασης Κανονισμού για την ΤΝ είναι ευρύτερο, αναμένεται το ποσό αυτό να είναι μεγαλύτερο.
Τέλος, έχει ασκηθεί ιδιαίτερη κριτική στον τρόπο επιβολής των κανονισμών. Στην πρόταση νόμου προτείνεται η εγκαθίδρυση ενός Ευρωπαϊκού Συμβουλίου για την ΤΝ, που θα απαρτίζεται από αντιπροσώπους των κρατών-μελών και της Επιτροπής και θα είναι υπεύθυνο για την εναρμονισμένη εφαρμογή του κανονισμού. Ωστόσο, το κύριο βάρος της εποπτείας προτείνεται να το επωμιστούν τα κράτη-μέλη, που θα πρέπει να συντάξουν σχετικές αρμόδιες εθνικές αρχές για την επιβολή του κανονισμού. Η συγκεκριμένη πρόταση έχει δεχθεί αυστηρή κριτική, καθώς αναμένεται να δημιουργήσει κλίμα ανασφάλειας στους επενδυτές και κατακερματισμό της αγοράς, αφού εγκαθιστά πολλαπλά όργανα εποπτείας που θα πρέπει να εφαρμόσουν τον ίδιο κανονισμό.
Κλείνοντας, είναι δεδομένο ότι οι δυνατότητες που προκύπτουν από την εισαγωγή τεχνολογιών ΤΝ έχουν καταστεί όχι απλώς χρήσιμες, αλλά απαραίτητες σε μία πραγματικότητα η οποία επιστρατεύει τα ψηφιακά μέσα σε κάθε έκφανση της σύγχρονης ζωής. Και φυσικά κάθε νέα τεχνολογία δημιουργεί νέες ευκαιρίες, αλλά και κινδύνους. Σε επίπεδο χάραξης πολιτικής, λοιπόν, επειδή η ΤΝ αποτελεί μία διαρκώς εξελισσόμενη τεχνολογία, κρίνεται αναγκαία η μόνιμη παρουσία όλων των ενδιαφερομένων μερών στις διαδικασίες διαβούλευσης, τόσο αυτών που αναπτύσσουν την τεχνολογία, όσο και αυτών που αποτελούν αποδέκτες της. Οι αντιλήψεις του μέσου ανθρώπου σχετικά με την ΤΝ και η οικειοποίησή του με μέσα ψηφιακής τεχνολογίας αποτελούν δείκτες αποτελεσματικής εφαρμογής τους. Προκειμένου να γίνει ορθή εκμετάλλευση των νέων τεχνολογιών, θα πρέπει πρώτα αυτές να γίνουν αποδεκτές από αυτούς που τις χρησιμοποιούν. Η ενδεχόμενη επιτυχία ή αποτυχία της πρότασης νόμου να ρυθμίσει αποτελεσματικά τις παραμέτρους ΤΝ θα φανεί από το πόσο άνετοι θα είμαστε στο μέλλον όταν καλούμαστε να χρησιμοποιήσουμε ψηφιακές εφαρμογές, που αναπόφευκτα με κάποιον τρόπο θα βασίζονται σε μεθόδους ΤΝ.
Πηγές:
- Anu Bradford. (2019). The Brussels Effect: How the European Union Rules the World. Oxford University Press. Διαθέσιμο σε: https://academic.oup.com/book/36491
- Ευρωπαϊκό Κοινοβούλιο και Συμβούλιο (2021). Πρόταση Κανονισμού για την Τεχνητή Νοημοσύνη. Διαθέσιμο σε: https://eur-lex.europa.eu/legal-content/EL/TXT/?uri=CELEX:52021PC0206
- US Department of Defense (2018). Summary of the 2018 Department of Defense Artificial Intelligence Strategy: Harnessing AI to Advance Our Security and Prosperity. Διαθέσιμο σε: https://media.defense.gov/2019/Feb/12/2002088963/-1/-1/1/SUMMARY-OF-DOD-AI-STRATEGY.PDF
- Natasha Teja (2022). EU AI Act remains murky for financial services. Διαθέσιμο σε: https://www.iflr.com/article/2ab8wjf0lpfosxfm1o074/eu-ai-act-remains-murky-for-financial-services
- Matt O’Shaughnessy (2022). One of the Biggest Problems in Regulating AI Is Agreeing on a Definition. Διαθέσιμο σε: https://carnegieendowment.org/2022/10/06/one-of-biggest-problems-in-regulating-ai-is-agreeing-on-definition-pub-88100
- Maria Rosaria Della Porta (2021). The potential of AI and the position of the EU in the AI global race. Διαθέσιμο σε: https://www.prometheusnetwork.eu/blog/ai-global-race/
- Laurie Clarke (2021) MEPs are preparing to debate Europe’s AI Act. These are the most contentious issues. Διαθέσιμο σε: https://techmonitor.ai/policy/meps-are-preparing-to-debate-europes-ai-act-these-are-the-most-contentious-issues
- Lilian Edwards (2022) The EU AI Act: a summary of its significance and scope. Διαθέσιμο σε: https://www.adalovelaceinstitute.org/wp-content/uploads/2022/04/Expert-explainer-The-EU-AI-Act-11-April-2022.pdf
- Jedidiah Bracy (2022) A look at European Parliament’s AI Act negotiations. Διαθέσιμο σε: https://iapp.org/news/a/a-look-at-european-parliaments-ai-act-negotiations/
- Benjamin Mueller (2021) How much will the Artificial Intelligence Act cost Europe. Διαθέσιμο σε: https://www2.datainnovation.org/2021-aia-costs.pdf
Πηγή εικόνας: https://www.protex.ai/post/eu-artificial-intelligence-act-future-proof-safe-ai-development-for-2023