Γράφει η Έλενα Τόσκα
Η ταχύτατη ανάπτυξη της τεχνητής νοημοσύνης (εφεξής ΤΝ) έχει μετασχηματίσει την παραγωγή και διάδοση της ψηφιακής πληροφορίας, δημιουργώντας σημαντικές δυνατότητες για την οικονομία και την κοινωνία, αλλά και νέους κινδύνους για την προστασία θεμελιωδών δικαιωμάτων, όπως η μη διάκριση, η ελευθερία της έκφρασης και η ανθρώπινη αξιοπρέπεια (European Parliamentary Research Service [EPRS], 2024). Ιδιαίτερη πρόκληση αποτελεί η δυνατότητα ταχείας και χαμηλού κόστους παραγωγής εξαιρετικά ρεαλιστικού συνθετικού περιεχομένου, η οποία δυσχεραίνει την έγκαιρη επαλήθευση και τον περιορισμό της διάδοσης παραπλανητικού υλικού (European Digital Media Observatory [EDMO],2024). Για την αντιμετώπιση των κινδύνων αυτών, η Ευρωπαϊκή Ένωση (εφεξής ΕΕ) θέσπισε με τον Κανονισμό (ΕΕ) 2024/1689 (εφεξής EU AI Act) ένα ενιαίο ρυθμιστικό πλαίσιο για την τεχνητή νοημοσύνη, με ιδιαίτερη έμφαση στη διαφάνεια των συστημάτων και του παραγόμενου περιεχομένου. Κεντρική θέση κατέχει το άρθρο 50, το οποίο προβλέπει ειδικές υποχρεώσεις σήμανσης και γνωστοποίησης για περιεχόμενο που παράγεται ή χειραγωγείται με τη χρήση ΤΝ, συμπεριλαμβανομένου του βαθέως ψευδούς περιεχόμενου (εφεξής deepfake). Οι υποχρεώσεις αυτές αποσκοπούν στην ενίσχυση της διαφάνειας και στην προστασία των αποδεκτών από την παραπλάνηση, εγείρουν, ωστόσο, ερωτήματα ως προς την τεχνική τους αποτελεσματικότητα και την ικανότητά τους να περιορίσουν ουσιαστικά τη χειραγώγηση της ψηφιακής πληροφορίας.
Ως βαθύ ψευδές περιεχόμενο (deepfake) ορίζεται το περιεχόμενο εικόνας, ήχου ή βίντεο που παράγεται ή χειραγωγείται με τεχνητή νοημοσύνη, προσομοιάζει σε υφιστάμενα πρόσωπα, αντικείμενα, τόπους, οντότητες ή γεγονότα και θα μπορούσε να εμφανίζεται ψευδώς ως αυθεντικό ή αληθές (Κανονισμός (ΕΕ) 2024/1689, 2024,αρ.3 παρ.60).
Η επιλογή του ευρωπαίου νομοθέτη δε συνίσταται στη γενική απαγόρευση της τεχνολογίας deepfake, αλλά στη θέσπιση συγκεκριμένων υποχρεώσεων διαφάνειας για ορισμένους παρόχους και φορείς ανάπτυξης και χρήσης συστημάτων τεχνητής νοημοσύνης. Το άρθρο 50 του Κανονισμού θεσπίζει ειδικές υποχρεώσεις σχετικά με τη σήμανση και τη γνωστοποίηση περιεχομένου που έχει παραχθεί ή υποστεί χειραγώγηση με τη χρήση ΤΝ. Οι σχετικές υποχρεώσεις εφαρμόζονται από τις 2 Αυγούστου 2026, ενώ προβλέπονται ειδικές μεταβατικές ρυθμίσεις για ορισμένα συστήματα που είχαν διατεθεί στην αγορά πριν από την ημερομηνία αυτή. Η κανονιστική αυτή προσέγγιση αποσκοπεί στην ενίσχυση της διαφάνειας και στην αποτροπή της παραπλάνησης των αποδεκτών, μέσω της σαφούς ενημέρωσής τους ότι συγκεκριμένο περιεχόμενο έχει παραχθεί ή υποστεί τεχνητή επεξεργασία (Κανονισμός (ΕΕ) 2024/1689, 2024, αιτιολογική σκέψη 134).
Οι πάροχοι συστημάτων τεχνητής νοημοσύνης, συμπεριλαμβανομένων των συστημάτων που παράγουν περιεχόμενο ήχου, εικόνας και βίντεο, οφείλουν να διασφαλίζουν ότι το περιεχόμενο που παράγεται από αυτά φέρει διακριτή σήμανση και είναι αναγνωρίσιμο ως τεχνητά παραγόμενο ή επεξεργασμένο (Κανονισμός (ΕΕ) 2024/1689, 2024, άρθρο 50 παρ. 2). Παράλληλα, οφείλουν να διασφαλίζουν ότι οι τεχνικές λύσεις τους είναι αποτελεσματικές και αξιόπιστες στον βαθμό που αυτό είναι τεχνικά εφικτό, λαμβάνοντας υπόψη τις ιδιαιτερότητες και τους περιορισμούς των διαφόρων τύπων περιεχομένου, καθώς και το κόστος εφαρμογής και την κατάσταση της τεχνολογίας, όπως αυτή αντανακλάται στα σχετικά τεχνικά πρότυπα. Η υποχρέωση αυτή δεν ισχύει στον βαθμό που τα συστήματα τεχνητής νοημοσύνης εκτελούν βοηθητική λειτουργία για τυπική επεξεργασία ή δεν μεταβάλλουν ουσιωδώς τα δεδομένα που παρέχονται από τον υπεύθυνο ανάπτυξης. Αξίζει, επίσης, να σημειωθεί ότι η υποχρέωση δεν ισχύει όταν η χρήση επιτρέπεται από τον νόμο για την πρόληψη και τη διερεύνηση ποινικών αδικημάτων (Κανονισμός (ΕΕ) 2024/1689, 2024, άρθρο 50 παρ. 2).
Όσον αφορά τους φορείς που θέτουν σε λειτουργία σύστημα τεχνητής νοημοσύνης το οποίο δημιουργεί ή επεξεργάζεται περιεχόμενο εικόνας, ήχου ή βίντεο που αποτελεί “deepfake”, υποχρεούνται να γνωστοποιούν ότι το περιεχόμενο αυτό έχει δημιουργηθεί ή υποστεί τεχνητή επεξεργασία. Η υποχρέωση αυτή δεν εφαρμόζεται όταν η χρήση επιτρέπεται από το νόμο για τον εντοπισμό, την πρόληψη, τη διερεύνηση ή τη δίωξη ποινικών αδικημάτων και για τους παρόχους. Όταν το περιεχόμενο αποτελεί μέρος ενός έργου ή προγράμματος που είναι προφανώς καλλιτεχνικό, δημιουργικό, σατιρικό, φανταστικό ή ανάλογο, οι υποχρεώσεις περιορίζονται στη γνωστοποίηση της ύπαρξης του εν λόγω δημιουργημένου ή επεξεργασμένου περιεχομένου με κατάλληλο τρόπο που δεν παρεμποδίζει την προβολή ή την απόλαυση του έργου (Κανονισμός (ΕΕ) 2024/1689, 2024, άρθρ. 50 παρ. 4).
Οι πληροφορίες αυτές παρέχονται στα ενδιαφερόμενα πρόσωπα με σαφή και ευδιάκριτο τρόπο κατά τη στιγμή της πρώτης αλληλεπίδρασης ή έκθεσης και πρέπει να συμμορφώνονται με τις ισχύουσες απαιτήσεις προσβασιμότητας.
Είναι σημαντικό να σημειωθεί πως, παρά το γεγονός ότι σε θεωρητικό επίπεδο το κανονιστικό πλαίσιο έχει συνοχή, η ουσιαστική εφαρμογή του EU AI Act στην πράξη προσκρούει σε αντικειμενικά τεχνικά όρια. Η απαίτηση για υδατογράφηση (watermarking) και ενσωμάτωση μεταδεδομένων μπορεί να είναι ευάλωτη, καθώς τέτοιου είδους ψηφιακά ίχνη είναι δυνατόν να αλλοιωθούν μέσω τεχνικών επεξεργασίας (Romero-Moreno F., 2024). Το ζήτημα περιπλέκεται περισσότερο από τη διάδοση μοντέλων ανοικτού κώδικα (open-source models), όπου ο χρήστης μπορεί, υπό ορισμένες προϋποθέσεις, να παρακάμψει ή να αφαιρέσει μηχανισμούς επισήμανσης, περιορίζοντας την αποτελεσματικότητα των ασφαλιστικών δικλείδων, που έχουν ενσωματωθεί από τους κατασκευαστές.
Σε θεσμικό επίπεδο, η ασυμμετρία συμμόρφωσης περιορίζει την αποτελεσματικότητα του κανονισμού, καθώς ενώ οι νόμιμοι πάροχοι και οι ψηφιακές πλατφόρμες διαθέτουν τους πόρους να συμμορφωθούν στα πρόστιμα, υπάρχουν κακόβουλοι δρώντες που επιλέγουν συνειδητά την παράκαμψη των υποχρεώσεων διαφάνειας (EPRS, 2024; European Union Agency for Cybersecurity [ENISA], 2024). Η δραστηριοποίηση τέτοιων δικτύων μέσω υποδομών εκτός της Ευρωπαϊκής Ένωσης μπορεί να δυσχεράνει την αποτελεσματική επιβολή των κανόνων, αναδεικνύοντας το χάσμα μεταξύ της ταχύτητας εξάπλωσης μιας ψηφιακής απειλής και του χρόνου αντίδρασης των εποπτικών μηχανισμών.
Η αδυναμία αυτή αναδεικνύει τα όρια του EU AI Act, το οποίο κατά βάση εστιάζει στη ρύθμιση της παραγωγής και όχι στη διαχείριση της διάδοσης του περιεχομένου. Το πλαίσιο θα ήταν πιο αποτελεσματικό αν συνδυαστεί με τον Κανονισμό για τις ψηφιακές υποχρεώσεις (Κανονισμός (ΕΕ) 2022/2065, άρθρα 34-35). Ενώ το Άρθρο 50 του AI Act επιβάλλει υποχρεώσεις επισήμανσης στους δημιουργούς, ο DSA μεταφέρει το βάρος στις πολύ μεγάλες πλατφόρμες (VLOPs), υποχρεώνοντάς τες να αξιολογούν και να μετριάζουν τους συστημικούς κινδύνους παραπληροφόρησης και να επεμβαίνουν άμεσα για τον περιορισμό ή την απόσυρση παραποιημένου υλικού πριν αυτό καταστεί ιογενές.
Η δραστηριοποίηση τέτοιων δικτύων μέσω διακομιστών εκτός της Ευρωπαϊκής Ένωσης καθιστά την επιβολή κυρώσεων πρακτικά ανενεργή, τονίζοντας το χάσμα μεταξύ της ταχύτητας εξάπλωσης μιας ψηφιακής απειλής και του χρόνου αντίδρασης των εποπτικών μηχανισμών.
Τέλος, η εξάρτηση της νομικής προστασίας από τους μηχανισμούς διαφάνειας και σήμανσης (labeling) δεν έχει τη δυνατότητα να αποτρέψει από μόνη της τις βαθύτερες επιπτώσεις στον δημόσιο χώρο, εντείνοντας το φαινόμενο του «μερίσματος του ψεύτη» (liar’s dividend), όρος που συνδέεται με τους νομικούς Robert Chesney και Danielle Citron. Το φαινόμενο υποδηλώνει ότι τα deepfakes δεν καθιστούν μόνο το ψευδές περιεχόμενο περισσότερο πιστευτό, αλλά μπορούν να καταστήσουν και την αλήθεια αμφισβητήσιμη, επιτρέποντας σε ενόχους να εκμεταλλεύονται τον γενικευμένο σκεπτικισμό για να αποφύγουν τη λογοδοσία. (Chesney, R., & Citron, D. K., 2019). Η συνειδητοποίηση ότι ο ήχος και η εικόνα παραποιούνται εύκολα παρέχει τη δυνατότητα σε δημόσια πρόσωπα να απορρίπτουν αυθεντικές αποδείξεις επικαλούμενα τεχνητή παραποίηση (Chesney, R., & Citron, D. K., 2019). Υπό αυτήν την έννοια, η εκ των υστέρων τοποθέτηση μιας ένδειξης δεν είναι πάντοτε επαρκής για να ανατρέψει την πολιτική ή ηθική βλάβη που έχει ήδη προκληθεί, καθιστώντας σαφές ότι η ρύθμιση της διαφάνειας δεν αρκεί από μόνη της για τη θωράκιση της αξιοπιστίας των πληροφοριών.
Συμπερασματικά, το EU AI Act αποτελεί ένα αναγκαίο βήμα για τη θέσπιση κανόνων απέναντι στα deepfakes, κατανέμοντας ευθύνες σε παρόχους και φορείς, που θέτουν σε λειτουργία συστήματα τεχνητής νοημοσύνης. Ωστόσο, οι τεχνικοί περιορισμοί, όπως η δυνατότητα αλλοίωσης των υδατογραφημάτων, σε συνδυασμό με τις δυσκολίες αποτελεσματικής επιβολής των κανόνων σε κακόβουλους δρώντες, καθιστούν ευάλωτη την αποτελεσματικότητά του. Για να είναι αποτελεσματικό το νέο πλαίσιο, η εφαρμογή του AI Act οφείλει να λειτουργήσει συνδυαστικά με τον Κανονισμό Ψηφιακών Υπηρεσιών (DSA) (Κανονισμός (ΕΕ) 2022/2065, 2022), ιδίως ως προς τη διαχείριση και τον περιορισμό της διάδοσης παραποιημένου υλικού, αλλά και με επένδυση στην ψηφιακή παιδεία των πολιτών.
Βιβλιογραφία/Πηγές
Νομοθετικά Κείμενα & Επίσημα Έγγραφα ΕΕ
Ευρωπαϊκό Κοινοβούλιο και Συμβούλιο της Ευρωπαϊκής Ένωσης. (2024). Κανονισμός (ΕΕ) 2024/1689 για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη και την τροποποίηση των κανονισμών (ΕΚ) αριθ. 300/2008, (ΕΕ) αριθ. 167/2013, (ΕΕ) αριθ. 168/2013, (ΕΕ) 2018/858, (ΕΕ) 2018/1139 και (ΕΕ) 2019/2144 και των οδηγιών 2014/90/ΕΕ, (ΕΕ) 2016/797 και (ΕΕ) 2020/1828 (Πράξη για την Τεχνητή Νοημοσύνη). Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης, L 2024/1689. Διαθέσιμο σε: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/ell
Ευρωπαϊκό Κοινοβούλιο και Συμβούλιο της Ευρωπαϊκής Ένωσης. (2022). Κανονισμός (ΕΕ) 2022/2065 σχετικά με την ενιαία αγορά ψηφιακών υπηρεσιών και την τροποποίηση της οδηγίας 2000/31/ΕΚ (Πράξη για τις Ψηφιακές Υπηρεσίες). Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης, L 277/1. Διαθέσιμο σε: https://eur-lex.europa.eu/eli/reg/2022/2065/oj
Ακαδημαϊκά Άρθρα & Επιστημονικές Δημοσιεύσεις
Chesney, R., & Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753–1820. Διαθέσιμο σε: https://doi.org/10.15779/Z38RV0D15J
Romero-Moreno, F. (2024). Generative AI and deepfakes: A human rights approach to tackling harmful content. International Review of Law, Computers & Technology, 38(3), 297–326.Taylor & Francis online. Διαθέσιμο σε:https://www.tandfonline.com/doi/full/10.1080/13600869.2024.2324540
Εκθέσεις Οργανισμών, Ινστιτούτων & Ιστοσελίδες
European Parliamentary Research Service. (2024). Tackling deepfakes in European elections: Technical challenges and regulatory gaps in the AI Act (Briefing PE 760.400). Διαθέσιμο σε: https://www.europarl.europa.eu/thinktank
European Union Agency for Cybersecurity. (2024). Cybersecurity threats and synthetic media: Mitigating election disinformation. Διαθέσιμο σε: https://www.enisa.europa.eu/publications
European Digital Media Observatory. (2024). Generative AI and disinformation: Technical limitations and regulatory challenges. Διαθέσιμο σε:https://edmo.eu/edmo-news/new-white-paper-on-generative-ai-and-disinformation-recent-advances-challenges-and-opportunities/
Πηγή εικόνας: Wolff,Y.,A. (2025). EU AI Act: What the AI Regulation really means – overview & practical guide. Buse. Διαθέσιμο σε: https://buse.de/en/blog-en/technology/eu-ai-act-what-the-ai-regulation-really-means/