Γράφει η Ναταλία Ηλιάδη
Η ραγδαία ανάπτυξη συστημάτων τεχνητής νοημοσύνης (AI) και παραγωγής εικόνων, έχει θέσει την έννοια της διαδικτυακής ασφάλειας των παιδιών σε νέες βάσεις (Europol, 2024). Η εμφάνιση ρεαλιστικών συνθετικών απεικονίσεων ανηλίκων μέσω AI, γνωστών και ως AI – generated CSAM (Child Sexual Abuse Material), έχει επιτρέψει την παραγωγή και γρήγορη μετάδοση υλικού που δεν βασίζεται σε πραγματικές φωτογραφίες, αλλά αναπαράγει σκηνές σεξουαλικής κακοποίησης με ανησυχητική ακρίβεια (IWF, 2024). Η νέα αυτή μορφή υλικού, παρότι δεν απεικονίζει ούτε βασίζεται σε αληθινά πρόσωπα, εγείρει τη συζήτηση γύρω από την ηθική και νομική προστασία του παιδιού και τα δικαιώματα του ως «έννομο αγαθό» στο χώρο του διαδικτύου (UNICEF, 2021). Εικόνες, οι οποίες επιδεικνύουν σεξουαλικές σκηνές, με κύριο στοιχείο την ύπαρξη ανήλικου πρωταγωνιστή, ενισχύουν αποκλίνουσες σεξουαλικές προτιμήσεις και τροφοδοτούν τη ζήτηση για πραγματικό υλικό κακοποίησης, ακόμη και αν δεν συνθέτονται από πραγματικά πρόσωπα και χαρακτηριστικά (Seto, 2023). Στο πλαίσιο αυτό, η Ευρωπαϊκή Ένωση επιχειρεί να αναπτύξει ένα ολοκληρωμένο ρυθμιστικό πλαίσιο μέσω νομοθεσιών και δράσεων όπως το DSA, το AI ACT και της προτεινόμενης CSAR(European Union, 2022).
Το AI-generated CSAM, αναφέρεται σε υλικό σεξουαλικής κακοποίησης παιδιών που δημιουργείται εν μέρη ή εξ ολοκλήρου μέσω αλγορίθμων τεχνητής νοημοσύνης, χωρίς να απαιτείται η λήψη πραγματικού φωτογραφικού υλικού (IWF, 2024). Με λίγες μόνο εικόνες, ένας χρήστης μπορεί να δημιουργήσει τα λεγόμενα deepfakes, τοποθετώντας το πρόσωπο ενός παιδιού σε μια ψηφιακά παραγόμενη σκηνή ή ακόμη να δημιουργήσει εντελώς φανταστικές μορφές παιδιών, οι οποίες παρουσιάζονται σε σεξουαλικές σκηνές (IWF, 2024). Η ραγδαία αύξηση των τεχνολογικών συστημάτων AI, έχει οδηγήσει σε μια «έκρηξη», του ποσοστού παραγωγής τέτοιου είδους εικόνων, οι οποίες δεν μπορούν πλέον να ανιχνευτούν από τις παραδοσιακές μεθόδους εντοπισμού, αφού πλέον κάθε δημιουργία είναι μοναδική και δεν αντιστοιχεί σε κανένα γνωστό μοναδικό ψηφιακό «αριθμό ταυτότητας», το λεγόμενο hash signature (UNICRI, 2024). Σύμφωνα με έκθεση της Europol (2024), το AI-generated CSAM διακινείται τόσο σε σκοτεινά δίκτυα όσο και σε κλειστές ψηφιακές κοινότητες, δημιουργώντας ένα νέο χώρο κακοποίησης, όπου η παραβίαση των δικαιωμάτων του παιδιού μπορεί να συμβεί χωρίς πραγματικό θύμα.
Επιστημονικές έρευνες έχουν δείξει, ότι η έκθεση σε υλικό που παρουσιάζει ανηλίκους σε σεξουαλικά πλαίσια μπορεί να συμβάλει στην ενίσχυση αποκλινουσών σεξουαλικών προτιμήσεων ακόμη και όταν το υλικό είναι φανταστικό ή συνθετικό (Seto, 2023). Σύμφωνα με τον Seto (2023) και την έρευνα του στο πεδίο της σεξουαλικής παραβατικότητας και παιδοφιλίας, τα σεξουαλικά ερεθίσματα λειτουργούν ως «ενισχυτές» των προϋπαρχουσών τάσεων, γεγονός το οποίο επιβεβαιώνει ότι το AI-generated CSAM συμβάλει άμεσα στην αύξηση και διατήρηση του ενδιαφέροντος για πραγματικό κακοποιητικό υλικό. Η σεξουαλικότητα του παιδιού παρουσιάζεται πλέον ως «ψηφιακό προϊόν», συμβάλλοντας στην κανονικοποίηση της σεξουαλικής εκμετάλλευσης στο ψηφιακό περιβάλλον, παρέχοντας στους χρήστες πρόσβαση σε ένα μεγάλο όγκο πληροφοριών, χωρίς τον φόβο νομικών συνεπειών (WeProtect, 2023). Έρευνες της Europol, αναφορικά με την προστασία του παιδιού στο διαδικτυακό χώρο, ανέδειξαν τον ήδη μεγάλο αριθμό deepfakes, που χρησιμοποιούνται για τη χειραγώγηση και τον εκβιασμό ανηλίκων (Europol, 2024). Ωστόσο, στην σύγχρονη πραγματικότητα, η έννοια του παιδιού δεν προστατεύεται μόνο ως άτομο αλλά και ως «έννομο αγαθό», αναπαραστάσεις -ακόμη και φανταστικές- οι οποίες βλάπτουν την κοινωνική, ηθική και νομική αντίληψη γύρω από την έννοια της παιδικής αξιοπρέπειας, διώκονται νομικά (UNICEF, 2021).
Το διεθνές δίκαιο για την προστασία των δικαιωμάτων του παιδιού, επισημαίνει την νομική και ποινική δίωξη όχι μόνο περιπτώσεων πραγματικής κακοποίησης αλλά και αναπαραστάσεων που ενισχύουν την σεξουαλική εκμετάλλευση ανηλίκων (European Commission, 2022). Η σύμβαση του ΟΗΕ για τα Δικαιώματα του Παιδιού, ορίζει στα κράτη την υποχρέωση αποτροπής, οποιαδήποτε μορφής σεξουαλική απεικόνισης παιδιών (UNCRC, 1989). Επιπλέον, ο Γενικός κανονισμός 25 (General comment no.25) , αναφέρει ρητά ότι η προστασία των δικαιωμάτων του παιδιού ισχύει πλήρως και στο ψηφιακό περιβάλλον (UNICEF, 2021). Οποιοδήποτε υλικό φαίνεται να απεικονίζει παιδί, ακόμη και εάν δεν είναι υπαρκτό πρόσωπο, θεωρείται CSAM (ACPAT, 2016). Επομένως, το AI-generated CSAM, παραβιάζει ρητά την αξιοπρέπεια του παιδιού ως έννομο αγαθό και συμβάλει στην ενίσχυση ενός ψηφιακού περιβάλλοντος, το οποίο αποδέχεται την κακοποίηση και την σεξουαλικοποίηση των ανηλίκων. Η μη ύπαρξη πραγματικού θύματος δεν αναιρεί την παραβίαση και την ηθική βλάβη των δικαιωμάτων των παιδιών.
Στην διάρκεια των τελευταίων χρόνων, έχουν καταγραφεί πληθώρα περιστατικών παραγωγής και μετάδοσης AI-generated CSAM (Europol, 2024), επιδεικνύοντας ότι δεν πρόκειται για έναν θεωρητικό, αλλά έναν υπαρκτό κίνδυνο, με πλήθος σοβαρών επιπτώσεων στα παιδιά. Στην Ισπανία, δεκάδες μαθήτριες, έπεσαν θύματα deepfake πορνογραφίας, όταν συμμαθητές τους χρησιμοποίησαν φωτογραφίες τους για να τις τοποθετήσουν σε σκηνές σεξουαλικού περιεχομένου, χρησιμοποιώντας εργαλεία τεχνητής νοημοσύνης (Europol, 2024). Η παραπάνω περίπτωση, αποδεικνύει ότι δεν είναι απαραίτητη η προσωπική παραγωγή σχετικού φωτογραφικού υλικού από ένα παιδί για να θυματοποιηθεί καθώς, μπορεί να πραγματοποιηθεί και με τη χρήση ανεξάρτητών φωτογραφιών (Europol, 2024). Πολλαπλά περιστατικά, έχουν επίσης καταγραφεί από τη Europol, η οποία 2024 ανακοίνωσε τη πραγματοποίηση διεθνούς επιχείρησης η οποία οδήγησε στην σύλληψη 25 δραστών οι οποίοι διακινούσαν AI-generated φωτογραφικό υλικό σε κλειστά δίκτυα (Europol, 2024). Τα παραπάνω παραδείγματα, καταδεικνύουν την ανάγκη για άμεση διαμόρφωση και εφαρμογή ενός ολοκληρωμένου ευρωπαϊκού συστήματος προστασίας, πρόληψης και αντιμετώπισης των περιστατικών σεξουαλικής κακοποίησης ανηλίκων στο ψηφιακό περιβάλλον.
Η Ευρωπαϊκή ένωση, σε μια προσπάθεια μείωσης των περιπτώσεων και ποσοστών τέτοιων κακοποιητικών φαινομένων, έχει αναπτύξει ένα πολυεπίπεδο ρυθμιστικό πλαίσιο το οποίο αναδιαμορφώνεται συνεχώς, λόγω της συνεχούς εξέλιξης της τεχνητής νοημοσύνης (European Union, 2022). Βασικός άξονας της πολιτικής της ένωσης, αποτελεί το Digital Services Act (DSA), το οποίο επιβάλλει στο σύνολο των ψηφιακών πλατφορμών, την συστηματική αξιολόγηση του συνόλου των κινδύνων, οι οποίοι ενδέχεται να ελλοχεύουν και να επηρεάζουν αρνητικά τα παιδιά ως χρήστες. Βασικό στοιχείο αυτής της διαδικασίας, αποτελεί η αφαίρεση παράνομου περιεχομένου και υλικού σεξουαλικής κακοποίησης από το διαδίκτυο (DSA, 2022). Επιπλέον, η Ευρωπαϊκή Ένωση έχει ορίσει σε λειτουργία το AI Act, το οποίο αφορά κυρίως τη ρύθμιση των λειτουργιών τεχνητής νοημοσύνης. Ο νέος αυτός νόμος, θέτει σε λειτουργία μηχανισμούς πρόληψης της κατάχρησης, εντοπισμού ενδεχόμενων παράνομων δραστηριοτήτων, deepfakes, γεγονός το οποίο συμβάλει άμεσα στον εντοπισμό και στην δίωξη συνθετικών απεικονίσεων ανηλίκων με σεξουαλικό περιεχόμενο (AI Act, 2024).
Ένα από τα πιο σημαντικά μέτρα τα οποία έχουν προταθεί από την ένωση και έχουν ως στόχο τη ρύθμιση και τη μείωση του αριθμού δημιουργίας και διακίνησης υλικού AI-generated CSAM, ονομάζεται Child Sexual Abuse Regulation (European Commission, 2022). Πρόκειται, για μια φιλόδοξη πρόταση η οποία προβλέπει τη χρήση υποχρεωτικών εργαλείων ανίχνευσης, αναφοράς και αφαίρεσης σχετικού περιεχομένου. Επίσης, η Ευρωπαϊκή επιτροπή για την αποτελεσματικότερη λειτουργία της παραπάνω πολιτικής έχει ορίσει τη λειτουργία ενός Ευρωπαϊκού Κέντρου για την Πρόληψη και Καταπολέμηση της Σεξουαλικής Κακοποίησης Παιδιών, η οποία συμβάλει στην ομαλή λειτουργία και εφαρμογή του κανονισμού (European, Commission, 2022). Το ευρωπαϊκό Κοινοβούλιο σε μια προσπάθεια, εκσυγχρονισμού και ενίσχυση του νομικού πλαισίου της ένωσης, έχει καταβάλει σημαντικές προσπάθειες ώστε να συμπεριληφθούν οι κατάλληλες διατάξεις στο νομικό της πλαίσιο (European Parliament, 2025). Τέλος, η Οδηγία 2011/93 του Ευρωπαϊκού Κοινοβουλίου και Συμβουλίου, θέτει στο προσκήνιο την ανάγκη για ποινικοποίηση του CSAM (Directive 2011/93/EU).
Ωστόσο, παρά τις συνεχής προσπάθειες της Ευρωπαϊκής Ένωσης για την αντιμετώπιση του AI-generated CSAM, τα κενά συνεχίζουν να υπάρχουν. Παραδείγματος χάριν, η Οδηγία 2011/93 δεν προβλέπει τη περίπτωση παραγωγής συνθετικών απεικονίσεων, γεγονός το οποίο περιορίζει την αποτελεσματικότητα της μπροστά σε μια συνεχώς εξελισσόμενη τεχνολογία, αυτή της τεχνικής νοημοσύνης (Directive 2011/93/EU). Επιπλέον, η απουσία μοναδικών ψηφιακών «αριθμών ταυτότητας» (hash signature), καθιστά την ανίχνευση παραγωγής εικόνων σεξουαλικού περιεχομένου εξαιρετικά δύσκολη
(IWF, 2024; UNICRI, 2024). Η Europol (2024) επισημαίνει, ότι το AI-generated CSAM χρησιμοποιείται ήδη σε πολλαπλά περιστατικά του λεγόμενου grooming και διαδικτυακού εκβιασμού (WeProctect,2023). Το πλήθος διαθέσιμων εργαλείων, παραγωγής συνθετικού πορνογραφικού περιεχομένου, αυξάνει την ανησυχία της Ένωσης για την κανονικοποίηση της σεξουαλικής εκμετάλλευσης στο χώρο του διαδικτύου. Οι παραπάνω εξελίξεις καθιστούν επιτακτική την ανάγκη για ένα ολοκληρωμένο και σύγχρονο ευρωπαϊκό πλαίσιο, το οποίο θα είναι ικανό να αντιμετωπίσει τον ιδιαίτερο χαρακτήρα της τεχνητής νοημοσύνης.
Συμπεραίνοντας, οι ραγδαίες εξελίξεις στο τομέα της τεχνητής νοημοσύνης και η συνεχώς αυξανόμενη χρήση του ψηφιακού περιβάλλοντος, δημιουργεί μια νέα πραγματικότητα για τη προστασία των παιδιών. Η έννοια του AI-generated CSAM θεωρείται πλέον από το σύνολο των θεσμών, εξίσου επιβλαβές με τη παραγωγή και μετάδοση πραγματικού υλικού σεξουαλικής κακοποίησης. Το συγκεκριμένο υλικό, εάν και δεν απεικονίζει πραγματικά πρόσωπα και χαρακτηριστικά, ενισχύει ιδιάζουσες συμπεριφορές, χρησιμοποιείται ως μέσο εκβιασμού και υπονομεύει στο σύνολο της την ηθική αξιοπρέπεια του παιδιού ως έννομο αγαθό. Ωστόσο, παρά τις σημαντικές προκλήσεις που δημιουργεί η τεχνητή νοημοσύνη, η Ευρωπαϊκή Ένωση, έχει αναδείξει ότι η προστασία των παιδιών παραμένει βασική της προτεραιότητα. Νομοθεσίες όπως το AI Act, DSA και ο κανονισμός CSAR αποτελούν βασικά μέσα ώστε η ευρωπαϊκή κοινότητα να περιβάλλεται από ένα ολοκληρωμένο πλαίσιο προστασίας και πρόληψης από περιστατικά σεξουαλικής εκμετάλλευσης ανηλίκων.
Βιβλιογραφία:
European Parliament. (2025, June). Children and deepfakes: The emerging threat of AI-generated sexual abuse imagery and the need for regulatory action in the EU. European Parliamentary Research Service. Διαθέσιμο σε:
https://www.europarl.europa.eu/RegData/etudes/BRIE/2025/775855/EPRS_BRI%282025%29775855_EN.pdf
European Commission. (2022). Proposal for a Regulation to Prevent and Combat Child Sexual Abuse. Διαθέσιμο σε: https://commission.europa.eu/document/xxx
European Union. (2011, December 13). Directive 2011/93/EU on combating sexual abuse and sexual exploitation of children and child pornography. EUR-Lex. Διαθέσιμο σε: https://eur-lex.europa.eu/legal-content/EL/TXT/?uri=CELEX%3A32011L0093
European Union. (2024). Artificial Intelligence Act. Διαθέσιμο σε: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32021R???
European Union. (2022). Digital Services Act Regulation. Διαθέσιμο σε: https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32022R0381
Internet Watch Foundation. (2024). How AI is being abused to create child sexual abuse imagery. Διαθέσιμο σε: https://www.iwf.org.uk/about-us/why-we-exist/our-research/how-ai-is-being-abused-to-create-child-sexual-abuse-imagery/
UNICRI. (2024, September). Generative AI: A New Threat for Online Child Sexual Exploitation and Abuse. Διαθέσιμο σε: https://unicri.org/sites/default/files/2024-09/Generative-AI-New-Threat-Online-Child-Abuse.pdf
WeProtect Global Alliance. (2023). Global Threat Assessment 2023. Διαθέσιμο σε: https://www.weprotect.org/wp-content/uploads/Global-Threat-Assessment-2023-English.pdf
Europol. (2024). 25 arrested in global hit against AI-generated child sexual abuse material. Διαθέσιμο σε: https://www.europol.europa.eu/media-press/newsroom/news/25-arrested-in-global-hit-against-ai-generated-child-sexual-abuse-material
UNICEF. (2021). General Comment No. 25 on Children’s Rights in relation to the Digital Environment. Διαθέσιμο σε: https://www.unicef.org/globalinsight/stories/child-rights-digital-age
ECPAT International. (2016). Luxembourg Guidelines on Terminology for CSAM. Διαθέσιμο σε: https://luxembourgguidelines.org/english-version/
Seto, M. C. (2023). Sexual interest in children and sexually explicit media: Implications for risk and regulation. Psychology Research Journal. Διαθέσιμο σε: https://link.springer.com/article/10.1007/s12144-023-04344-1
Seto, M. C. (2021). Pedophilia and sexual offending against children. Guilford Press. Διαθέσιμο σε: https://www.guilford.com/books/Pedophilia-and-Sexual-Offending-Against-Children/Michael-C-Seto/
Πηγή φωτογραφίας: ABC News (2023). AI-generated image used in reporting on deepfake and online fraud campaigns. Διαθέσιμη σε: https://i.abcnewsfe.com/a/81261515-55e0-4995-bc29-b5758a0680f1/DeepfakeCampaign_Image3_1690561106184_hpEmbed_4x3.jpg