Παιδική Πορνογραφία με ΑΙ: Η νέα ψηφιακή μάστιγα χτύπησε και την Ελλάδα
Σε εγρήγορση βρίσκονται οι αρχές στην Ελλάδα, καθώς τα πρώτα περιστατικά με παιδική πορνογραφία μέσω τεχνητής νοημοσύνης (ΑΙ) είναι γεγονός. Το φαινόμενο των deepfake βίντεο με πρωταγωνιστές ανηλίκους έχει λάβει ανησυχητικές διαστάσεις στην Ευρώπη, ειδικά στη Βρετανία όπου παρατηρείται σημαντική αύξηση των υποθέσεων CSAM (Child Sexual Abuse Material) με τη χρήση AI, κυρίως στα σχολεία. Το powergame.gr επικοινώνησε με τη Δίωξη Ηλεκτρονικού Εγκλήματος, η οποία ανέφερε ότι από τις αρχές του 2024 έχουν καταγραφεί τέσσερα κρούσματα στην Ελλάδα, υπογραμμίζοντας παράλληλα ότι αυξάνονται οι περιπτώσεις εκδικητικής πορνογραφίας (revenge porn). Μεταξύ των δραστών είναι και ανήλικοι.
Βασικές πηγές άντλησης του πρωτογενούς υλικού για τη δημιουργία των deepfake βίντεο είναι τα social media και οι ανοιχτές εφαρμογές ανταλλαγής μηνυμάτων, όπου συνήθως το θύμα και ο θύτης έχουν κοινή πρόσβαση. Σε τέτοιες περιπτώσεις όταν δημιουργηθεί το παράνομο υλικό, είτε μοιράζεται απευθείας στην ψηφιακή κοινότητα ή μπορεί να χρησιμοποιηθεί ως μέσο πίεσης και εκφοβισμού υπό την απειλή ανάρτησης σε σελίδες πορνογραφικού περιεχομένου.
«Έχει παρατηρηθεί το τελευταίο χρονικό διάστημα ότι κακόβουλοι χρήστες αποκτούν πρόσβαση σε φωτογραφίες είτε από ανοιχτές πηγές και ιδιαίτερα μέσω των μέσων κοινωνικής δικτύωσης είτε από φωτογραφίες που έχουν αποστείλει οι ίδιοι οι χρήστες σε αυτούς. Έπειτα με τη χρήση εφαρμογών τεχνητής νοημοσύνης παραποιούν το πρωτογενές υλικό και δημιουργούν υλικό ακατάλληλου περιεχομένου. Το υλικό αυτό συνήθως μεταφορτώνεται σε σελίδες πορνογραφικού περιεχομένου ή διαμοιράζεται μέσω διαδικτυακών εφαρμογών άμεσης ανταλλαγής μηνυμάτων» αναφέρει χαρακτηριστικά εκπρόσωπος της Δίωξης Ηλεκτρονικού Εγκλήματος.
Και προσθέτει: «Έχουμε χειριστεί και υποθέσεις κατά τις οποίες δημιουργείται ψεύτικο προφίλ του/της εικονιζόμενου/ης και ενημερώνεται ο κοινωνικός του περίγυρος. Μετά τη δημιουργία τέτοιου είδους φωτογραφικού – πορνογραφικού υλικού, οι εικονιζόμενοι απειλούνται ή εκβιάζονται με στόχο το οικονομικό όφελος, προκειμένου οι δράστες να μην προβούν στη δημοσιοποίηση».
Οι ποινές για παιδική πορνογραφία με AI
Τα στατιστικά στοιχεία των τελευταίων ετών στην Ελλάδα δείχνουν ότι υπάρχει αύξηση της χρήσης των chatrooms και των εφαρμογών για ανταλλαγή μηνυμάτων ως μέσων για την προώθηση υλικού με πορνογραφία ανηλίκων. «Στις ιστοσελίδες που φιλοξενούν υλικό πορνογραφίας ανηλίκων παρατηρήθηκε καλύτερη δομή και κατηγοριοποίηση του υλικού με σκοπό τη στοχοποίηση των θυμάτων. Παρατηρήθηκε επίσης αύξηση στις υποθέσεις εκδικητικής πορνογραφίας μεταξύ ανηλίκων με διαμοιρασμό υλικού ανάμεσα σε αυτούς αλλά και ενηλίκους» εξηγεί ο εκπρόσωπος της Δίωξης Ηλεκτρονικού Εγκλήματος, επισημαίνοντας ότι οι δράστες (ανήλικοι και ενήλικοι) αντιμετωπίζουν ποινικές κυρώσεις. Σύμφωνα με το Άρθρο 348Α του Ποινικού Κώδικα προβλέπονται ποινές κάθειρξης έως 10 έτη και χρηματικές κυρώσεις.
Στις περιπτώσεις, μάλιστα, που ο δράστης των deepfake βίντεο με παιδική πορνογραφία μέσω AI είναι ανήλικος, ποινικές ευθύνες αντιμετωπίζουν και οι γονείς. «Συνεπώς καλό είναι να είμαστε δίπλα τους παροτρύνοντας τους ανηλίκους να ασχοληθούν παραγωγικά με τους υπολογιστές», το μήνυμά του προς τους γονείς.
Τα μέτρα της ΕΛΑΣ για CSAM και deepfake βίντεο
Σύμφωνα με τη Δίωξη Ηλεκτρονικού Εγκλήματος, οι νέες τεχνολογίες που προσφέρονται μέσα από το διαδίκτυο όπως η τεχνητή νοημοσύνη, τα δίκτυα Peer to Peer, το σκοτεινό διαδίκτυο, τα εικονικά ιδιωτικά δίκτυα (Virtual private network – VPN), οι εφαρμογές άμεσης ανταλλαγής μηνυμάτων και τα μέσα κοινωνικής δικτύωσης μετατρέπονται σε εργαλεία για την πραγματοποίηση κακόβουλων ενεργειών, με στόχο ανηλίκους. Καθώς εξελίσσεται η τεχνολογία, το φαινόμενο αναμένεται να λάβει ακόμα μεγαλύτερες διαστάσεις, με εργαλεία AI να χρησιμοποιούνται για δημιουργία CSAM.
Στο πλαίσιο αυτό τόσο η Ελληνική Αστυνομία όσο και η Διεύθυνση Δίωξης Ηλεκτρονικού Εγκλήματος υλοποιούν σειρά δράσεων, έχοντας ως στόχο την ενημέρωση όλων των πολιτών για την πρόληψη και την αντιμετώπιση των κινδύνων που σχετίζονται με τις νέες τεχνολογίες, καθώς και τους κινδύνους που ελλοχεύουν στις ιστοσελίδες κοινωνικής δικτύωσης. Επίσης, κατόπιν καταγγελιών από Έλληνες πολίτες και αναφορών από αρχές και φορείς του εξωτερικού, «η Υπηρεσία μας πραγματοποιεί διεξοδική και λεπτομερή μελέτη, σαρώνοντας διαρκώς το διαδίκτυο με εξειδικευμένα εργαλεία για τον εντοπισμό και την απομάκρυνση υλικού CSAM». Έχει γίνει, μάλιστα, και αφαίρεση υλικού CSAM από ιστοσελίδες που εδρεύουν στην Ελλάδα, ενώ έχει τοποθετηθεί ειδικό φίλτρο σε ιστοσελίδες που εδρεύουν στο εξωτερικό και περιέχουν CSAM, κατόπιν έκδοσης σχετικής διάταξης των εισαγγελικών αρχών.
Στην ερώτηση, μάλιστα, «πόσο πρέπει να ανησυχούμε», ο εκπρόσωπος της Δίωξης Ηλεκτρονικού Εγκλήματος υπογραμμίζει ότι υπάρχει λόγος ανησυχίας, γι’ αυτό και απαιτείται εγρήγορση. «Λαμβάνοντας υπ’ όψιν ότι προκειμένου να εκπαιδευτεί ένα μοντέλο ΑΙ χρειάζεται πλούσιο υλικό φωτογραφιών μας και βίντεο, είναι σημαντικό να είμαστε σε εγρήγορση, διαφυλάσσοντας τα προσωπικά μας δεδομένα. Επίσης είναι σημαντικό να είμαστε ενήμεροι για τις δυνατότητες της τεχνητής νοημοσύνης, ώστε να αντιμετωπίζουμε με σκεπτικισμό το οπτικοακουστικό υλικό που εμφανίζεται κατά την πλοήγηση μας στο διαδίκτυο, αξιολογώντας την πηγή της πληροφορίας κάθε φορά» αναφέρει.
Τι πρέπει να κάνουμε, αν το παιδί μας πέσει θύμα CSAM με χρήση ΑΙ
Σε κάθε κρούσμα που αφορά παιδική πορνογραφία μέσω AI, ο γονιός θα πρέπει να ενθαρρύνει το παιδί του να μιλήσει και να πει αναλυτικά τι του συνέβη, έτσι ώστε να μπορέσει στη συνέχεια να το βοηθήσει αποτελεσματικά. Με αυτόν τον τρόπο προστατεύονται και μελλοντικά θύματα. «Συνήθως τα παιδιά διστάζουν να εκμυστηρευτούν στους γονείς τους για το τι πραγματικά συνέβη, με αποτέλεσμα να βιώνουν μόνα τους μια πολύ δυσάρεστη εμπειρία» τονίζει ο εκπρόσωπος της Δίωξης Ηλεκτρονικής Εγκλήματος. Από εκεί και μετά ακολουθούν τα εξής βήματα:
Είναι πολύ σημαντικό ο ανήλικος, με τη συνδρομή των γονιών του, να διατηρήσει τα στοιχεία που υπέπεσαν στην αντίληψή του και τον αφορούν και εφόσον είναι δυνατό να δημιουργήσει ένα ψηφιακό αντίγραφο, καθώς τα στοιχεία μπορεί να διαγραφούν ανά πάσα στιγμή και να μην είναι διαθέσιμα.
Προσδιορίζουμε τους ιστοτόπους ή τις ομάδες συζητήσεων σε εφαρμογές, όπου έχουν αναρτηθεί βίντεο / φωτογραφίες.
Αν είναι εφικτό, δημιουργούμε αντίγραφο από τα βίντεο ή / και τις φωτογραφίες, τα οποία αποθηκεύουμε σε έναν οπτικό δίσκο ή μια μνήμη USB καθόσον αυτά είναι τα στοιχεία που αποδεικνύουν τις σε βάρος μας πράξεις. Κρατάμε αποτυπώσεις οθόνης (screen shots), όπου φαίνεται καθαρά το URL του ιστοτόπου ή το όνομα της ομάδας συζητήσεων, καθώς και το username του ατόμου που έχει κάνει την ανάρτηση / δημοσίευση.
Ακολούθως, επικοινωνούμε με τις οικείες αστυνομικές ή δικαστικές αρχές προκειμένου να καταγγελθεί το γεγονός. Είναι σημαντικό να μην υποκύψουμε σε εκβιασμούς και να σταματήσει κάθε συνομιλία με τον δράστη.
Επικοινωνούμε με τον διαχειριστή του ιστοτόπου για την αφαίρεση του δημοσιευμένου υλικού, υποβάλλοντας αίτημα μέσω της ιστοσελίδας ή αναφορά.
Οι τρεις «χρυσοί» κανόνες για τους γονείς
Οι γονείς θα πρέπει να είναι ιδιαίτερα προσεκτικοί και να προστατεύουν τα προσωπικά δεδομένα, φωτογραφίες και βίντεο όχι μόνο των ίδιων αλλά και των παιδιών τους, καθώς -όπως αναφέρθηκε και νωρίτερα- προκειμένου να εκπαιδευτεί ένα μεγάλο γλωσσικό μοντέλο AI απαιτείται πλούσιο υλικό φωτογραφιών και βίντεο.
Η επίτευξη σωστής επικοινωνίας μεταξύ γονιών και παιδιών είναι κομβική. Οι γονείς θα πρέπει να είναι δίπλα στα παιδιά και να τους ενημερώνουν για τους κινδύνους που ελλοχεύουν κατά την πλοήγηση τους στο διαδίκτυο και να πλοηγούνται μαζί τους. Τα παιδιά θα πρέπει να είναι ενήμερα για το τι συμβαίνει στο διαδίκτυο από τη στιγμή που ξεκινούν την ενασχόλησή τους με αυτό.
«Άλλωστε ας μην ξεχνάμε ότι οι γονείς αποτελούν πρότυπα για τα παιδιά οπότε και θα πρέπει να χρησιμοποιούν το διαδίκτυο ως εργαλείο και με ασφάλεια ώστε να αποτελούν παράδειγμα για τα παιδιά» καταλήγει ο εκπρόσωπος από τη Δίωξη Ηλεκτρονικού Εγκλήματος για τις υποθέσεις CSAM και την παιδική πορνογραφία με χρήση AI.
Βασικές πηγές άντλησης του πρωτογενούς υλικού για τη δημιουργία των deepfake βίντεο είναι τα social media και οι ανοιχτές εφαρμογές ανταλλαγής μηνυμάτων, όπου συνήθως το θύμα και ο θύτης έχουν κοινή πρόσβαση. Σε τέτοιες περιπτώσεις όταν δημιουργηθεί το παράνομο υλικό, είτε μοιράζεται απευθείας στην ψηφιακή κοινότητα ή μπορεί να χρησιμοποιηθεί ως μέσο πίεσης και εκφοβισμού υπό την απειλή ανάρτησης σε σελίδες πορνογραφικού περιεχομένου.
«Έχει παρατηρηθεί το τελευταίο χρονικό διάστημα ότι κακόβουλοι χρήστες αποκτούν πρόσβαση σε φωτογραφίες είτε από ανοιχτές πηγές και ιδιαίτερα μέσω των μέσων κοινωνικής δικτύωσης είτε από φωτογραφίες που έχουν αποστείλει οι ίδιοι οι χρήστες σε αυτούς. Έπειτα με τη χρήση εφαρμογών τεχνητής νοημοσύνης παραποιούν το πρωτογενές υλικό και δημιουργούν υλικό ακατάλληλου περιεχομένου. Το υλικό αυτό συνήθως μεταφορτώνεται σε σελίδες πορνογραφικού περιεχομένου ή διαμοιράζεται μέσω διαδικτυακών εφαρμογών άμεσης ανταλλαγής μηνυμάτων» αναφέρει χαρακτηριστικά εκπρόσωπος της Δίωξης Ηλεκτρονικού Εγκλήματος.
Και προσθέτει: «Έχουμε χειριστεί και υποθέσεις κατά τις οποίες δημιουργείται ψεύτικο προφίλ του/της εικονιζόμενου/ης και ενημερώνεται ο κοινωνικός του περίγυρος. Μετά τη δημιουργία τέτοιου είδους φωτογραφικού – πορνογραφικού υλικού, οι εικονιζόμενοι απειλούνται ή εκβιάζονται με στόχο το οικονομικό όφελος, προκειμένου οι δράστες να μην προβούν στη δημοσιοποίηση».
Οι ποινές για παιδική πορνογραφία με AI
Τα στατιστικά στοιχεία των τελευταίων ετών στην Ελλάδα δείχνουν ότι υπάρχει αύξηση της χρήσης των chatrooms και των εφαρμογών για ανταλλαγή μηνυμάτων ως μέσων για την προώθηση υλικού με πορνογραφία ανηλίκων. «Στις ιστοσελίδες που φιλοξενούν υλικό πορνογραφίας ανηλίκων παρατηρήθηκε καλύτερη δομή και κατηγοριοποίηση του υλικού με σκοπό τη στοχοποίηση των θυμάτων. Παρατηρήθηκε επίσης αύξηση στις υποθέσεις εκδικητικής πορνογραφίας μεταξύ ανηλίκων με διαμοιρασμό υλικού ανάμεσα σε αυτούς αλλά και ενηλίκους» εξηγεί ο εκπρόσωπος της Δίωξης Ηλεκτρονικού Εγκλήματος, επισημαίνοντας ότι οι δράστες (ανήλικοι και ενήλικοι) αντιμετωπίζουν ποινικές κυρώσεις. Σύμφωνα με το Άρθρο 348Α του Ποινικού Κώδικα προβλέπονται ποινές κάθειρξης έως 10 έτη και χρηματικές κυρώσεις.
Στις περιπτώσεις, μάλιστα, που ο δράστης των deepfake βίντεο με παιδική πορνογραφία μέσω AI είναι ανήλικος, ποινικές ευθύνες αντιμετωπίζουν και οι γονείς. «Συνεπώς καλό είναι να είμαστε δίπλα τους παροτρύνοντας τους ανηλίκους να ασχοληθούν παραγωγικά με τους υπολογιστές», το μήνυμά του προς τους γονείς.
Τα μέτρα της ΕΛΑΣ για CSAM και deepfake βίντεο
Σύμφωνα με τη Δίωξη Ηλεκτρονικού Εγκλήματος, οι νέες τεχνολογίες που προσφέρονται μέσα από το διαδίκτυο όπως η τεχνητή νοημοσύνη, τα δίκτυα Peer to Peer, το σκοτεινό διαδίκτυο, τα εικονικά ιδιωτικά δίκτυα (Virtual private network – VPN), οι εφαρμογές άμεσης ανταλλαγής μηνυμάτων και τα μέσα κοινωνικής δικτύωσης μετατρέπονται σε εργαλεία για την πραγματοποίηση κακόβουλων ενεργειών, με στόχο ανηλίκους. Καθώς εξελίσσεται η τεχνολογία, το φαινόμενο αναμένεται να λάβει ακόμα μεγαλύτερες διαστάσεις, με εργαλεία AI να χρησιμοποιούνται για δημιουργία CSAM.
Στο πλαίσιο αυτό τόσο η Ελληνική Αστυνομία όσο και η Διεύθυνση Δίωξης Ηλεκτρονικού Εγκλήματος υλοποιούν σειρά δράσεων, έχοντας ως στόχο την ενημέρωση όλων των πολιτών για την πρόληψη και την αντιμετώπιση των κινδύνων που σχετίζονται με τις νέες τεχνολογίες, καθώς και τους κινδύνους που ελλοχεύουν στις ιστοσελίδες κοινωνικής δικτύωσης. Επίσης, κατόπιν καταγγελιών από Έλληνες πολίτες και αναφορών από αρχές και φορείς του εξωτερικού, «η Υπηρεσία μας πραγματοποιεί διεξοδική και λεπτομερή μελέτη, σαρώνοντας διαρκώς το διαδίκτυο με εξειδικευμένα εργαλεία για τον εντοπισμό και την απομάκρυνση υλικού CSAM». Έχει γίνει, μάλιστα, και αφαίρεση υλικού CSAM από ιστοσελίδες που εδρεύουν στην Ελλάδα, ενώ έχει τοποθετηθεί ειδικό φίλτρο σε ιστοσελίδες που εδρεύουν στο εξωτερικό και περιέχουν CSAM, κατόπιν έκδοσης σχετικής διάταξης των εισαγγελικών αρχών.
Στην ερώτηση, μάλιστα, «πόσο πρέπει να ανησυχούμε», ο εκπρόσωπος της Δίωξης Ηλεκτρονικού Εγκλήματος υπογραμμίζει ότι υπάρχει λόγος ανησυχίας, γι’ αυτό και απαιτείται εγρήγορση. «Λαμβάνοντας υπ’ όψιν ότι προκειμένου να εκπαιδευτεί ένα μοντέλο ΑΙ χρειάζεται πλούσιο υλικό φωτογραφιών μας και βίντεο, είναι σημαντικό να είμαστε σε εγρήγορση, διαφυλάσσοντας τα προσωπικά μας δεδομένα. Επίσης είναι σημαντικό να είμαστε ενήμεροι για τις δυνατότητες της τεχνητής νοημοσύνης, ώστε να αντιμετωπίζουμε με σκεπτικισμό το οπτικοακουστικό υλικό που εμφανίζεται κατά την πλοήγηση μας στο διαδίκτυο, αξιολογώντας την πηγή της πληροφορίας κάθε φορά» αναφέρει.
Τι πρέπει να κάνουμε, αν το παιδί μας πέσει θύμα CSAM με χρήση ΑΙ
Σε κάθε κρούσμα που αφορά παιδική πορνογραφία μέσω AI, ο γονιός θα πρέπει να ενθαρρύνει το παιδί του να μιλήσει και να πει αναλυτικά τι του συνέβη, έτσι ώστε να μπορέσει στη συνέχεια να το βοηθήσει αποτελεσματικά. Με αυτόν τον τρόπο προστατεύονται και μελλοντικά θύματα. «Συνήθως τα παιδιά διστάζουν να εκμυστηρευτούν στους γονείς τους για το τι πραγματικά συνέβη, με αποτέλεσμα να βιώνουν μόνα τους μια πολύ δυσάρεστη εμπειρία» τονίζει ο εκπρόσωπος της Δίωξης Ηλεκτρονικής Εγκλήματος. Από εκεί και μετά ακολουθούν τα εξής βήματα:
Είναι πολύ σημαντικό ο ανήλικος, με τη συνδρομή των γονιών του, να διατηρήσει τα στοιχεία που υπέπεσαν στην αντίληψή του και τον αφορούν και εφόσον είναι δυνατό να δημιουργήσει ένα ψηφιακό αντίγραφο, καθώς τα στοιχεία μπορεί να διαγραφούν ανά πάσα στιγμή και να μην είναι διαθέσιμα.
Προσδιορίζουμε τους ιστοτόπους ή τις ομάδες συζητήσεων σε εφαρμογές, όπου έχουν αναρτηθεί βίντεο / φωτογραφίες.
Αν είναι εφικτό, δημιουργούμε αντίγραφο από τα βίντεο ή / και τις φωτογραφίες, τα οποία αποθηκεύουμε σε έναν οπτικό δίσκο ή μια μνήμη USB καθόσον αυτά είναι τα στοιχεία που αποδεικνύουν τις σε βάρος μας πράξεις. Κρατάμε αποτυπώσεις οθόνης (screen shots), όπου φαίνεται καθαρά το URL του ιστοτόπου ή το όνομα της ομάδας συζητήσεων, καθώς και το username του ατόμου που έχει κάνει την ανάρτηση / δημοσίευση.
Ακολούθως, επικοινωνούμε με τις οικείες αστυνομικές ή δικαστικές αρχές προκειμένου να καταγγελθεί το γεγονός. Είναι σημαντικό να μην υποκύψουμε σε εκβιασμούς και να σταματήσει κάθε συνομιλία με τον δράστη.
Επικοινωνούμε με τον διαχειριστή του ιστοτόπου για την αφαίρεση του δημοσιευμένου υλικού, υποβάλλοντας αίτημα μέσω της ιστοσελίδας ή αναφορά.
Οι τρεις «χρυσοί» κανόνες για τους γονείς
Οι γονείς θα πρέπει να είναι ιδιαίτερα προσεκτικοί και να προστατεύουν τα προσωπικά δεδομένα, φωτογραφίες και βίντεο όχι μόνο των ίδιων αλλά και των παιδιών τους, καθώς -όπως αναφέρθηκε και νωρίτερα- προκειμένου να εκπαιδευτεί ένα μεγάλο γλωσσικό μοντέλο AI απαιτείται πλούσιο υλικό φωτογραφιών και βίντεο.
Η επίτευξη σωστής επικοινωνίας μεταξύ γονιών και παιδιών είναι κομβική. Οι γονείς θα πρέπει να είναι δίπλα στα παιδιά και να τους ενημερώνουν για τους κινδύνους που ελλοχεύουν κατά την πλοήγηση τους στο διαδίκτυο και να πλοηγούνται μαζί τους. Τα παιδιά θα πρέπει να είναι ενήμερα για το τι συμβαίνει στο διαδίκτυο από τη στιγμή που ξεκινούν την ενασχόλησή τους με αυτό.
«Άλλωστε ας μην ξεχνάμε ότι οι γονείς αποτελούν πρότυπα για τα παιδιά οπότε και θα πρέπει να χρησιμοποιούν το διαδίκτυο ως εργαλείο και με ασφάλεια ώστε να αποτελούν παράδειγμα για τα παιδιά» καταλήγει ο εκπρόσωπος από τη Δίωξη Ηλεκτρονικού Εγκλήματος για τις υποθέσεις CSAM και την παιδική πορνογραφία με χρήση AI.
