![]()
Με λίγα λόγια
- Η OpenAI παρουσίασε νέο AI classifier που εντοπίζει πιθανό υλικό σεξουαλικής κακοποίησης παιδιών (CSAM), ακόμη και εικόνες που έχουν δημιουργηθεί με τεχνητή νοημοσύνη.
- Το εργαλείο προσφέρεται δωρεάν μέσω API σε εγκεκριμένους οργανισμούς, έπειτα από διαδικασία αίτησης και ελέγχου.
- Παράλληλα, το ChatGPT αποκτά αυστηρότερες προειδοποιήσεις και προσωρινούς περιορισμούς για λογαριασμούς που επιχειρούν να αναζητήσουν τέτοιο περιεχόμενο.
Ένα νέο εργαλείο τεχνητής νοημοσύνης για την προστασία των παιδιών στο διαδίκτυο παρουσίασε η OpenAI, δίνοντας σε εγκεκριμένους οργανισμούς τη δυνατότητα να εντοπίζουν εικόνες που ενδέχεται να περιέχουν υλικό σεξουαλικής κακοποίησης παιδιών (CSAM). Το σύστημα μπορεί να αναγνωρίζει και περιεχόμενο που έχει δημιουργηθεί με AI, ακόμη κι όταν δεν υπάρχει ήδη καταγεγραμμένο σε γνωστές βάσεις δεδομένων.
Η ανακοίνωση έγινε στις 16 Νοεμβρίου 2026, με την εταιρεία να συνεργάζεται για την ανάπτυξη και αξιολόγηση του εργαλείου με το National Center for Missing and Exploited Children (NCMEC), οργανισμό που λειτουργεί την αμερικανική πλατφόρμα αναφοράς περιστατικών παιδικής εκμετάλλευσης CyberTipline.
Πώς λειτουργεί το νέο εργαλείο
Ο OpenAI CSAM Image Classifier εξετάζει εικόνες και αναζητά οπτικά χαρακτηριστικά που ενδέχεται να υποδεικνύουν κακοποιητικό περιεχόμενο. Στη συνέχεια αποδίδει βαθμολογίες κινδύνου, βοηθώντας τις εξειδικευμένες ομάδες να δίνουν προτεραιότητα στις εικόνες που χρειάζονται ανθρώπινο έλεγχο.
Στις πρώτες εσωτερικές δοκιμές, η OpenAI διαπίστωσε ότι το εργαλείο θα μπορούσε να μειώσει κατά 48% τον αριθμό των εικόνων που χρειάζονται αξιολόγηση, εντοπίζοντας περίπου τον ίδιο αριθμό προβληματικών περιπτώσεων με το προηγούμενο σύστημα. Επιπλέον, οι εικόνες που επισημαίνονται από τον νέο classifier είχαν περίπου διπλάσιες πιθανότητες να περιέχουν κακοποιητικό υλικό.
Η βαθμολογία του συστήματος δεν αποτελεί αυτόματη επιβεβαίωση ότι μια εικόνα είναι παράνομη. Λειτουργεί ως βοήθημα για τους ανθρώπινους ελεγκτές και δεν αντικαθιστά την αξιολόγηση και τις διαδικασίες αναφοράς.
Δωρεάν πρόσβαση, αλλά μόνο για εγκεκριμένους οργανισμούς
Η OpenAI διαθέτει τον classifier μέσω του OpenAI API χωρίς χρέωση, αλλά η πρόσβαση δεν είναι ελεύθερη για όλους τους προγραμματιστές. Απευθύνεται σε οργανισμούς που δραστηριοποιούνται στην προστασία παιδιών και στην ασφάλεια διαδικτυακών υπηρεσιών, οι οποίοι πρέπει να υποβάλουν αίτηση και να ολοκληρώσουν διαδικασία επαλήθευσης.
Για την ευρύτερη διάθεση του εργαλείου, η εταιρεία συνεργάζεται με την Tech Coalition και την ROOST, ενώ υποστηρίζει παράλληλα λύσεις άλλων οργανισμών, όπως το Safer της Thorn.
Αυστηρότερα μέτρα και μέσα στο ChatGPT
Η πρωτοβουλία περιλαμβάνει και νέες παρεμβάσεις στο ChatGPT. Όταν εντοπίζεται προσπάθεια αναζήτησης περιεχομένου που σεξουαλικοποιεί παιδιά, εμφανίζεται προειδοποίηση, η σχετική συνομιλία αφαιρείται και η πρόσβαση στον λογαριασμό αναστέλλεται προσωρινά για 24 ώρες. Σε επαναλαμβανόμενες παραβιάσεις μπορεί να επιβληθούν μεγαλύτεροι περιορισμοί ή ακόμη και οριστικό κλείσιμο του λογαριασμού, ενώ προβλέπεται και αναφορά στις αρμόδιες αρχές.
Παράλληλα, η OpenAI δημοσίευσε οδηγίες για προγραμματιστές σχετικά με την πρόληψη και την αντιμετώπιση τέτοιου περιεχομένου, ενώ παρέχει εργαλεία και εκπαίδευση σε εξειδικευμένες μονάδες επιβολής του νόμου.
Η νέα κίνηση δείχνει ότι η αντιμετώπιση της παιδικής εκμετάλλευσης στο διαδίκτυο απαιτεί περισσότερα από φίλτρα περιεχομένου.
Η OpenAI επιχειρεί να διαθέσει την τεχνολογία εντοπισμού και σε άλλους οργανισμούς, ώστε να ενισχυθεί η προστασία των παιδιών σε ολόκληρο το ψηφιακό οικοσύστημα.










