Meta: Αγώνας για να μην υπάρχουν παιδόφιλοι στο Facebook και το Instagram

Η Meta Platforms έχει προσπαθεί επί μήνες να διορθώσει προβλήματα ασφάλειας των παιδιών στο Instagram και το Facebook, αλλά αγωνίζεται να αποτρέψει τα δικά της συστήματα από το να ενεργοποιήσουν ή ακόμη και να προωθούν ένα τεράστιο δίκτυο λογαριασμών παιδεραστών.

Ο γίγαντας των μέσων κοινωνικής δικτύωσης δημιούργησε τον Ιούνιο μια ομάδα εργασίας για την ασφάλεια των παιδιών, αφού η Wall Street Journal και ερευνητές από το Πανεπιστήμιο Stanford και το Πανεπιστήμιο της Μασαχουσέτης Amherst αποκάλυψαν ότι οι αλγόριθμοι του Instagram συνέδεαν ένα δίκτυο λογαριασμών, αφιερωμένο στη δημιουργία, την αγορά και τη διακίνηση ακατάλληλου περιεχομένου για ανηλίκους. 

Πέντε μήνες αργότερα, δοκιμές που πραγματοποιήθηκαν από τη WSJ, καθώς και από το Καναδικό Κέντρο για την Προστασία του Παιδιού δείχνουν ότι τα συστήματα συστάσεων της Meta εξακολουθούν να προωθούν τέτοιο περιεχόμενο. Η εταιρεία έχει αφαιρέσει hashtags που σχετίζονται με την παιδεραστία, αλλά τα συστήματά της εντοπίζουν μερικές φορές νέα hashtags με μικρές παραλλαγές. Ακόμη και όταν η Meta ειδοποιείται για προβληματικούς λογαριασμούς και ομάδες χρηστών, δεν καταφέρνει να τα αφαιρέσει.

Οι δοκιμές δείχνουν ότι το πρόβλημα εκτείνεται πέρα από το Instagram, και στις ομάδες του Facebook, συμπεριλαμβανομένων αυτών που επικεντρώνονται στη σεξουαλικοποίηση παιδιών. Το Facebook, το οποίο αριθμεί περισσότερα από τρία δισεκατομμύρια μηνιαίους χρήστες παγκοσμίως, προωθεί ότι οι ομάδες του λειτουργούν έτσι ώστε να συνδέουν χρήστες με παρόμοια ενδιαφέροντα.

Εκπρόσωπος της Meta είπε ότι η εταιρεία είχε κρύψει 190.000 ομάδες στα αποτελέσματα αναζήτησης του Facebook και είχε απενεργοποιήσει δεκάδες χιλιάδες άλλους λογαριασμούς. Ωστόσο, πρόσθεσε ότι το project δεν έχει προχωρήσει τόσο γρήγορα όσο θα ήθελε. «Η εκμετάλλευση παιδιών είναι ένα φρικτό έγκλημα και τα διαδικτυακά αρπακτικά είναι αποφασισμένοι εγκληματίες», είπε ο εκπρόσωπος, προσθέτοντας ότι η Meta ανακοίνωσε πρόσφατα μια προσπάθεια να συνεργαστεί με άλλες πλατφόρμες που επιδιώκουν να τους σταματήσουν. 

Η Meta τα τελευταία χρόνια έχει στρέψει την προσοχή και τους πόρους στην τεχνητή νοημοσύνη, την εικονική πραγματικότητα και το metaverse. Οι εκτεταμένες περικοπές δαπανών το περασμένο έτος οδήγησαν σε απολύσεις εκατοντάδων υπαλλήλων ασφαλείας που επικεντρώθηκαν σε προβλήματα περιεχομένου «υψηλής σοβαρότητας», συμπεριλαμβανομένων ορισμένων ειδικών για την ασφάλεια των παιδιών, όπως ανέφεραν στην WSJ νυν και πρώην υπάλληλοι.

H Meta είπε ότι η εταιρεία συνεχίζει να επενδύει στη θωράκιση της ασφάλειας των παιδιών, συμπεριλαμβανομένης μιας ομάδας για την εύρεση και αφαίρεση υλικού εκμετάλλευσης παιδιών στην πλατφόρμα. 

Για πρώτη φορά, η Meta άρχισε να απενεργοποιεί μεμονωμένους λογαριασμούς που εμφανίζονται πάνω από ένα συγκεκριμένο όριο ύποπτης συμπεριφοράς, δήλωσε εκπρόσωπος.

Καταργεί hashtag παιδεραστών και μετά τους προτείνει άλλα

Ερευνητές στο Stanford Internet Observatory διαπίστωσαν ότι όταν η Meta καταργεί ένα hashtag στο Instagram ή στο Facebook που πιστεύει ότι σχετίζεται με την παιδεραστία, το σύστημά της συχνά αποτυγχάνει να εντοπίσει νέα με μικρές παραλλαγές. Αφού η Meta απενεργοποίησε το #Pxdobait, οι προτάσεις αναζήτησης σε όποιον πληκτρολόγησε τη φράση ήταν να δοκιμάσει απλώς να προσθέσει ένα συγκεκριμένο emoji στο τέλος.

Η ομάδα του Stanford παρείχε στη Meta μια ανάλυση γνωστών ομάδων στην κοινότητα σεξουαλικοποίησης παιδιών του Instagram. Πέντε μήνες αργότερα, ορισμένες από τις ομάδες που επισήμανε εξακολουθούν να λειτουργούν.

Ο εκπρόσωπος της Meta είπε ότι η κατάργηση ομάδων είναι πολύπλοκη και χρονοβόρα. Η εταιρεία, πρόσθεσε, έχει διαγράψει 16.000 ομάδες από την 1η Ιουλίου για παραβίαση των πολιτικών για την ασφάλεια των παιδιών.

Ο David Thiel, επικεφαλής τεχνολόγος του Stanford Internet Observatory, είπε ότι δεν θα έπρεπε να ήταν τόσο δύσκολο να καταργηθούν.

Αν και η Meta επιτρέπει στους χρήστες να καταγγέλλουν προβληματικό περιεχόμενο, παλαιότερο ρεπορτάζ της WSJ έδειξε ότι το σύστημά της συχνά αγνοεί ή απορρίπτει αναφορές για εκμετάλλευση παιδιών. 


Πηγή: moneyreview.gr