Instagram AI influencers: Ποινές σε όσους κρύβονται

Η δημοφιλής πλατφόρμα κοινωνικής δικτύωσης προχωρά σε σημαντικές αλλαγές, βάζοντας στο στόχαστρο τα προφίλ που χρησιμοποιούν ψηφιακές περσόνες. Το Instagram ανακοίνωσε νέους κανόνες, απαιτώντας πλέον από αυτούς τους λογαριασμούς να χρησιμοποιούν τη νέα, ειδική ετικέτα “AI-generated profile” (Προφίλ δημιουργημένο από τεχνητή νοημοσύνη). Ο στόχος είναι να γίνεται άμεσα ξεκάθαρο στους χρήστες ότι βλέπουν περιεχόμενο από τεχνητή νοημοσύνη και όχι από κάποιον “πραγματικό άνθρωπο”. Η εταιρεία προειδοποίησε αυστηρά ότι οι λογαριασμοί που θα επιλέξουν να αγνοήσουν αυτόν τον κανόνα και δεν θα χρησιμοποιούν την ετικέτα, θα δουν την απήχησή τους (reach) να μειώνεται δραματικά.

Αυτή η κίνηση έρχεται σε μια περίοδο όπου πολλές ανταγωνιστικές πλατφόρμες λαμβάνουν μέτρα για να περιορίσουν το “AI slop” (χαμηλής ποιότητας περιεχόμενο τεχνητής νοημοσύνης), καθώς οι χρήστες των social media δείχνουν όλο και μεγαλύτερη δυσαρέσκεια. Η Meta, η οποία γενικά ενθαρρύνει τους χρήστες της να πειραματίζονται με εργαλεία AI, έκανε ελάχιστα μέχρι σήμερα για να αποθαρρύνει τέτοιο περιεχόμενο. Ωστόσο, η νέα αυτή πολιτική δεν αποτελεί τόσο μια γενική καταστολή του AI, αλλά μια στοχευμένη προσπάθεια να αντιμετωπιστεί ένας συγκεκριμένος, άκρως παραπλανητικός τύπος περιεχομένου.

Το τέλος των κρυφών AI influencers

Η νέα σήμανση φαίνεται να είναι “κομμένη και ραμμένη” για τους λογαριασμούς που βασίζονται αποκλειστικά σε ψηφιακές περσόνες. Στο παρελθόν, το Instagram χρησιμοποιούσε την προαιρετική ετικέτα “AI creator” ως μια γενική ομπρέλα για οποιοδήποτε προφίλ ανέβαζε συχνά περιεχόμενο τεχνητής νοημοσύνης. Πλέον, αυτή η ετικέτα αντικαθίσταται από το “AI-generated profile”, το οποίο, σύμφωνα με την περιγραφή εντός της εφαρμογής, προορίζεται ρητά για προφίλ που “προβάλλουν ένα άτομο δημιουργημένο από AI”.

Ο κίνδυνος της παραπληροφόρησης

Καθώς τα μοντέλα τεχνητής νοημοσύνης έχουν εξελιχθεί εντυπωσιακά, η δημιουργία εξαιρετικά ρεαλιστικού περιεχομένου έχει γίνει παιχνιδάκι. Αυτό οδήγησε σε μια “έκρηξη” ψεύτικων AI influencers. Πρόσφατες έρευνες έφεραν στο φως ανησυχητικά φαινόμενα:

• Ρεπορτάζ του Guardian αποκάλυψε ένα κύμα από ψηφιακούς “influencers” που διαφημίζουν επιθετικά εφαρμογές και διάφορα brands.
• Οι New York Times εντόπισαν εκατοντάδες AI influencers στον χώρο της “ευεξίας” (wellness), ορισμένοι εκ των οποίων μάλιστα ισχυρίζονταν ότι είναι γιατροί.

Αν και μεγάλο μέρος αυτού του περιεχομένου δεν παραβιάζει ρητά και άμεσα τους υπάρχοντες κανόνες της Meta, έχει εγείρει σοβαρές ανησυχίες για την ταχύτατη εξάπλωση ιατρικής και εμπορικής παραπληροφόρησης.

Σύμφωνα με εκπρόσωπο του Instagram, οι λογαριασμοί με ψηφιακούς ανθρώπους που κρύβουν την ταυτότητά τους, “ενδέχεται σύντομα να δουν όρια στην απήχησή τους”. Βέβαια, για να αποφευχθούν τα λάθη από τον αλγόριθμο, οι δημιουργοί που πιστεύουν ότι έχουν τιμωρηθεί άδικα, θα έχουν τη δυνατότητα να υποβάλουν ένσταση (appeal) μέσω του ειδικού πίνακα ελέγχου Account Status (Κατάσταση Λογαριασμού) του Instagram.