Η ΕΕ βάζει στο στόχαστρο το Grok και το X για deepfakes νέα έρευνα με φόντο τον νόμο για τις ψηφιακές πλατφόρμες

Η Ευρωπαϊκή Ένωση ανεβάζει ξανά τους τόνους απέναντι στο X (πρώην Twitter) και την τεχνητή νοημοσύνη Grok, ανοίγοντας νέα έρευνα για πιθανές παραβιάσεις της ευρωπαϊκής νομοθεσίας γύρω από τα AI-generated deepfakes.

Οι ρυθμιστικές αρχές εξετάζουν κατά πόσο η πλατφόρμα απέτυχε να περιορίσει τη διάδοση παράνομου και επιβλαβούς περιεχομένου που δημιουργείται με τεχνητή νοημοσύνη, συμπεριλαμβανομένων ψεύτικων σεξουαλικών εικόνων και άλλου υλικού υψηλού κινδύνου.

Έρευνα για πιθανές παραβιάσεις του Digital Services Act

Σύμφωνα με ανακοίνωση της Ευρωπαϊκής Επιτροπής, η υπόθεση αφορά την υποχρέωση του X να προστατεύει τους χρήστες του από παράνομο και κακοποιητικό περιεχόμενο, όπως προβλέπει ο Digital Services Act (DSA).

Οι ευρωπαϊκές αρχές εξετάζουν αν η πλατφόρμα πήρε επαρκή μέτρα για να περιορίσει τη διάδοση AI-generated deepfakes και άλλων επιβλαβών εικόνων, ιδιαίτερα όταν αυτά αφορούν γυναίκες και ανηλίκους.

Σκληρή δήλωση από την Κομισιόν

Η εκτελεστική αντιπρόεδρος της Ευρωπαϊκής Επιτροπής, Henna Virkkunen, ήταν σαφής στη δήλωσή της, τονίζοντας ότι τα σεξουαλικά deepfakes αποτελούν σοβαρή μορφή κακοποίησης και εξευτελισμού.

Όπως ανέφερε, η έρευνα θα κρίνει αν το X συμμορφώθηκε με τις υποχρεώσεις του ή αν τα δικαιώματα των Ευρωπαίων πολιτών αντιμετωπίστηκαν ως «παράπλευρη απώλεια» της λειτουργίας της πλατφόρμας.

Πιθανές κυρώσεις μετά το πρόσφατο πρόστιμο

Η έρευνα έρχεται λίγο μετά από σημαντικό πρόστιμο που επιβλήθηκε στο X, με τις ευρωπαϊκές αρχές να ξεκαθαρίζουν ότι ενδέχεται να ακολουθήσουν επιπλέον μέτρα επιβολής, αν διαπιστωθούν παραβιάσεις.

Ο DSA δίνει στην ΕΕ τη δυνατότητα να επιβάλλει βαριά πρόστιμα και να απαιτήσει αλλαγές στον τρόπο λειτουργίας των μεγάλων online πλατφορμών, ειδικά όταν πρόκειται για την προστασία χρηστών και ανηλίκων.

Το Grok στο επίκεντρο της συζήτησης για τα deepfakes

Η έρευνα αφορά και το Grok, το AI chatbot που συνδέεται με την πλατφόρμα X, καθώς η τεχνητή νοημοσύνη και τα generative εργαλεία έχουν κάνει τη δημιουργία deepfake περιεχομένου πιο εύκολη από ποτέ.

Το ζήτημα δεν αφορά μόνο το X, αλλά συνολικά τη νέα εποχή της generative AI, όπου τα όρια ανάμεσα στο πραγματικό και στο τεχνητό γίνονται όλο και πιο θολά, δημιουργώντας τεράστιες προκλήσεις για νομοθέτες και πλατφόρμες.

Η υπόθεση αυτή είναι ακόμη ένα επεισόδιο στη σύγκρουση μεταξύ Ευρωπαϊκής Ένωσης και μεγάλων τεχνολογικών πλατφορμών γύρω από την ευθύνη τους στο ψηφιακό περιεχόμενο.

Με τα deepfakes να εξελίσσονται ταχύτατα και τη νομοθεσία να προσπαθεί να προλάβει την τεχνολογία, το ερώτημα δεν είναι αν θα υπάρξουν συγκρούσεις. Είναι πόσο αυστηρά θα εφαρμοστούν οι νέοι κανόνες και τι σημαίνει αυτό για το μέλλον των social media και της AI.