Νέα αυστηρά μέτρα από την OpenAI για την προστασία των εφήβων

Η ραγδαία εξάπλωση της Τεχνητής Νοημοσύνης στη νέα γενιά φέρνει μαζί της τεράστιες προκλήσεις, και η OpenAI αναγκάζεται πλέον να λάβει δραστικά μέτρα. Η εταιρεία ανακοίνωσε επίσημα μια σημαντική αναβάθμιση στα εργαλεία γονικού ελέγχου του ChatGPT. Στο εξής, η πλατφόρμα θα ειδοποιεί άμεσα τους γονείς και τους κηδεμόνες σε περίπτωση που ο λογαριασμός του έφηβου παιδιού τους απενεργοποιηθεί λόγω παραβίασης των πολιτικών χρήσης που αφορούν βίαιες απειλές ή πράξεις διαδικτυακής βίας. Πρόκειται για μια κίνηση που έρχεται να καλύψVerification κενά ασφαλείας, μετατρέποντας τον ψηφιακό βοηθό σε έναν πιο ελεγχόμενο χώρο για τις οικογένειες.

Υπενθυμίζεται ότι η OpenAI είχε λανσάρει τα πρώτα εργαλεία γονικού ελέγχου, επιτρέποντας στους γονείς να συνδέουν τους προσωπικούς τους λογαριασμούς με εκείνους των παιδιών τους. Μέχρι πρότινος, οι δυνατότητες αυτές περιορίζονταν στον προγραμματισμό ωρών απαγόρευσης χρήσης, στη μείωση του ευαίσθητου περιεχομένου και στην αποστολή ειδοποιήσεων εάν το chatbot εντόπιζε ενδείξεις ότι ένας έφηβος σκέφτεται να βλάψει τον εαυτό του. Τώρα, η εταιρεία επεκτείνει τις ειδοποιήσεις της για να ενημερώνει τους γονείς εάν το παιδί τους ενδέχεται να αποτελεί κίνδυνο για τους άλλους.

Πώς λειτουργεί το σύστημα ειδοποίησης “Important Update”

Η διαδικασία έχει σχεδιαστεί ώστε να είναι άμεση και ξεκάθαρη. Σύμφωνα με το παράδειγμα που δημοσίευσε η OpenAI, όταν ένας έφηβος παραβιάζει τους κανόνες για “Πράξεις Βίας”, ο συνδεδεμένος γονέας λαμβάνει μια επείγουσα ειδοποίηση με τον τίτλο “Important update” σχετικά με τον λογαριασμό του παιδιού του. Από εκεί, ο κηδεμόνας μπορεί να πατήσει την επιλογή “Learn More” για να διαβάσει ένα εκτενέστερο μήνυμα που τον πληροφορεί ότι ο λογαριασμός απενεργοποιήθηκε οριστικά λόγω σοβαρής παραβίασης των όρων χρήσης.

Για την ανάπτυξη και την τελειοποίηση αυτού του ευαίσθητου χαρακτηριστικού, η OpenAI συνεργάστηκε στενά με τη Moonshot, μια εξειδικευμένη εταιρεία που ασχολείται με την παρακολούθηση και την καταπολέμηση της διαδικτυακής βίας. Η Vidhya Ramalingam, ιδρύτρια της Moonshot, δήλωσε χαρακτηριστικά: «Το να ειδοποιείται ένας γονέας όταν προκύπτει μια σοβαρή ανησυχία, έχοντας πρόσβαση σε περισσότερες πληροφορίες, είναι ένα κρίσιμο πρώτο βήμα. Δίνει στις οικογένειες την ευκαιρία να παρέμβουν έγκαιρα και να αναζητήσουν βοήθεια».

Το σκοτεινό παρασκήνιο: Το μακελειό του 2025 στον Καναδά

Η απόφαση της OpenAI να ενισχύσει τόσο δραστικά τα πρωτόκολλα ασφαλείας της δεν ήρθε τυχαία, αλλά είναι αποτέλεσμα έντονων πιέσεων και νομικών συνεπειών. Η εταιρεία βρέθηκε στο στόχαστρο των διεθνών αρχών όταν αποκαλύφθηκε ότι ο ύποπτος της ένοπλης επίθεσης (mass shooting) στο Tumbler Ridge της Βρετανικής Κολομβίας στον Καναδά, είχε χρησιμοποιήσει εκτενώς το ChatGPT πριν προχωρήσει στην αποτρόπαιη πράξη του.

Οι καναδικές αρχές κάλεσαν την OpenAI για επίσημες εξηγήσεις, καθώς αποκαλύφθηκε ότι η εταιρεία είχε μεν μπλοκάρει τον λογαριασμό του δράστη λόγω ύποπτης δραστηριότητας, αλλά δεν είχε ενημερώσει ποτέ τις αρχές ή το περιβάλλον του για τον κίνδυνο. Το γεγονός αυτό προκάλεσε σάλο, αναγκάζοντας μάλιστα τον επικεφαλής της OpenAI, Sam Altman, να ζητήσει δημόσια συγγνώμη για την παράβλεψη, υποσχόμενος ότι η εταιρεία θα αλλάξει ριζικά τον τρόπο που διαχειρίζεται τέτοιου είδους κρίσεις.

Study Mode και break reminders για καλύτερες ψηφιακές συνήθειες

Πέρα από το κομμάτι της ασφάλειας και των απαγορεύσεων, η νέα ενημέρωση φέρνει και μερικά πολύ χρήσιμα εργαλεία για την καθημερινότητα των μαθητών. Η OpenAI παρουσίασε τη δυνατότητα ενεργοποίησης του “Study Mode” (Λειτουργία Μελέτης) απευθείας μέσα από τις γονικές ρυθμίσεις. Όταν αυτή η λειτουργία είναι ενεργή, το ChatGPT δεν δίνει έτοιμες τις απαντήσεις στις σχολικές ερωτήσεις, αλλά προσφέρει έξυπνα στοιχεία και καθοδήγηση, βοηθώντας τους μαθητές να σκεφτούν και να μάθουν ουσιαστικά.

Τέλος, θέλοντας να καταπολεμήσει τον εθισμό των εφήβων στις οθόνες, το chatbot θα εμφανίζει πλέον πολύ πιο συχνές υπενθυμίσεις για διάλειμμα (break reminders) στους νεαρούς χρήστες που ξοδεύουν υπερβολικό χρόνο συνεχόμενης χρήσης στην εφαρμογή. Η προσπάθεια για τη δημιουργία υγιέστερων τεχνολογικών συνηθειών είναι μακρά, αλλά η OpenAI δείχνει διατεθειμένη να πάρει τον έλεγχο της κατάστασης στα χέρια της!