Η ραγδαία εξέλιξη των γλωσσικών μοντέλων φέρνει στην επιφάνεια νέους και πρωτοφανείς κινδύνους για την παγκόσμια ασφάλεια. Σύμφωνα με μια νέα, άκρως ανησυχητική αναφορά που δημοσίευσε η Anthropic, η εταιρεία αναγκάστηκε να εντοπίσει και να μπλοκάρει πολλαπλούς επιστήμονες οι οποίοι χρησιμοποιούσαν τα AI μοντέλα της για τη δημιουργία πιθανών βιολογικών όπλων. Η αποκαλούμενη βιολογική κατάχρηση αποτελεί μόλις μία από τις πολλές ανησυχητικές μορφές χρήσης που καταγράφει η έκθεση, αλλά αποκτά ολοένα και μεγαλύτερη κρισιμότητα καθώς νεότερα και πιο προηγμένα μοντέλα όπως το Fable 5 γίνονται εξαιρετικά ικανά στην υποβοήθηση της επιστημονικής έρευνας.
Η επίσημη αναφορά της εταιρείας περιλαμβάνει πέντε ξεχωριστές περιπτώσεις μελέτης όπου τα μοντέλα της χρησιμοποιήθηκαν για την ανάπτυξη βιολογικών απειλών. Παράλληλα, αναλύει τα μέτρα ασφαλείας που έφεραν στο φως αυτή την επικίνδυνη δραστηριότητα και τον τρόπο με τον οποίο αντέδρασαν τα συστήματα προστασίας. Ο εντοπισμός της πιθανής κατάχρησης είναι μια εξαιρετικά περίπλοκη διαδικασία, καθώς η έρευνα για ένα νέο, σωτήριο εμβόλιο μπορεί να μοιάζει επικίνδυνα πολύ με τη δημιουργία ενός βιολογικού όπλου. Σε όλες τις περιπτώσεις, η εταιρεία επέλεξε να δράσει με υπερβολική προσοχή λόγω των τρομακτικών, πιθανών συνεπειών.
Η λεπτή γραμμή μεταξύ ιατρικής και βιολογικού πολέμου
Ο Jacob Klein, επικεφαλής του τμήματος πληροφοριών απειλών της Anthropic, εξήγησε την κατάσταση ξεκαθαρίζοντας ότι η πραγματικότητα απέχει πολύ από τις ταινίες επιστημονικής φαντασίας. Όπως χαρακτηριστικά ανέφερε, οι ερευνητές της εταιρείας δεν βλέπουν απέναντί τους κακοποιούς από κόμικς να δηλώνουν ανοιχτά ότι θέλουν να φτιάξουν ένα όπλο για να καταστρέψουν τον κόσμο, αλλά αντιμετωπίζουν μια απίστευτα περίπλοκη κατάσταση με πολλές διαφορετικές αποχρώσεις.
Σε μια χαρακτηριστική περίπτωση από τον περασμένο Μάιο, ο ειδικός ταξινομητής βιολογικής ασφάλειας της Anthropic επισήμανε ένα αίτημα όπου ένας χρήστης ζητούσε από το Claude να συντάξει μια πρόταση χρηματοδότησης για έρευνα gain-of-function πάνω στον ιό chikungunya. Ο συγκεκριμένος ιός δεν έχει κάποια εγκεκριμένη θεραπεία και μπορεί να προκαλέσει εξουθενωτικά συμπτώματα για εβδομάδες ή και μήνες. Η έρευνα gain-of-function διερευνά μεθόδους για τη γενετική τροποποίηση ενός οργανισμού, και στη συγκεκριμένη περίπτωση, η πρόταση αποσκοπούσε στην αύξηση της μεταδοτικότητας του ιού και στην ικανότητά του να αποφεύγει την ανοσολογική απόκριση. Το γεγονός ότι η προτεινόμενη έρευνα συνδεόταν με ένα στρατιωτικό ερευνητικό ινστιτούτο, έκανε τα πράγματα ακόμα πιο ύποπτα.
Ενίσχυση ασφάλειας και προστασία ταυτότητας επιστημόνων
Η εταιρεία αντιμετώπισε παρόμοια προβλήματα με έρευνες πάνω στη γρίπη των πτηνών, αλλά και με μια ξεχωριστή περίπτωση όπου ένας ερευνητής χρησιμοποίησε το Claude για να αναπτύξει έναν άτλαντα πεπτιδίων από τοξίνες δηλητηρίου, ζητώντας παράλληλα τη δημιουργία ενός μοντέλου που θα βελτιστοποιούσε τα χαρακτηριστικά της τοξίνης. Η πλήρης έκθεση περιλαμβάνει επίσης περιπτώσεις όπου τα μοντέλα της Anthropic χρησιμοποιήθηκαν ως εργαλεία παρακολούθησης, για τη δημιουργία λογισμικού υποκλοπής, για σκοπούς προπαγάνδας, καθώς και για την ανάπτυξη οπλικών συστημάτων.
Σύμφωνα με τα επίσημα στοιχεία, οποιοσδήποτε έκανε κατάχρηση του Claude ή άλλων μοντέλων της Anthropic είδε τον λογαριασμό του να μπλοκάρεται οριστικά. Τα ευρήματα από αυτή την εκτενή έρευνα χρησιμοποιούνται ήδη για την περαιτέρω βελτίωση των δικλείδων ασφαλείας. Δεδομένης της εξαιρετικά ευαίσθητης φύσης της βιολογικής έρευνας, η Anthropic αποφάσισε να μην κατονομάσει τα άτομα ή τα ιδρύματα που ενεπλάκησαν. Η εταιρεία τονίζει ότι τα άτομα αυτά είναι ενεργοί επιστήμονες και δεν υπάρχουν αποδείξεις ότι είχαν κακόβουλες προθέσεις, επομένως η αποκάλυψη της ταυτότητάς τους θα μπορούσε να τους εκθέσει σε άσκοπο κίνδυνο.
