Η Anthropic δήλωσε ότι απέτρεψε προσπάθειες χρήσης των μοντέλων τεχνητής νοημοσύνης της για τη διενέργεια κυβερνοεπιθέσεων και την πραγματοποίηση ερευνών που θα μπορούσαν να οδηγήσουν στη δημιουργία βιολογικών όπλων.
Η αμερικανική εταιρεία έχει δημοσιεύσει μια εκτενή έκθεση σχετικά με την κατάχρηση της τεχνητής νοημοσύνης, στην οποία περιλαμβάνονται περιπτώσεις κακόβουλου κώδικα και επικίνδυνων προτροπών που έχει εντοπίσει στα μοντέλα της.
Μεταξύ Δεκεμβρίου 2025 και Αυγούστου 2026, οι ερευνητές της Anthropic εντόπισαν περιπτώσεις κατάχρησης από «άτομα με πολιτικά κίνητρα, ομάδες που υποστηρίζονται από κράτη και επιδιώκουν τη διάδοση προπαγάνδας, καθώς και εταιρείες λογισμικού υποκλοπής», αναφέρεται στην έκθεση.
Η εταιρεία απέκλεισε ένα αίτημα προς τον Claude για βοήθεια στη σύνταξη αίτησης επιχορήγησης για επιστημονική χρηματοδότηση έρευνας με σκοπό τη «δημιουργία μιας νέας ή βελτιωμένης βιολογικής ιδιότητας» του ιού Τσικουνγκούνια.
Ο ιός, που μεταδίδεται από τα κουνούπια, προκαλεί συμπτώματα όπως έντονο πόνο και πυρετό, ενώ το αίτημα αποσκοπούσε στην ενίσχυση των μεταλλάξεων ώστε να καταστεί ο ιός πιο επιβλαβής.
Η Anthropic δήλωσε ότι θα μπορούσε να είχε «χρησιμοποιηθεί για να καταστεί ο παθογόνος οργανισμός πιο επικίνδυνος».
Σε καμία από τις περιπτώσεις που περιλαμβάνονται στην έκθεση δεν χρησιμοποιήθηκαν τα νεότερα μοντέλα Claude Fable ή Mythos, με εξαίρεση μία «μυστική εκστρατεία βιομηχανικής κλίμακας με σκοπό την εξαγωγή των δυνατοτήτων ενός μοντέλου και την αναπαραγωγή τους σε άλλο μοντέλο χωρίς εξουσιοδότηση».
Η Anthropic δήλωσε ότι τα παλαιότερα μοντέλα, όπως το Claude Opus 4 και το Claude Sonnet 4.5, «βρίσκονταν πολύ κάτω από το όριο» που απαιτείται για να βοηθήσουν έναν χρήστη στη διεξαγωγή επικίνδυνης βιολογικής έρευνας.
Στην έκθεση αναφερόταν: «Ως αποτέλεσμα, τα μέτρα ασφαλείας για αυτά τα μοντέλα ήταν λιγότερο αυστηρά, με κύριο στόχο την αποτροπή της πρόσβασης σε περιεχόμενο που θα μπορούσε να βοηθήσει αρχάριους στην αναπαραγωγή γνωστών βιολογικών όπλων.
«Όμως, για τα σημερινά μοντέλα —τα οποία είναι ικανά να συνδράμουν σε μια σειρά σύνθετων εργασιών επιστημονικής έρευνας— τα στοιχεία δεν είναι πλέον βέβαια και δεν μπορούμε να δώσουμε την ίδια διαβεβαίωση».
Η Anthropic δήλωσε ότι έχει εφαρμόσει «αυστηρότερα μέτρα ασφαλείας που περιορίζουν την πρόσβαση σε ένα ευρύ φάσμα ερευνητικών ερωτημάτων διπλής χρήσης στον τομέα της βιολογίας».
Οι ειδικοί έχουν καλέσει επανειλημμένα τις κυβερνήσεις να ρυθμίσουν οι ίδιες την τεχνητή νοημοσύνη, καθώς τα μοντέλα γίνονται όλο και πιο εξελιγμένα, αντί να βασίζονται στον ίδιο τον κλάδο.
Νωρίτερα αυτή την εβδομάδα, ένας από τους ερευνητές της Anthropic, ο Jacob Coxon, ανακοίνωσε την παραίτησή του και δήλωσε ότι η εταιρεία, μαζί με τον ανταγωνιστή της OpenAI, «οδεύουν κατευθείαν προς μια αυτοβελτιούμενη υπερνοημοσύνη και παίζουν με τις ζωές μας».
Προειδοποίησε επίσης ότι ορισμένοι από τους συναδέλφους του πιστεύουν ότι η τεχνητή νοημοσύνη θα μπορούσε να απειλήσει την ανθρωπότητα μέχρι το τέλος της δεκαετίας.