Η OpenAI βρίσκεται αντιμέτωπη με αγωγή στην Καλιφόρνια για το περιστατικό κατά το οποίο εκατοντάδες πράκτορες τεχνητής νοημοσύνης ξέφυγαν από το περιβάλλον δοκιμών της εταιρείας και απέκτησαν μη εξουσιοδοτημένη πρόσβαση στα συστήματα της πλατφόρμας Hugging Face. Η υπόθεση ανοίγει πλέον ένα από τα πιο κρίσιμα νομικά ζητήματα της εποχής των αυτόνομων συστημάτων: ποιος ευθύνεται όταν μια τεχνητή νοημοσύνη ενεργεί έξω από τα όρια που της έχουν τεθεί.
Η αγωγή
Το περιστατικό σημειώθηκε τον Ιούλιο, στη διάρκεια εσωτερικών αξιολογήσεων κυβερνοασφάλειας της OpenAI, αναφέρει το Wired. Όπως αποκάλυψαν αργότερα έρευνες της εταιρείας και ανεξάρτητων οργανισμών, περισσότεροι από 700 πράκτορες συμμετείχαν στην παραβίαση της Hugging Face, εκμεταλλευόμενοι ευπάθειες, αποκτώντας πρόσβαση στο Διαδίκτυο και σε συστήματα τρίτων και, σε ορισμένες περιπτώσεις, επιχειρώντας να καλύψουν τα ίχνη τους.
Η αγωγή δεν κατατέθηκε από τη Hugging Face, αλλά από τη μη κερδοσκοπική οργάνωση Νομικοί Υπερασπιστές της Ασφαλούς Επιστήμης και Τεχνολογίας (Legal Advocates for Safe Science and Technology ή LASST).
Το αδίκημα
Όπως εξηγεί η LAAST σε άρθρο που δημοσιεύθηκε στην ιστοσελίδα της, οι ενέργειες των πρακτόρων παραβίασαν τον Νόμο για τη Πρόσβαση σε Δεδομένα Υπολογιστών και την Ηλεκτρονική Απάτη της Καλιφόρνια (Comprehensive Computer Data Access and Fraud Act).
Σύμφωνα με την αγωγή, οι πράκτορες απέκτησαν πρόσβαση σε συστήματα χωρίς άδεια, χρησιμοποίησαν υπηρεσίες τρίτων και προχώρησαν σε ενέργειες που θα χαρακτηρίζονταν παράνομες εάν εκτελούνταν από ανθρώπους. Η LASST υποστηρίζει επίσης ότι η OpenAI ακολούθησε πρακτικές ανάπτυξης που αύξησαν υπερβολικά τον κίνδυνο, μεταξύ άλλων με την απενεργοποίηση ορισμένων δικλίδων κυβερνοασφάλειας και τη συνέχιση απαιτητικών δοκιμών ακόμη και μετά την εμφάνιση ενδείξεων ότι πράκτορες μπορούσαν να παρακάμψουν τα περιβάλλοντα περιορισμού.
Η ευθύνη
Στην καρδιά της υπόθεσης βρίσκεται το ζήτημα της ευθύνης. Η θέση της LASST είναι ότι μια εταιρεία δεν μπορεί να απαλλαγεί από τις συνέπειες επικαλούμενη το γεγονός ότι η τεχνητή νοημοσύνη ενήργησε αυτόνομα. Η νομοθεσία της Καλιφόρνια προβλέπει ήδη ότι η αυτονομία ενός συστήματος τεχνητής νοημοσύνης δεν αποτελεί από μόνη της άμυνα έναντι ευθύνης για ζημιά που προκάλεσε.
Το ίδιο σκεπτικό έχει αρχίσει να κερδίζει έδαφος και στη δημόσια συζήτηση. Ο υπουργός Οικονομικών των ΗΠΑ Σκοτ Μπέσεντ δήλωσε ότι το περιστατικό της Hugging Face αποτελεί ευθύνη της διοίκησης της OpenAI και όχι «μιας ομάδας πρακτόρων». Παρόμοια θέση έχει διατυπώσει ο Ντάνιελ Χούτενλοχερ του MIT, ο οποίος υποστηρίζει ότι η ευθύνη παραμένει στους ανθρώπους και στους οργανισμούς που δίνουν στα συστήματα τεχνητής νοημοσύνης την εξουσία να ενεργούν.
Η απαίτηση
Η LASST δεν ζητά πρόστιμα ή αποζημιώσεις. Στόχος της είναι να πετύχει δικαστική εντολή που θα περιορίζει τον τρόπο με τον οποίο η OpenAI αναπτύσσει και δοκιμάζει αυτόνομους πράκτορες. Ζητεί, μεταξύ άλλων, να απαγορευθεί η μη εξουσιοδοτημένη πρόσβαση σε συστήματα τρίτων και να σταματήσουν πρακτικές που θεωρεί επικίνδυνες, ώστε να αποτραπούν ανάλογα περιστατικά στο μέλλον.
Η OpenAI απορρίπτει την αγωγή ως αβάσιμη και έχει δηλώσει ότι μετά το περιστατικό έλαβε σειρά μέτρων για την ενίσχυση της ασφάλειας. Η ίδια έχει αναγνωρίσει πάντως ότι οι πράκτορές της παρακάμπτουν ενίοτε περιορισμούς, εκμεταλλεύονται ευπάθειες και μπορούν να προκαλέσουν πραγματικές συνέπειες εκτός των εργαστηριακών δοκιμών.