Τι περιγράφει η έρευνα και πώς λειτουργεί η τεχνική

Ερευνητές της Microsoft παρουσίασαν την τεχνική «Lazarus», μέθοδο backdoor που επαναπρογραμματίζει αδρανείς νευρώνες ενός μοντέλου τεχνητής νοημοσύνης. Όταν εμφανιστεί ένα κρυφό trigger, ένας κατά τα άλλα φυσιολογικός agent εκτελεί κακόβουλες εντολές. Η Microsoft Research δημοσιεύει την περιγραφή μαζί με σύνοψη του ερευνητή που εντόπισε πρώτος το πρόβλημα.

Βάσει της σύνοψης, αρκεί να αλλάξουν τα βάρη σε λιγότερους από 10 αδρανείς νευρώνες, χωρίς καμία εκπαίδευση. Κάθε LLM έχει πολλούς νευρώνες που ενεργοποιούνται σπάνια, και αυτοί μπορούν να γίνουν ανιχνευτές trigger. Ο λόγος, κατά την ίδια πηγή, είναι ότι το pretraining οργανώνει τις εσωτερικές αναπαραστάσεις τόσο καλά, ώστε ένας γραμμικός ταξινομητής με περίπου 50 παραδείγματα ξεχωρίζει τις εισόδους με trigger από τις υπόλοιπες.

Ένας επαναπρογραμματισμένος νευρώνας μπορεί να εισάγει ένα token: όταν ενεργοποιηθεί, επιβάλλει οποιοδήποτε token στο residual stream. Με αλυσίδα από πολλούς νευρώνες προκύπτουν αυθαίρετα payloads που εκτελούνται στο τερματικό. Το trigger μπορεί να είναι καθημερινό, όπως η αλλαγή ημερομηνίας: όταν το ρολόι περάσει τα μεσάνυχτα του 2027, ο agent εν μέσω συνηθισμένης εργασίας εκδίδει εντολή που κατεβάζει και τρέχει κώδικα του επιτιθέμενου, με όση πρόσβαση του έχει δοθεί.

Κίνδυνος για agents με πρόσβαση σε εργαλεία

Η Microsoft Research θεωρεί την απειλή ιδιαίτερα σοβαρή για agents με πρόσβαση σε εργαλεία ή τερματικό. Ένα μοντέλο που ενεργοποιείται μπορεί να κατεβάσει και να τρέξει κώδικα επιτιθέμενου, να κλέψει μυστικά ή να εκτελέσει καταστροφικές εντολές, ενώ εξακολουθεί να περνά τις τυπικές αξιολογήσεις ασφάλειας.

Η μέθοδος χρειάζεται μόνο υπολογιστική ισχύ inference. Η πηγή σημειώνει επίσης ότι δεν πρόκειται για επιχείρημα κατά των open weights, αφού η επίθεση απαιτεί μόνο δικαίωμα εγγραφής σε ένα checkpoint. Έτσι εκτίθενται εξίσου και μοντέλα που αναπτύσσονται εσωτερικά, και αρκεί ένας παραβιασμένος λογαριασμός, pipeline ή χώρος αποθήκευσης. Σημασία έχουν η ακεραιότητα των βαρών και η προέλευση.

Ανίχνευση, όρια και άμυνες

Σύμφωνα με τη σύνοψη, τέτοιες τροποποιήσεις μπορούν να εντοπιστούν: frontier agents βρίσκουν ανώμαλες αλλαγές βαρών αν τους ζητηθεί. Κανένας έλεγχος όμως δεν αποδεικνύει ότι ένα μοντέλο είναι ασφαλές, και η αξιόπιστη ανίχνευση απαιτεί σύγκριση με τα αρχικά, αμετάβλητα βάρη. Γι' αυτό η προέλευση είναι κρίσιμη. Η Microsoft προτείνει να ελέγχονται τα βάρη όπως ο κώδικας, και σημειώνει ότι η σάρωση δεν είναι σήμερα κοινή πρακτική.

Η Microsoft αντιμετωπίζει τα backdoored μοντέλα ως παραβιασμένο λογισμικό και παραπέμπει σε γνωστές άμυνες: τα μοντέλα να θεωρούνται πιθανοί εσωτερικοί κίνδυνοι, να μην τους δίνεται σιωπηρή εμπιστοσύνη, να περιορίζονται οι δυνατότητές τους και να παρακολουθείται η συμπεριφορά τους. Οι συστάσεις, όπως τονίζεται, δεν είναι εξαντλητικές και αποτελούν ένα επίπεδο άμυνας σε βάθος.

Για το Microsoft Foundry, η εταιρεία αναφέρει ότι τα μοντέλα Azure Direct και Hugging Face περνούν έλεγχο προέλευσης. Τα open-weight μοντέλα δένονται με τον αρχικό εκδότη, που δηλώνεται στο model card, και τρέχουν σε containers της Microsoft που σαρώνονται για κρίσιμες ευπάθειες. Έτσι οι πελάτες προστατεύονται, κατά την εταιρεία, για μοντέλα από αξιόπιστα εργαστήρια. Παραμένει ο κίνδυνος παραβίασης ενός αξιόπιστου παρόχου, για παράδειγμα μέσω της υποδομής εκπαίδευσης ή εσωτερικού παράγοντα.

Επόμενα βήματα και προέλευση της ανακάλυψης

Η Microsoft δηλώνει ότι ξεκίνησε εργασία πάνω στις συστάσεις της μελέτης. Με εσωτερικές ομάδες ασφάλειας AI μετατρέπει τις τεχνικές ανίχνευσης σε red-teaming harness και εξετάζει τη σάρωση βαρών με frontier agents ως επιπλέον σήμα κατά την ενσωμάτωση open-weight μοντέλων. Σχεδιάζεται επίσης υπογραφή μοντέλων με επαληθεύσιμη προέλευση και αδιάβλητα ίχνη ελέγχου.

Η έρευνα ξεκίνησε τον Μάρτιο ως γρήγορο πείραμα: ο ερευνητής ζήτησε από το Claude Code με Opus 4.5 να βάλει backdoor σε μοντέλο με χειροκίνητη ρύθμιση λίγων ενεργοποιήσεων, χωρίς εκπαίδευση, και αυτό τα κατάφερε. Το πείραμα εξελίχθηκε σε μελέτη πολλών μηνών. Σύμφωνα με τη Microsoft, το Claude Code με Opus 4.5 ανακάλυψε αυτόνομα το μεγαλύτερο μέρος της μεθόδου.