Τι είναι το LLMON και τι προσπαθεί να λύσει

Η ομάδα πίσω από τα Granite 4.1 παρουσίασε, σε ανάρτηση στο Hugging Face με ημερομηνία 12 Νοεμβρίου 2026, το LLMON (LLM Object Notation). Πρόκειται για γλώσσα σήμανσης που μεταφέρει ρητά στο μοντέλο τη δομή και το νόημα των τμημάτων του πλαισίου: προτροπή συστήματος, προηγούμενες στροφές συνομιλίας, ανακτημένα έγγραφα, αποκρίσεις εργαλείων, περιορισμούς εξόδου και αλυσίδες συλλογισμού.

Κατά τους συντάκτες, η δομή αυτή συνήθως μένει υπονοούμενη ή κωδικοποιείται σε μορφές όπως το JSON, που δεν σχεδιάστηκαν για να τις διαβάζουν γλωσσικά μοντέλα. Αυτό, γράφουν, ευθύνεται εν μέρει για την ευθραυστότητα των μικρότερων μοντέλων και δίνει στους επιτιθέμενους περιθώριο για prompt injection.

Στο LLMON κάθε συνεκτικό τμήμα φέρει νοηματική ετικέτα, τυλιγμένη σε δεσμευμένα tokens. Μοναδικά αναγνωριστικά επιτρέπουν να δεθεί μια εντολή με τα δεδομένα στα οποία εφαρμόζεται, όπως ένα όρισμα δένεται σε μια συνάρτηση. Για τη σύγκριση με το JSON, η ανάρτηση σημειώνει ότι εκεί οι χαρακτήρες δομής μπορεί να εμφανίζονται και σε κανονικό κείμενο, ενώ το βάθος φωλιάσματος κρατιέται με μέτρημα αγκίστρων, κάτι στο οποίο οι transformers είναι αδύναμοι σε μεγάλες αποστάσεις. Παρέχονται μετατροπείς JSON προς LLMON και αντίστροφα, χωρίς απώλειες.

Η σήμανση δεν αντικαθιστά τα chat templates αλλά τα εμπλουτίζει. Τα μοντέλα έχουν δικό τους template: ο χρήστης ονομάζει τα μέρη μιας στροφής (instruction, data, requirement) και σημειώνει ποια θα δεθούν στο τελικό μπλοκ εκτέλεσης. Τα αναγνωριστικά των μπλοκ είναι δύο χαρακτήρες και κοστίζουν δύο tokens.

Μετρήσεις ανθεκτικότητας και γενικής ικανότητας

Η σύγκριση έγινε με πολλά μοντέλα ανοικτού και κλειστού κώδικα. Το κύριο τεστ ήταν το benchmark OPI, που τοποθετεί την κακόβουλη εντολή μέσα στα δεδομένα κλασικών εργασιών NLP και εφαρμόζει διάφορες στρατηγικές επίθεσης. Η ανθεκτικότητα ορίζεται ως 1 − ποσοστό επιτυχίας επίθεσης, δηλαδή το μερίδιο των επιθέσεων όπου το μοντέλο δεν εκτελεί την ενσωματωμένη εντολή.

Οι συντάκτες αναφέρουν ότι όλα τα μοντέλα εκτός LLMON εκτελούν τις κακόβουλες εντολές με υψηλή πιθανότητα. Το LLMON, κατά την ίδια αναφορά, αποφεύγει 47% περισσότερες επιθέσεις από το καλύτερο μοντέλο αιχμής που δοκίμασαν και 95% περισσότερες από το καλύτερο μοντέλο ανοικτού κώδικα. Παρόμοιες τάσεις λέγεται ότι εμφανίζονται στα ASB και StruQ. Πρόκειται για μετρήσεις των ίδιων των δημιουργών και όχι για ανεξάρτητη αξιολόγηση. Η ανάρτηση δεν δίνει εδώ αριθμητικούς πίνακες ανά μοντέλο.

Ως προς τη γενική ικανότητα, οι συντάκτες αναφέρουν ότι σε τυπικές κατηγορίες benchmarks τα μοντέλα LLMON αποδίδουν στο ίδιο επίπεδο με τα Granite 4.1 Instruct. Προτείνουν σε όσους δοκιμάζουν ήδη τα Granite 4.1 3B ή 8B να αντικαταστήσουν το μοντέλο με την έκδοση LLMON, χωρίς πρόσθετη διαδικασία μετατροπής.

Εκπαίδευση, όρια και επόμενα βήματα

Τα μοντέλα ξεκινούν από checkpoints Granite 4.1 base και όχι από τα έτοιμα instruct, ώστε η συμπεριφορά LLMON να μαθαίνεται στο post-training. Έξι οριοθέτες εγκαταστάθηκαν ως δεσμευμένα μονά tokens στον tokenizer. Ένα συμβατικό σώμα δεδομένων instruction tuning (συνομιλία, πολλαπλές στροφές, RAG, κλήση εργαλείων) αναδιατυπώθηκε σε LLMON, και προστέθηκαν εντολές και δεδομένα-παραπλανητικά που υπάρχουν στο πλαίσιο αλλά δεν δένονται σε κάποιο μπλοκ εκτέλεσης, με αμετάβλητη την επιθυμητή έξοδο.

Ακολούθησαν πέντε διαδοχικά στάδια GRPO, που κάλυψαν συλλογισμό πολλών πεδίων, RLHF, βαθμονόμηση γνώσης και μαθηματικά. Το τελευταίο στάδιο ήταν DPO σε χίλια ζεύγη προτιμήσεων από τις δικές απαντήσεις του μοντέλου σε απόπειρες εισαγωγής εντολών.

Οι συντάκτες θέτουν ρητά όρια. Τα τεστ αφορούν στατικές έμμεσες επιθέσεις, για τις οποίες ο διαχωρισμός εντολών και δεδομένων είναι σχεδιασμένος. Για προσαρμοστικές επιθέσεις που εξελίσσονται σε πολλές στροφές η δουλειά συνεχίζεται. Ο κανόνας ότι εξουσιοδοτημένη είναι μόνο η εντολή που φτάνει μέσω μπλοκ εκτέλεσης είναι, όπως τονίζουν, μαθημένη συμπεριφορά και όχι επιβεβλημένη εγγύηση. Οι εκδόσεις είναι πειραματικές, κατάλληλες για δοκιμές αλλά όχι για παραγωγή.

Το LLMON δεν δεσμεύεται σε σταθερό σχήμα. Ως παράδειγμα, οι συντάκτες όρισαν δικό τους λεξιλόγιο για το ScienceWorld, benchmark όπου ένας πράκτορας εκτελεί στοιχειώδεις επιστημονικές εργασίες με μία εντολή κάθε φορά, και εκπαίδευσαν ένα LoRA πάνω σε μοντέλο LLMON. Συνοδευτικό notebook συγκρίνει τον προσαρμογέα με το μη εκπαιδευμένο βασικό μοντέλο. Δημοσιεύτηκαν επίσης αποθετήριο στο GitHub, επίδειξη οπτικοποίησης της προσοχής και δύο εργασίες στο arXiv.