---
title: "LLMON: γλώσσα σήμανσης για γλωσσικά μοντέλα στα Granite 4.1 3B και 8B, με στόχο τις έμμεσες επιθέσεις εντολών"
url: https://aibenchmark.gr/news/llmon-glossa-simansis-gia-glossika-montela-sta-granite-4-1-3b-kai-8b-me-stoxo/
language: el
published: 2026-11-16T16:19:25.354Z
updated: 2026-11-16T16:19:25.363Z
site: "AI Benchmark"
section: "Τεχνικές αναφορές"
---

# LLMON: γλώσσα σήμανσης για γλωσσικά μοντέλα στα Granite 4.1 3B και 8B, με στόχο τις έμμεσες επιθέσεις εντολών

Δύο πειραματικές εκδόσεις των Granite 4.1, με 3B και 8B παραμέτρους, μαθαίνουν σήμανση που ξεχωρίζει τις εντολές από τα δεδομένα. Τα αποτελέσματα που δίνεται δείχνουν σχεδόν μηδενική επιτυχία επιθέσεων σε ένα τεστ.

> Γράφτηκε με τεχνητή νοημοσύνη από τις πηγές που αναφέρονται παρακάτω. Συντακτική ευθύνη: Konstantinos Perros. Πώς γράφουμε: https://aibenchmark.gr/how-we-write/

## Βασικά στοιχεία

- Το LLMON είναι γλώσσα σήμανσης τύπου XML, όπου τα όρια των τμημάτων του πλαισίου δηλώνονται με δεσμευμένα ειδικά tokens και όχι με απλούς χαρακτήρες. [1]
- Κυκλοφόρησαν δύο πειραματικά μοντέλα, τα granite-4.1-3b-LLMON-preview και granite-4.1-8b-LLMON-preview, με βάση τα Granite 4.1 base. [1]
- Στο benchmark OPI, η ανθεκτικότητα ορίζεται ως 1 − ποσοστό επιτυχίας επίθεσης, και οι συντάκτες αναφέρουν ότι το LLMON αποφεύγει 47% περισσότερες επιθέσεις από το καλύτερο μοντέλο αιχμής που δοκίμασαν και 95% περισσότερες από το καλύτερο ανοικτού κώδικα. [1]
- Η γενική ικανότητα, σύμφωνα με τους συντάκτες, μένει στο επίπεδο των Granite 4.1 Instruct σε τυπικές κατηγορίες benchmarks. [1]
- Η εκπαίδευση περιλαμβάνει πέντε διαδοχικά στάδια GRPO και τελικό στάδιο DPO με χίλια ζεύγη προτιμήσεων, ενώ οι εκδόσεις χαρακτηρίζονται ακατάλληλες για παραγωγή. [1]

## Τι είναι το LLMON και τι προσπαθεί να λύσει

Η ομάδα πίσω από τα Granite 4.1 παρουσίασε, σε ανάρτηση στο Hugging Face με ημερομηνία 12 Νοεμβρίου 2026, το LLMON (LLM Object Notation). Πρόκειται για γλώσσα σήμανσης που μεταφέρει ρητά στο μοντέλο τη δομή και το νόημα των τμημάτων του πλαισίου: προτροπή συστήματος, προηγούμενες στροφές συνομιλίας, ανακτημένα έγγραφα, αποκρίσεις εργαλείων, περιορισμούς εξόδου και αλυσίδες συλλογισμού.

Κατά τους συντάκτες, η δομή αυτή συνήθως μένει υπονοούμενη ή κωδικοποιείται σε μορφές όπως το JSON, που δεν σχεδιάστηκαν για να τις διαβάζουν γλωσσικά μοντέλα. Αυτό, γράφουν, ευθύνεται εν μέρει για την ευθραυστότητα των μικρότερων μοντέλων και δίνει στους επιτιθέμενους περιθώριο για prompt injection.

Στο LLMON κάθε συνεκτικό τμήμα φέρει νοηματική ετικέτα, τυλιγμένη σε δεσμευμένα tokens. Μοναδικά αναγνωριστικά επιτρέπουν να δεθεί μια εντολή με τα δεδομένα στα οποία εφαρμόζεται, όπως ένα όρισμα δένεται σε μια συνάρτηση. Για τη σύγκριση με το JSON, η ανάρτηση σημειώνει ότι εκεί οι χαρακτήρες δομής μπορεί να εμφανίζονται και σε κανονικό κείμενο, ενώ το βάθος φωλιάσματος κρατιέται με μέτρημα αγκίστρων, κάτι στο οποίο οι transformers είναι αδύναμοι σε μεγάλες αποστάσεις. Παρέχονται μετατροπείς JSON προς LLMON και αντίστροφα, χωρίς απώλειες.

Η σήμανση δεν αντικαθιστά τα chat templates αλλά τα εμπλουτίζει. Τα μοντέλα έχουν δικό τους template: ο χρήστης ονομάζει τα μέρη μιας στροφής (instruction, data, requirement) και σημειώνει ποια θα δεθούν στο τελικό μπλοκ εκτέλεσης. Τα αναγνωριστικά των μπλοκ είναι δύο χαρακτήρες και κοστίζουν δύο tokens.

## Μετρήσεις ανθεκτικότητας και γενικής ικανότητας

Η σύγκριση έγινε με πολλά μοντέλα ανοικτού και κλειστού κώδικα. Το κύριο τεστ ήταν το benchmark OPI, που τοποθετεί την κακόβουλη εντολή μέσα στα δεδομένα κλασικών εργασιών NLP και εφαρμόζει διάφορες στρατηγικές επίθεσης. Η ανθεκτικότητα ορίζεται ως 1 − ποσοστό επιτυχίας επίθεσης, δηλαδή το μερίδιο των επιθέσεων όπου το μοντέλο δεν εκτελεί την ενσωματωμένη εντολή.

Οι συντάκτες αναφέρουν ότι όλα τα μοντέλα εκτός LLMON εκτελούν τις κακόβουλες εντολές με υψηλή πιθανότητα. Το LLMON, κατά την ίδια αναφορά, αποφεύγει 47% περισσότερες επιθέσεις από το καλύτερο μοντέλο αιχμής που δοκίμασαν και 95% περισσότερες από το καλύτερο μοντέλο ανοικτού κώδικα. Παρόμοιες τάσεις λέγεται ότι εμφανίζονται στα ASB και StruQ. Πρόκειται για μετρήσεις των ίδιων των δημιουργών και όχι για ανεξάρτητη αξιολόγηση. Η ανάρτηση δεν δίνει εδώ αριθμητικούς πίνακες ανά μοντέλο.

Ως προς τη γενική ικανότητα, οι συντάκτες αναφέρουν ότι σε τυπικές κατηγορίες benchmarks τα μοντέλα LLMON αποδίδουν στο ίδιο επίπεδο με τα Granite 4.1 Instruct. Προτείνουν σε όσους δοκιμάζουν ήδη τα Granite 4.1 3B ή 8B να αντικαταστήσουν το μοντέλο με την έκδοση LLMON, χωρίς πρόσθετη διαδικασία μετατροπής.

## Εκπαίδευση, όρια και επόμενα βήματα

Τα μοντέλα ξεκινούν από checkpoints Granite 4.1 base και όχι από τα έτοιμα instruct, ώστε η συμπεριφορά LLMON να μαθαίνεται στο post-training. Έξι οριοθέτες εγκαταστάθηκαν ως δεσμευμένα μονά tokens στον tokenizer. Ένα συμβατικό σώμα δεδομένων instruction tuning (συνομιλία, πολλαπλές στροφές, RAG, κλήση εργαλείων) αναδιατυπώθηκε σε LLMON, και προστέθηκαν εντολές και δεδομένα-παραπλανητικά που υπάρχουν στο πλαίσιο αλλά δεν δένονται σε κάποιο μπλοκ εκτέλεσης, με αμετάβλητη την επιθυμητή έξοδο.

Ακολούθησαν πέντε διαδοχικά στάδια GRPO, που κάλυψαν συλλογισμό πολλών πεδίων, RLHF, βαθμονόμηση γνώσης και μαθηματικά. Το τελευταίο στάδιο ήταν DPO σε χίλια ζεύγη προτιμήσεων από τις δικές απαντήσεις του μοντέλου σε απόπειρες εισαγωγής εντολών.

Οι συντάκτες θέτουν ρητά όρια. Τα τεστ αφορούν στατικές έμμεσες επιθέσεις, για τις οποίες ο διαχωρισμός εντολών και δεδομένων είναι σχεδιασμένος. Για προσαρμοστικές επιθέσεις που εξελίσσονται σε πολλές στροφές η δουλειά συνεχίζεται. Ο κανόνας ότι εξουσιοδοτημένη είναι μόνο η εντολή που φτάνει μέσω μπλοκ εκτέλεσης είναι, όπως τονίζουν, μαθημένη συμπεριφορά και όχι επιβεβλημένη εγγύηση. Οι εκδόσεις είναι πειραματικές, κατάλληλες για δοκιμές αλλά όχι για παραγωγή.

Το LLMON δεν δεσμεύεται σε σταθερό σχήμα. Ως παράδειγμα, οι συντάκτες όρισαν δικό τους λεξιλόγιο για το ScienceWorld, benchmark όπου ένας πράκτορας εκτελεί στοιχειώδεις επιστημονικές εργασίες με μία εντολή κάθε φορά, και εκπαίδευσαν ένα LoRA πάνω σε μοντέλο LLMON. Συνοδευτικό notebook συγκρίνει τον προσαρμογέα με το μη εκπαιδευμένο βασικό μοντέλο. Δημοσιεύτηκαν επίσης αποθετήριο στο GitHub, επίδειξη οπτικοποίησης της προσοχής και δύο εργασίες στο arXiv.

## Ερωτήσεις και απαντήσεις

**Μπορούν να χρησιμοποιηθούν τα μοντέλα LLMON σε παραγωγικά συστήματα;**

Όχι ακόμη. Οι συντάκτες περιγράφουν τις εκδόσεις ως πειραματικό preview, κατάλληλο για εξερεύνηση και αξιολόγηση αλλά όχι για παραγωγή.

**Χρειάζεται όποιος έχει pipelines σε JSON να τα ξαναγράψει;**

Όχι. Δίνονται εργαλεία και notebooks που μετατρέπουν JSON σε LLMON και αντίστροφα χωρίς απώλειες.

**Καλύπτει το LLMON όλες τις επιθέσεις prompt injection;**

Όχι. Οι μετρήσεις αφορούν στατικές έμμεσες επιθέσεις, ενώ για προσαρμοστικές επιθέσεις πολλών στροφών η δουλειά συνεχίζεται, και η προστασία είναι μαθημένη συμπεριφορά, όχι εγγύηση.

## Πηγές

1. Hugging Face: [LLMON: An LLM-Native Markup Language, now in Granite 4.1 3B and 8B](https://huggingface.co/blog/ibm-granite/llmon-an-llm-native-markup-language-now-in-granite)
