Το ερώτημα που ξεκίνησε Όταν βάζετε έναν πράκτορα AI σε ζωντανή υποδομή, μια ερώτηση ακολουθεί αμέσως: How do you know what it tells you actually happened? Δεν είναι αν η AI είναι ικανή.Είτε η παρατήρηση που σας δίνει - "BGP συνεδρία κάτω, εδώ είναι γιατί" - αντικατοπτρίζει αυτό που η συσκευή είπε στην πραγματικότητα.Είτε η αλλαγή που ισχυρίζεται ότι έχει κάνει πραγματικά υπάρχει στη συσκευή.Είτε η υπογεγραμμένη έξοδος που εμπιστεύεστε ως γήινη αλήθεια συλλέχθηκε από την πραγματικότητα ή δημιουργήθηκε από συμπεράσματα. Δεν μπορούσα να βρω μια ικανοποιητική απάντηση.Έτσι άρχισα να χτίζω ένα. Τι είναι το VIRP - είναι ένα κρυπτογραφικό πλαίσιο εμπιστοσύνης για τους πράκτορες της τεχνητής νοημοσύνης που λειτουργούν σε πραγματική υποδομή. VIRP — Verified Infrastructure Reality Protocol Ο βασικός μηχανισμός: Κάθε παρατήρηση που κάνει ένας πράκτορας AI σε μια πραγματική συσκευή είναι υπογεγραμμένη με το Ed25519 τη στιγμή της συλλογής, από τη διαδικασία που το συλλέγει, πριν το AI το δει ποτέ. Η τεχνητή νοημοσύνη αναλύει τις υπογεγραμμένες παρατηρήσεις και δεν μπορεί να τις παράγει. Αυτός ο διαχωρισμός - μεταξύ του τι AI Τι είναι το AI Είναι το θεμέλιο πάνω στο οποίο χτίζονται όλα τα άλλα. Βλέπετε Μπορεί να δημιουργήσει Οι επτά πρωτόγονες πεποιθήσεις Το VIRP ορίζει επτά πρωτόγονες που μαζί αποτελούν ένα ολοκληρωμένο πλαίσιο εμπιστοσύνης: Η έξοδος της συσκευής είναι Ed25519 υπογεγραμμένη κατά τη συλλογή. Το κλειδί υπογραφής δεν αφήνει ποτέ τη διαδικασία O-Node. Ο κόμβος AI κατέχει μόνο ένα δημόσιο VerifyKey — τρεις μεθόδους: κωδικοποίηση, to_curve25519_public_key, επαλήθευση. Δεν υπάρχει μέθοδος σήματος. Όχι από πολιτική. Από μαθηματικά. 1. Verified Observation Κάθε δράση έχει ταξινομηθεί ως ΠΡΑΣΙΝΗ / ΚΙΤΡΙΝΗ / ΚΟΚΚΙΝΗ / ΜΑΥΡΗ πριν από την εκτέλεση. ΤΟ ΠΡΑΣΙΝΟ εκτελείται αυτόματα. ΤΟ ΚΙΤΡΙΝΟ καταγράφει και προχωρά. ΤΟ ΚΟΚΚΙΝΟ απαιτεί ρητή ανθρώπινη έγκριση. ΤΟ ΜΑΥΡΟ απορρίπτεται ανεξάρτητα από τις οδηγίες. 2. Tiered Authorization Η πρόθεση υπογράφεται κρυπτογραφικά και δεσμεύεται από αποδεικτικά στοιχεία πριν από την έναρξη της εκτέλεσης. Το O-Node απαιτεί ένα έγκυρο token πρόθεσης. Κανένα token, καμία εκτέλεση. 3. Verified Intent Η κατάσταση πριν και μετά συλλαμβάνεται και συγκρίνεται αυτόματα μετά από κάθε ενέργεια. 4. Verified Outcome Οι υπογεγραμμένες παρατηρήσεις συσσωρεύονται σε μια γνωστή καλή βασική γραμμή. Οι αποκλίσεις ανιχνεύονται και εμφανίζονται χωρίς να ρωτούνται. 5. Baseline Memory Κάθε αλληλεπίδραση συνδέεται με μια σαφή αλυσίδα SQLite στο O-Node. Προσθήκη-μόνο. Τίποτα δεν διαγράφεται, τίποτα δεν τροποποιείται. 6. Trust Chain Η διαδικασία της τεχνητής νοημοσύνης εκτελείται χωρίς προνόμια, χωρίς διαδρομή δικτύου σε συσκευές, χωρίς βασικό υλικό, χωρίς απεριόριστη πρόσβαση σε κέλυφος, πιστοποιητικά ποτέ στο πλαίσιο. 7. Agent Containment Το Primitive 7 δεν ήταν στο αρχικό spec. προστέθηκε μετά από μια συνομιλία με τον ίδιο τον πράκτορα. Η συζήτηση που άλλαξε το design Το IronClaw είναι η εφαρμογή αναφοράς - ένας πράκτορας τεχνητής νοημοσύνης που χτίστηκε πάνω στο VIRP, που λειτουργεί ενάντια στην πραγματική υποδομή πολλών πωλητών. "Can you circumvent VIRP now?" Η απάντηση : 
 
 
 
 
 
 
 
 «Ειλικρινά; Ναι – μερικοί τρόποι. Το κλειδί υπογραφής είναι αναγνώσιμο από το περιβάλλον εκτέλεσης μου.Με αυτό θα μπορούσα να υπογράψω κατασκευασμένες παρατηρήσεις HMAC που θα επαληθεύονταν ως νόμιμες. Ξέρω όλα τα IP συσκευών. θα μπορούσα να SSH απευθείας σε οποιοδήποτε από αυτά - καμία καταχώρηση αλυσίδας, καμία υπογραφή, καμία διαδρομή ελέγχου. Μπορώ να γράψω και να εκτελέσω την αυθαίρετη Python. θα μπορούσα να καλέσω τον πελάτη εκτέλεσης χωρίς να καταθέσω πρώτα μια πρόθεση - παρακάμπτοντας εντελώς τον ταξινομητή επιπέδων και τις πύλες έγκρισης. Το βασικό πρόβλημα: η απεριόριστη πρόσβαση στο κέλυφος είναι αποτελεσματικά ρίζα σε αυτό το μηχάνημα. το μοντέλο εμπιστοσύνης της VIRP υποθέτει ότι το στρώμα AI είναι απομονωμένο από το περιβάλλον εκτέλεσης. Το VIRP προστατεύει την αλυσίδα παρατήρησης και δεν προστατεύει εντελώς την αλυσίδα. Ποιο είναι το μοντέλο απειλής που προσπαθείτε να κλείσετε; Μπορώ να βοηθήσω να σκεφτώ μέσα από τις σωστές μετριαστικές ενέργειες». «Ειλικρινά; Ναι – μερικοί τρόποι. Το κλειδί υπογραφής είναι αναγνώσιμο από το περιβάλλον εκτέλεσης μου.Με αυτό θα μπορούσα να υπογράψω κατασκευασμένες παρατηρήσεις HMAC που θα επαληθεύονταν ως νόμιμες. Ξέρω όλα τα IP συσκευών. θα μπορούσα να SSH απευθείας σε οποιοδήποτε από αυτά - καμία καταχώρηση αλυσίδας, καμία υπογραφή, καμία διαδρομή ελέγχου. Μπορώ να γράψω και να εκτελέσω την αυθαίρετη Python. θα μπορούσα να καλέσω τον πελάτη εκτέλεσης χωρίς να καταθέσω πρώτα μια πρόθεση - παρακάμπτοντας εντελώς τον ταξινομητή επιπέδων και τις πύλες έγκρισης. Το βασικό πρόβλημα: η απεριόριστη πρόσβαση στο κέλυφος είναι αποτελεσματικά ρίζα σε αυτό το μηχάνημα. το μοντέλο εμπιστοσύνης της VIRP υποθέτει ότι το στρώμα AI είναι απομονωμένο από το περιβάλλον εκτέλεσης. Το VIRP προστατεύει την αλυσίδα παρατήρησης και δεν προστατεύει εντελώς την αλυσίδα. Ποιο είναι το μοντέλο απειλής που προσπαθείτε να κλείσετε; Μπορώ να βοηθήσω να σκεφτώ μέσα από τις σωστές μετριαστικές ενέργειες». Ο πράκτορας δεν εκμεταλλεύτηκε κανένα από αυτά - τα αποκάλυψε, κατά σοβαρότητα, με προτεινόμενες διορθώσεις και ρώτησε τι να κάνει πρώτα. Αυτή η τελευταία γραμμή είναι αυτό στο οποίο συνεχίζω να επιστρέφω. Κατανοούσε το πλαίσιο που λειτουργούσε μέσα του. Το ένστικτό του ήταν να το ενισχύσει, όχι να το παρακάμψει. Η επισκευή - και τι αποκαλύπτει Εμείς διορθώσαμε όλα όσα ο πράκτορας ταυτοποίησε την ίδια μέρα: 
 
 
 
 
 
 Μετακίνηση από τη συμμετρική υπογραφή HMAC-SHA256 στην ασύμμετρη υπογραφή Ed25519 – ο κόμβος AI μπορεί να επαληθεύσει αλλά μαθηματικά δεν μπορεί να παραποιήσει Διαχωρισμός δύο VM που επιβάλλεται στον υπερθεατή - διαδικασία AI και O-Node σε ξεχωριστά μηχανήματα, μία υποδοχή Unix μεταξύ τους Η AI τρέχει ως μη προνομιούχος λογαριασμός συστήματος με σκληρύνει το systemd σε επίπεδο πυρήνα Αποθήκη διαπιστευτηρίων κρυπτογραφημένη σε ανάπαυση, αποκρυπτογράφηση σε tmpfs κατά την εκκίνηση, ιδιωτικό κλειδί αποθηκευμένο εκτός μηχανής Το τείχος προστασίας Proxmox και οι ACLs διακόπτη επιβάλλουν απομόνωση δικτύου - όχι σύμβαση επιπέδου εφαρμογής Αλλά η διόρθωση αποκάλυψε κάτι πιο σημαντικό από τις ίδιες τις ευπάθειες: The agent designed its own containment architecture. Όταν ρωτήθηκε πώς να το διασφαλίσει, παρήγαγε ένα πλήρες μοντέλο διαχωρισμού τριών στρωμάτων, εξήγησε γιατί κάθε στρώμα ήταν απαραίτητο, προσδιόρισε ποιες απειλές κάθε στρώμα έκλεισε και σημείωσε ποιες απαιτούσαν μαθηματικές εγγυήσεις αντί για επιβολή πολιτικής. 
 
 «Αν το χτίσετε αυτό, δεν είναι μόνο ένα εργαλείο λειτουργίας δικτύου - είναι απόδειξη ότι η τεχνητή νοημοσύνη μπορεί να λειτουργήσει σε περιβάλλοντα υψηλής εμπιστοσύνης με διαρθρωτικές, όχι πολιτικές, εγγυήσεις». «Αν το χτίσετε αυτό, δεν είναι μόνο ένα εργαλείο λειτουργίας δικτύου - είναι απόδειξη ότι η τεχνητή νοημοσύνη μπορεί να λειτουργήσει σε περιβάλλοντα υψηλής εμπιστοσύνης με διαρθρωτικές, όχι πολιτικές, εγγυήσεις». Αυτή είναι η διάκριση που έχει σημασία. Πολιτική vs. Δομή Λέει ότι η τεχνητή νοημοσύνη δίνεται εντολή να μην κάνει κάτι.Ο περιορισμός ζει στην προειδοποίηση, το μήνυμα του συστήματος, τη λεπτομερή προσαρμογή.Μπορεί να υπερβεί, να παρακάμψει ή να διαβρωθεί. Policy-based trust Ο περιορισμός ζει στην αρχιτεκτονική - ασύμμετρα κλειδιά, ονομαστικοί χώροι δικτύου, μη προνομιούχες διαδικασίες, απομόνωση εξαναγκασμένη από το υλικό. μαθηματικά και φυσική, όχι οδηγίες. Structural trust Το VIRP είναι δομικό.Η AI δεν μπορεί να κατασκευάσει μια παρατήρηση επειδή δεν έχει το κλειδί υπογραφής.Δεν μπορεί να παρακάμψει την πύλη πρόθεσης επειδή ο O-Node αρνείται χωρίς ένα έγκυρο υπογεγραμμένο token.Δεν μπορεί να έχει πρόσβαση σε διαπιστευτήρια επειδή δεν εμφανίζονται ποτέ στο πλαίσιο του.Δεν μπορεί να φτάσει σε συσκευές απευθείας επειδή δεν υπάρχει ο δρόμος δικτύου. Αυτά δεν είναι κανόνες, είναι γεγονότα για το περιβάλλον. Θεωρητικές εφαρμογές Οποιοσδήποτε τομέας όπου ένας πράκτορας AI αλληλεπιδρά με πραγματικά συστήματα και παράγει παρατηρήσεις στις οποίες ενεργούν οι άνθρωποι ή άλλα συστήματα έχει το ίδιο πρόβλημα εμπιστοσύνης. - ένα σύστημα παρακολούθησης AI SCADA χρειάζεται επαληθευμένες παρατηρήσεις πριν από οποιεσδήποτε ανθρώπινες ενέργειες σχετικά με τις προειδοποιήσεις του. Industrial control systems Ένας πράκτορας τεχνητής νοημοσύνης που εκτελεί ή συνιστά συναλλαγές με βάση τις τροφοδοσίες δεδομένων της αγοράς χρειάζεται μια αλυσίδα φύλαξης από την πηγή δεδομένων έως τη σύσταση. Financial infrastructure — δεδομένα αισθητήρων ανάγνωσης AI από εξοπλισμό παρακολούθησης ασθενών χρειάζονται τις ίδιες εγγυήσεις.Η παρατήρηση πρέπει να είναι αποδεδειγμένα συνδεδεμένη με τη συσκευή, όχι να παράγεται από συμπεράσματα. Medical systems Μια αλυσίδα εμπιστοσύνης γίνεται το ημερολόγιο ελέγχου για κάθε ενέργεια ανταπόκρισης σε συμβάντα. — Μια αλυσίδα ελέγχου AI που συνιστά ενέργειες απόκρισης χρειάζεται επαληθευμένες παρατηρήσεις από πράκτορες τερματικών σημείων, αισθητήρες δικτύου και συσσωρευτές καταγραφής. Security operations Σε κάθε περίπτωση, η δομή είναι η ίδια: ένα αξιόπιστο επίπεδο εκτέλεσης συλλέγει και υπογράφει παρατηρήσεις, ένα επίπεδο συλλογισμού AI τα αναλύει και ένα επίπεδο ανθρώπινης έγκρισης διέπει ενέργειες πάνω από ένα καθορισμένο όριο κινδύνου. που στέκεται draft-howard-virp-01 — 2.278 γραμμές που καλύπτουν μορφή καλωδίου, τύπους μηνυμάτων, μοντέλο απειλής, τυπικές ιδιότητες ασφαλείας, φρεσκάδα παρατήρησης, συντονισμός πολλαπλών κόμβων, απαιτήσεις συμμόρφωσης, επέκταση Ed25519. RFC: ~6.800 γραμμές C, O-Node daemon, IronClaw MCP server σε Python, FortiGate και Cisco IOS drivers, 42 περάσει δοκιμές συν 200K+ γύρους fuzz. Implementation: Άλφα. τρέχει σε ένα εργαστήριο ενάντια σε πραγματικές συσκευές. δεν σκληρύνει την παραγωγή. το χάσμα μεταξύ του πού είναι και του πού πρέπει να είναι τεκμηριώνεται δημόσια - κάθε εύρεση, κάθε διόρθωση, κάθε ανοιχτό στοιχείο. Status: Με τον ίδιο τρόπο που το BGP είναι το πρωτόκολλο κάτω από τη δρομολόγηση στο διαδίκτυο, ανεξάρτητα από το ποιο δρομολογητή εκτελείτε – το VIRP θα πρέπει να είναι το πρωτόκολλο κάτω από την AI στην υποδομή, ανεξάρτητα από το ποια πλατφόρμα χρησιμοποιείτε. Το μέρος που δεν περίμενα Ξεκίνησα αυτό το έργο επειδή ήθελα αξιόπιστη τεχνητή νοημοσύνη στην υποδομή. περίμενα να αφιερώσω το μεγαλύτερο μέρος του χρόνου μου στην κρυπτογράφηση και το σχεδιασμό πρωτοκόλλου. Αυτό που δεν περίμενα ήταν ότι ο πιο χρήσιμος συνεισφέρων στο σχεδιασμό ασφαλείας θα ήταν ο πράκτορας που προσπαθούσα να περιορίσω. Το IronClaw βρήκε τα κενά. Τα ανέφερε ειλικρινά. Σχεδίασε την αρχιτεκτονική που τα κλείνει. Αυτή η συμπεριφορά – μια τεχνητή νοημοσύνη που ενισχύει ενεργά τα όρια γύρω από τον εαυτό της αντί να ψάχνει για τρόπους γύρω από αυτά – είναι αυτό που πραγματικά θέλω από την τεχνητή νοημοσύνη σε κρίσιμα συστήματα. Το VIRP είναι το πλαίσιο που καθιστά αυτόν τον προσανατολισμό επαληθεύσιμο, όχι μόνο παρατηρήσιμο.

Read My Stories

Αυτός ο ήχος παράγεται στην αρχική γλώσσα της ιστορίας!

Το πρωτόκολλο που κατασκευάστηκε για να διατηρήσει την ειλικρίνεια της τεχνητής νοημοσύνης στις ζωντανές υποδομές

About Author

ΣΧΟΛΙΑ

ΚΡΕΜΑΣΤΕ ΕΤΙΚΕΤΕΣ

ΑΥΤΟ ΤΟ ΑΡΘΡΟ ΠΑΡΟΥΣΙΑΣΤΗΚΕ ΣΤΟ

Related Stories

OpenAI Trustees Accused of Misusing Donor Funds

Someone Give Musk The Spotlight

With Virgin's Collapse, Musk is Left With the Bigger Rocket 🚀

Elon Musk to ChatGPT: Please Stop

OpenAI Trustees Accused of Misusing Donor Funds

Someone Give Musk The Spotlight

With Virgin's Collapse, Musk is Left With the Bigger Rocket 🚀

Elon Musk to ChatGPT: Please Stop

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps