Η NVIDIA ανακοίνωσε πρόσφατα το NVIDIA Open Agent Safety Platform, μια ανοιχτή πλατφόρμα λογισμικού και ένα reference system design που ενισχύει την ασφάλεια της Τεχνητής Νοημοσύνης, από τη δοκιμή των AI agents έως την ανάπτυξή τους, βοηθώντας τους οργανισμούς να διασφαλίζουν και να εποπτεύουν τα συστήματα αυτά καθώς αναλαμβάνουν ολοένα και περισσότερες αυτόνομες εργασίες.
Πρόκειται για τη σωστή κίνηση στην κατάλληλη χρονική στιγμή και η IBM είναι υπερήφανη που στηρίζει αυτή την προσπάθεια, από τη διαχείριση της ταυτότητας και των διαπιστευτηρίων των AI agents έως τις υποδομές, την αποθήκευση δεδομένων και το υβριδικό cloud. Η οικοδόμηση εμπιστοσύνης στους AI agents απαιτεί περισσότερα από τα guardrails των μοντέλων. Απαιτεί όλες αυτές οι δυνατότητες να λειτουργούν συνδυαστικά, μεταξύ άλλων με:
- IBM Agent Identity, που βρίσκεται επί του παρόντος σε Public Preview, και το HashiCorp Vault διασυνδέονται πλέον με το NVIDIA OpenShell™, παρέχοντας σε κάθε agent επαληθευμένη ταυτότητα και πρόσβαση μόνο στους πόρους που χρειάζεται.
- Το IBM Identity Protection βοηθά τους πελάτες να εντοπίζουν και να παρακολουθούν κάθε agent, συμπεριλαμβανομένων ακόμη και εκείνων που δεν γνώριζαν ότι υπήρχαν στο περιβάλλον τους.
- Το IBM Storage ενσωματώνει το NVIDIA BlueField-4 απευθείας σε επίπεδο hardware στο IBM Fusion, προσθέτοντας ένα ακόμη επίπεδο προστασίας για τα δεδομένα στα οποία αποκτούν πρόσβαση οι agents.
- Το Red Hat OpenShift παρέχει την πλατφόρμα για την εκτέλεση agents υπό διακυβέρνηση σε περιβάλλον hybrid cloud, με υποστήριξη για NVIDIA BlueField DPUs. Η Red Hat συνεργάζεται με τη NVIDIA για την ενσωμάτωση των BlueField™ και OpenShell™, τα οποία αποφορτίζουν και απομονώνουν τις υπηρεσίες δικτύωσης, ασφάλειας και άλλες υπηρεσίες υποδομής από τα workloads των tenants, παρέχοντας zero-trust ασφάλεια, ανίχνευση απειλών σε πραγματικό χρόνο, απομόνωση και προστασία κατά το runtime, απευθείας στα επίπεδα της υποδομής και του kernel.
Γιατί έχει σημασία τώρα;
Οι AI agents εξελίσσονται πολύ πέρα από τον ρόλο των απλών βοηθών. Μπορούν να εκτελούν εργασίες που διαρκούν για μεγάλο χρονικό διάστημα, να αποκτούν πρόσβαση σε συστήματα, να χρησιμοποιούν εργαλεία, να ενεργοποιούν άλλους agents και να λαμβάνουν αποφάσεις για λογαριασμό χρηστών και οργανισμών.
Αυτό δημιουργεί τεράστιες ευκαιρίες. Παράλληλα, όμως, εγείρει δύο θεμελιώδη ερωτήματα για κάθε οργανισμό που αναπτύσσει AI agents: Πώς επιτρέπεις σε έναν agent να ενεργεί για λογαριασμό σου χωρίς να χάνεις τον έλεγχο; Και πώς αποδεικνύεις τι ακριβώς έκανε;
Η απάντηση δεν μπορεί να βρίσκεται μόνο στο prompt.
Οι agents μπορούν να αγνοήσουν οδηγίες ή να παραβιαστούν μέσω επιθέσεων, όπως το prompt injection. Ο ουσιαστικός έλεγχος πρέπει να επιβάλλεται από το περιβάλλον γύρω από τον agent, από την ταυτότητα και τα διαπιστευτήρια έως το runtime, το δίκτυο, την υποδομή και το hardware.
Αυτή είναι η προσέγγιση που υιοθετεί η NVIDIA. Το NVIDIA OpenShell τοποθετεί τους agents σε ένα runtime που διέπεται από πολιτικές ελέγχου, ενώ το NVIDIA Sentry, αξιοποιώντας το NVIDIA DOCA στο NVIDIA BlueField-4, επαληθεύει την ταυτότητα των agents, επιβάλλει πολιτικές πρόσβασης σε δεδομένα, εργαλεία, APIs και υπηρεσίες και παρέχει attested telemetry για την παρακολούθηση της συμπεριφοράς των agents και τον εντοπισμό αποκλίσεων.
Το BlueField-4 παρέχει την απομονωμένη σε επίπεδο hardware και ανεξάρτητη από το host υποδομή πάνω στην οποία βασίζονται αυτές οι δυνατότητες. Το Sentry μπορεί να θέσει σε καραντίνα agents που επιχειρούν να κινηθούν εκτός των ορίων που έχουν καθοριστεί, μέσα σε χιλιοστά του δευτερολέπτου, συμβάλλοντας στον περιορισμό της εξάπλωσης μη εξουσιοδοτημένης δραστηριότητας. Οι μηχανισμοί ελέγχου παραμένουν ενεργοί ακόμη και σε περίπτωση παραβίασης του host ή του workload του agent.
Η IBM προσθέτει κρίσιμες enterprise δυνατότητες σε όλο αυτό το τεχνολογικό stack. Το Agent Identity και το HashiCorp Vault επιτρέπουν στους ανθρώπους να αναθέτουν εργασίες σε agents, να καθορίζουν την ταυτότητα κάθε agent, τα δικαιώματα που διαθέτει και τους πόρους στους οποίους μπορεί να αποκτήσει πρόσβαση. Το Red Hat OpenShift παρέχει τη βάση του υβριδικού cloud για τη συνεπή εκτέλεση αυτών των agents σε διαφορετικά περιβάλλοντα.
Το IBM Identity Protection προσφέρει στις ομάδες ασφάλειας ορατότητα στη δραστηριότητα των agents, συμπεριλαμβανομένων των shadow agents. Συνολικά, αυτές οι δυνατότητες συμβάλλουν ώστε οι ενέργειες των agents να είναι ιχνηλάσιμες, να περιορίζονται στα απολύτως απαραίτητα δικαιώματα και να μπορούν να ελέγχονται.
Και το κάνουμε αυτό με ανοιχτό τρόπο, ώστε οι πελάτες να έχουν επιλογές και να μπορούν να αξιοποιήσουν τις τεχνολογικές επενδύσεις που έχουν ήδη πραγματοποιήσει. Για τον ίδιο λόγο, η IBM συμμετείχε, μαζί με τη NVIDIA, ως ιδρυτικό μέλος της Open Secure AI Alliance, η οποία τελεί υπό τη διακυβέρνηση του Linux Foundation.
Το πρώτο κεφάλαιο της Τεχνητής Νοημοσύνης αφορούσε το τι μπορούν να κάνουν τα μοντέλα. Το επόμενο αφορά το τι μπορούν να εμπιστευτούν οι οργανισμοί στους AI agents να κάνουν.
