Kad runājam par mākslīgo intelektu, parasti iedomājamies čatbotu, kuram uzdod jautājumu un saņemam atbildi. Taču MI pamazām kļūst patstāvīgāks. Tā sauktie MI aģenti var ne tikai atbildēt, bet arī paši veikt vairākus uzdevumus, izmantot programmas, piekļūt datiem un sazināties ar citām sistēmām.Tas paver daudz plašākas iespējas, taču vienlaikus rodas arī jauns drošības jautājums: kā kontrolēt sistēmu, kurai ļauts pašai rīkoties? 28.septembrī NVIDIA paziņoja par Open Agent Safety Platform – atvērtu programmatūras platformu un sistēmas arhitektūru, kas paredzēta MI aģentu darbības kontrolei no testēšanas līdz ieviešanai. NVIDIA risinājums apvieno programmatūras, skaitļošanas infrastruktūras un aparatūras drošības slāņus.
Drošības robeža pašam MI aģentam
Viens no jaunās platformas galvenajiem elementiem ir OpenShell – atvērtā koda programmatūra, kas izveido drošu izpildes vidi MI aģentiem. Tā ļauj izsekot aģenta darbībām un piemērot noteiktas drošības politikas. Piemēram, var noteikt, kādiem datiem, rīkiem, API vai pakalpojumiem aģents drīkst piekļūt.Svarīgi, ka šī kontrole atrodas ārpus paša MI modeļa. Tātad drošība nav atkarīga tikai no tā, vai aģents pareizi “saprot” tam dotos norādījumus.OpenShell pašlaik paredzēts darbam ar NVIDIA Vera procesoriem, taču NVIDIA norāda, ka atvērtā koda programmatūru var paplašināt arī darbam ar Arm un Intel platformām.
Vēl viens drošības slānis atrodas aparatūrā
NVIDIA jaunajā sistēmas arhitektūrā ir arī Sentry – uzraudzības risinājums, kas darbojas uz NVIDIA BlueField-4 DPU. Sentry ir paredzēts kā neatkarīgs aģenta darbības uzraudzības slānis, kas darbojas atsevišķā uzticamības vidē. Ja aģents mēģina izkļūt ārpus tam noteiktajām robežām, Sentry var to izolēt jeb ievietot karantīnā un apturēt milisekundēs, norāda NVIDIA. Sentry izmanto arī NVIDIA DOCA programmatūru, lai pārbaudītu aģenta pieprasījumus un atbildes, pārbaudītu tā identitāti un piemērotu piekļuves noteikumus datiem, rīkiem, API un pakalpojumiem. Vienkāršāk sakot, NVIDIA veido vairākus drošības slāņus. Viens nosaka, ko MI aģents drīkst darīt, bet otrs neatkarīgi pārbauda, vai tas šīs robežas ievēro.
MI aģentiem uztic arvien sarežģītākus uzdevumus
Šāda pieeja kļūst aktuāla tāpēc, ka MI aģentiem tiek uzticēti arvien praktiskāki uzdevumi. NVIDIA norāda, ka ar Open Agent Safety Platform tehnoloģijām jau strādā vairāk nekā 100 organizāciju, tostarp Anthropic, Microsoft, Cisco, CrowdStrike, Hugging Face, SAP, Salesforce un ServiceNow. Ar OpenShell strādā arī robotikas uzņēmumi Figure, Gecko Robotics un Skild AI. Piemēram, Salesforce un NVIDIA ir integrējuši OpenShell ar Slack. Tas ļauj komandām pārraudzīt MI aģentu darbības un audita notikumus, kā arī apstiprināt vai noraidīt aģenta pieprasījumus pēc papildu atļaujām. Robotikā jautājums kļūst vēl interesantāks. Ja MI aģents darbojas ne tikai datorā, bet vada sistēmu, kas kaut ko dara fiziskajā pasaulē, kļūst svarīgi kontrolēt ne tikai tā atbildes, bet arī reālās darbības.
No “ko MI saka?” uz “ko MI drīkst darīt?”
NVIDIA jaunums parāda arī plašāku pārmaiņu MI attīstībā. Kamēr mākslīgais intelekts galvenokārt atbildēja uz jautājumiem, galvenais bija pārbaudīt, vai atbilde ir pareiza. MI aģentu gadījumā ar to vairs nepietiek. Ja sistēmai tiek dota iespēja pašai izmantot rīkus, piekļūt datiem un veikt darbības, jābūt skaidri noteiktam, kur šīs iespējas beidzas. Tieši to NVIDIA mēģina risināt ar Open Agent Safety Platform – drošības kontroli veidojot ne tikai pašā MI modelī, bet arī programmatūras un aparatūras līmenī. MI kļūst arvien patstāvīgāks. Līdz ar to tehnoloģiju pasaulē arvien svarīgāks kļūst ne tikai jautājums, cik daudz MI spēj izdarīt, bet arī, kurā brīdī tam jāapstājas.
Avots: NVIDIA, 28.09.2026.
