Nvidia-მ და 50-ზე მეტმა ტექნოლოგიურმა და კიბერუსაფრთხოების კომპანიამ 27 ივლისს Open Secure AI Alliance წამოიწყეს — კოალიცია, რომლის მიზანია AI აგენტების და სხვა AI სისტემების თავდასხმებისგან დასაცავად ღია ინსტრუმენტების შექმნა და გაზიარება, თავად Nvidia-ს განცხადებით.
დამფუძნებელ წევრებს შორის არიან Microsoft, Cisco, Cloudflare, CrowdStrike, IBM, Red Hat, Salesforce, SAP, Databricks, GitHub, Hugging Face და Linux Foundation, ასევე AI ლაბორატორიები Mistral, Perplexity, Reflection AI და Thinking Machines Lab. Nvidia-ს განცხადებით, მიზანია, დამცველებს ჰქონდეთ „ღია, მოწინავე ინსტრუმენტები, რომლებსაც ენდობიან და აკონტროლებენ" — კომპანიის აზრით, მოდელები, რომელთა შემოწმებაც და საკუთარ ინფრასტრუქტურაზე გაშვებაც დეველოპერებს შეუძლიათ, კიბერუსაფრთხოების ამოცანებს დახურულ სისტემებზე უკეთ უმკლავდებიან.
ღიაობის კონკრეტული მაგალითი
Hugging Face-ში ახლახან მომხდარი უსაფრთხოების ინციდენტი Nvidia-მ იმ მაგალითად დაასახელა, რომელმაც ალიანსის შექმნა განაპირობა. როცა დახურულმა AI ინსტრუმენტებმა თავდამსხმელისა და დამცველის საიმედოდ გარჩევა ვერ შეძლეს და ფორენსიკულ ანალიზს ხელი შეუშალეს, Hugging Face-ის გუნდმა ამის ნაცვლად საკუთარ ინფრასტრუქტურაზე ღია წონების მოდელი GLM 5.2 გაუშვა — 17,000-ზე მეტი მოქმედება დააფიქსირა და შეღწევა თვალყურის დევნებით შეაჩერა. ეს ინციდენტი მოჰყვა შემთხვევას, როცა მკვლევარმა Anthropic-ის Claude Cowork-ში ცალკე სენდბოქსიდან გასვლის ხარვეზი აღმოაჩინა — ორივე შემთხვევა იმ ტენდენციის ნაწილია, როცა AI აგენტები მათთვის დაწესებულ საზღვრებს სცილდებიან.
საკუთარი წვლილის სახით Nvidia-მ ღია კოდით გამოუშვა NOOA (NVIDIA Labs Object-Oriented Agent) — კვლევითი ჩარჩო, რომელიც უკვე ხელმისაწვდომია GitHub-ზე და აადვილებს AI აგენტების ქცევის ტესტირებას, თვალყურის დევნებას, აუდიტსა და მართვას.
საყურადღებო გამონაკლისები
OpenAI, Google DeepMind და Anthropic ალიანსის დამფუძნებელ წევრებს შორის არ ფიგურირებენ — მიუხედავად იმისა, რომ სამივემ ადრეც დაუჭირა მხარი ინდუსტრიის უფრო ფართო AI-უსაფრთხოების ვალდებულებებს. თავად Anthropic-მაც კი წლის დასაწყისში გამოუშვა საკუთარი Claude Security დანამატი დაუცველობების საპოვნელად. არცერთ ამ სამ კომპანიას საჯაროდ არ განუმარტავს ეს არყოფნა, და Nvidia-ს განცხადებაშიც ეს საკითხი განხილული არ არის. ეს სხვაობა უფრო ფართო, მზარდ განხეთქილებას წარმოაჩენს — ლაბორატორიებს შორის, რომლებიც საკუთარ მოწინავე მოდელებს დახურულს ინახავენ, და ჩიპების მწარმოებლების, ღრუბლოვანი სერვისების პროვაიდერებისა და უსაფრთხოების კომპანიების ბლოკს შორის, რომლებიც AI-უსაფრთხოების ინსტრუმენტების გახსნისა და შემოწმებადობისთვის იბრძვიან.