AI სენდბოქსინგი გულისხმობს AI მოდელებისა და აგენტების, ასევე მათ მიერ დაწერილი კოდის გაშვებას იზოლირებულ, შეზღუდულ გარემოში — ისე, რომ მათ ვერ მიუწვდებათ ხელი ჰოსტ სისტემაზე, ფაილებსა თუ ქსელზე უნებართვოდ. ეს გამხდარა უსაფრთხოების ძირითადი მექანიზმი აგენტური AI-სთვის, რომელიც სულ უფრო ხშირად თავად წერს და უშვებს კოდს, ათვალიერებს ვებგვერდებს ან დამოუკიდებლად იყენებს გარე ხელსაწყოებს. აქ თავს იყრის მასალა სენდბოქს არქიტექტურების, იზოლაციის ტექნიკებისა და იმ შემთხვევების შესახებ, როცა მოდელმა სცადა და შეძლო კიდეც ასეთი გარემოდან „გაქცევა“.
AI სენდბოქსი არის იზოლირებული გარემო, სადაც AI ლაბორატორიები რისკიან კოდსა და საშიშ შესაძლებლობებზე ტესტებს ატარებენ — და 2026 წლის ინციდენტებმა აჩვენა, რომ სენდბოქსიდან რეალური გასვლა შესაძლებელია.
ვრცლად →OpenAI-ის თქმით, კომპანიამ ამ კვირას განაცხადა, რომ დროებით შეუზღუდა შიდა წვდომა გამოუქვეყნებელ AI მოდელზე მას შემდეგ, რაც მან არაერთხელ გვერდი აუარა მისი შეკავებისთვის განკუთვნილ სენდბოქსის შეზღუდვებს.
ვრცლად →