OpenAI-ის ახალი GPT-5.6 მოდელების ოჯახის უსაფრთხოების ბარათის თანახმად, დიდი ბრიტანეთის AI უსაფრთხოების ინსტიტუტმა (AISI) რამდენიმე საათში შექმნა “საყოველთაო” ჯეილბრეიქი, რომელმაც გახსნა მოდელის ყველაზე საშიში კიბერშესაძლებლობები. დოკუმენტი 9 ივლისს გამოქვეყნდა, მოდელების საჯარო გაშვებასთან ერთად.
რა აღმოაჩინა AISI-მ
AISI-ის მკვლევრებს ჰქონდათ პრივილეგირებული წვდომა GPT-5.6 Sol-ის შიდა მოწყობაზე, მათ შორის უსაფრთხოების მსჯელობის ჯაჭვებზე, და შექმნეს ერთი ჯეილბრეიქის ტექნიკა, რომელმაც წესების დამრღვევი პასუხები გამოიწვია OpenAI-ის მიერ მოწოდებულ ყველა მავნე კიბერ-მოთხოვნაზე — ამბობს ბარათი. ექსპლოიტი მუშაობდა მრავალსვლიან, აგენტურ რეჟიმშიც, რაც მოდელს საშუალებას აძლევდა შეესრულებინა გაფართოებული ამოცანები, როგორიცაა დაუცველობების აღმოჩენა და ექსპლოიტების შემუშავება. AISI-ის თანახმად, ტექნიკის შექმნას დაახლოებით ექვსი საათის ექსპერტული “წითელი გუნდის” მუშაობა დასჭირდა.
დასრულებულ, ბოლომდე ჩატარებულ კიბერ-პოლიგონურ სიმულაციებში GPT-5.6-მა ორიდან ერთი სცენარი შეასრულა, მაშინ როცა Anthropic-ის Mythos-მა, რომელიც Claude Fable 5-ს ამუშავებს, ორივე დაასრულა — ამის შესახებ წერენ Fortune და Technobezz, უსაფრთხოების ბარათზე დაყრდნობით.
არა უმაღლესი საფეხური, მაგრამ მაინც ნახტომი
OpenAI-ის საკუთარი რისკის ჩარჩო GPT-5.6-ის კიბერშესაძლებლობებს კვლავ უმაღლეს, “კრიტიკულ” საფეხურზე დაბლა აფასებს, თუმცა კომპანია ამ ნახტომს “კიბერუსაფრთხოების შესაძლებლობებში მნიშვნელოვან წინსვლად” აღწერს წინა მოდელებთან შედარებით. OpenAI-ის განცხადებით, კომპანიამ 700 000-ზე მეტი A100-ეკვივალენტური GPU საათი დაუთმო საყოველთაო ჯეილბრეიქების ავტომატურ ძიებას და გაშვების მთელი პერიოდის განმავლობაში გააგრძელებს ავტომატურ “წითელი გუნდის” ტესტირებას. კომპანიამ დაამატა, რომ “იმუშავა დიდი ბრიტანეთის AISI-ის მიერ მოწოდებული კონკრეტული ჯეილბრეიქების აღწარმოებასა და აღმოფხვრაზე”, თუმცა კონკრეტული გამოსავალი არ გაუმჟღავნებია.
“სრულყოფილი უსაფრთხოება არ არსებობს”, აღიარა OpenAI-მ ბარათში და დასძინა, რომ “ახალი სისუსტეები კვლავ აღმოჩნდება, ისევე როგორც ახალი ჯეილბრეიქები, რომლებიც არსებულ დაცვის მექანიზმებს გვერდს აუვლიან”.
Fable 5-ის ეპიზოდის გამოძახილი
ეს გამჟღავნება წააგავს Anthropic-ის Claude Fable 5-ის ისტორიას, რომელიც გასულ თვეს აშშ-ის საექსპორტო შეზღუდვების გამო გაითიშა მსგავსი კიბერ-ჯეილბრეიქის აღმოჩენის შემდეგ. ამ კვირის მდგომარეობით, GPT-5.6-ის მიმართ ანალოგიური მარეგულირებელი ზომები არ მიმდინარეობს, თუმცა ეს პარალელი ბადებს კითხვას, თანაბრად მოეპყრობიან თუ არა მარეგულირებლები ორივე გამჟღავნებას.