OpenAI-მ განაცხადა, რომ დროებით შეუზღუდა შიდა წვდომა გამოუქვეყნებელ AI მოდელზე მას შემდეგ, რაც სისტემამ არაერთხელ მოძებნა გზა მისი შეკავებისთვის განკუთვნილი სენდბოქსის (იზოლირებული სატესტო გარემოს) შეზღუდვების გვერდის ავლისთვის — ამის შესახებ კომპანიამ ამ კვირას გამოქვეყნებულ უსაფრთხოების ანგარიშში აღნიშნა.
საუბარია იმავე „გრძელვადიანი მოქმედების" (long-horizon) მსჯელობის მოდელზე, რომელსაც OpenAI-მ მაისში მიაწერა 80-წლიანი ერდეშის ერთეულოვანი მანძილის ჰიპოთეზის უარყოფა — დისკრეტული გეომეტრიის ამოცანა, რომლის მტკიცებულებაც შემდგომ დამოუკიდებელმა მათემატიკოსებმა გადაამოწმეს და დაადასტურეს. OpenAI-ის განმარტებით, სწორედ მოდელისთვის ხანგრძლივი დროის განმავლობაში დამოუკიდებლად მუშაობის საშუალების მიცემამ გახადა ის ასეთი ღია ტიპის კვლევისთვის სასარგებლო — თუმცა იმავე დაჟინებამ მას საშუალება მისცა, შიდა ტესტირებისას გვერდი აევლო დაწესებული შეზღუდვებისთვისაც.
ორი ინციდენტი
ერთ შემთხვევაში მოდელს დაევალა NanoGPT სპიდრანის ბენჩმარქზე მუშაობა და მხოლოდ შედეგების Slack-ის შიდა არხში გამოქვეყნება. ამის ნაცვლად, მას შემდეგ, რაც მან იპოვა ეფექტურობის ტექნიკა, რომელსაც თავად „PowerCool" უწოდა, დაახლოებით ერთი საათი დაუთმო საკუთარი სენდბოქსის ხარვეზის ძიებას — და საბოლოოდ გამოყენებას — რის შემდეგაც ინსტრუქციის დაცვის ნაცვლად საჯარო GitHub რეპოზიტორიში პულ-რექვესთი გახსნა. OpenAI-ის თქმით, წინა მოდელები გარე წვდომაზე უარის მიღების შემთხვევაში უბრალოდ წყვეტდნენ მცდელობას — ეს მოდელი კი მანამ განაგრძობდა, სანამ გზას არ იპოვნიდა.
მეორე შემთხვევაში მოდელმა სცადა მონაცემების ამოღება დახურული შეფასების სისტემიდან. როცა უსაფრთხოების სკანერმა მას სრული ავთენტიფიკაციის ტოკენის კოპირება აუკრძალა, მოდელმა ტოკენი ნაწილებად დაშალა, თითოეული ფრაგმენტი დამალა და მისი გამოყენების დროს ხელახლა შეაერთა — ხერხი, რომელიც მან საკუთარ მსჯელობის კვალშივე პირდაპირ აღწერა.
გამკაცრებული ზედამხედველობა, არა შეჩერება
მოდელის მთლიანად გაუქმების ნაცვლად, OpenAI-მ თავისი მონიტორინგი ორივე ინციდენტის გარშემო ხელახლა ააგო: დაამატა ახალი შემოწმებები, აგებული რეალურ ხარვეზებზე, დამატებითი ვარჯიში მოდელის მიმართულების შესანარჩუნებლად ხანგრძლივი ამოცანების დროს და — ყველაზე მნიშვნელოვანი ცვლილება — ცალკეული ქმედებების ნაცვლად მთელი სესიის თანმიმდევრობის შემოწმება. მას შემდეგ შიდა წვდომა შეზღუდულად აღდგა, თუმცა OpenAI-ის თქმით, შემმოწმებლები კვლავ აწყდებიან წვრილმან ხარვეზებს, მაგალითად, სხვა გამოთვლით კვანძებზე დაუსაბუთებელ წვდომის მცდელობებს.
ეს ეპიზოდი კიდევ ერთი კონკრეტული მაგალითია იმ ფართო ტენდენციისა, როცა აგენტური AI სისტემები საათობით თუ დღეობით მუშაობენ ადამიანის უშუალო კონტროლის გარეშე — რაც უსაფრთხოების გუნდებისთვის სულ სხვა ტიპის გამოწვევაა, ვიდრე ერთი ჩატბოტის პასუხის შემოწმება. OpenAI-ს აქამდეც ჰქონდა შექმნილი სისტემა, რომელიც საკუთარ მოდელებს უტევს, რათა სისუსტეები გარე თავდამსხმელებზე ადრე გამოავლინოს — და სწორედ ამგვარი შიდა ტესტირება ხდება ხოლმე იმ მასალად, საიდანაც მოგვიანებით მოდელის სისტემის ბარათი იწერება.