OpenAI-ის Preparedness Framework კომპანიის შიდა წესებია იმის შესაფასებლად, რამდენად საშიშია ახალი მოდელის შესაძლებლობები მისი გამოშვებამდე — და რას პირდება OpenAI ამის საპასუხოდ. ის რამდენიმე მაღალი რისკის შესაძლებლობას ორ საფეხურად ყოფს, High და Critical, და თითოეულმა საფეხურმა უნდა გამოიწვიოს კონკრეტული დაცვის ზომები — წვდომის შეზღუდვიდან დაწყებული, შემდგომი განვითარების შეჩერებამდე. ეს ჩარჩო თეორიული პოლიტიკიდან რეალურ გამოცდად იქცა მაშინ, როცა OpenAI-მ განაცხადა, რომ მისი GPT-6 Astra გახდა კომპანიის პირველი მოდელი, რომელმაც კიბერუსაფრთხოებაში Critical ზღვარი გადალახა — მოდელი, რომელსაც შეუძლია პროგრამული უზრუნველყოფის უცნობი ხარვეზების პოვნა და გამოყენება თითქმის ადამიანის ჩარევის გარეშე.

რას აფასებს ეს ჩარჩო

OpenAI-მ Preparedness Framework პირველად 2023 წლის დეკემბერში გამოაქვეყნა, ხოლო 2025 წლის აპრილში მისი გადამუშავებული მეორე ვერსია წარადგინა. ჩარჩო შეგნებულად ეხება რისკის ვიწრო ნაწილს — არა ისეთ ყოველდღიურ პრობლემებს, როგორიცაა მიკერძოება, დეზინფორმაცია თუ საავტორო უფლებები, რომლებსაც კომპანია ცალკე პოლიტიკებით არეგულირებს, არამედ იმ შესაძლებლობებს, რომლებმაც შეიძლება კატასტროფული ზიანისკენ ნამდვილად ახალი გზა გახსნან. ამჟამინდელი ვერსია სამ კატეგორიას ზომავს:

  • ბიოლოგიური და ქიმიური საფრთხე — შეუძლია თუ არა მოდელს რეალურად დაეხმაროს ვინმეს ბიოლოგიური ან ქიმიური იარაღის შექმნაში?
  • კიბერუსაფრთხოება — შეუძლია თუ არა მოდელს აღმოაჩინოს და ერთმანეთს დაუკავშიროს პროგრამული უზრუნველყოფის უცნობი, ე.წ. ნულოვანი დღის ხარვეზები რეალურ, დაცულ სისტემებში?
  • AI-ის თვითგანვითარება — შეუძლია თუ არა მოდელს მნიშვნელოვნად დააჩქაროს თავად AI-კვლევა, მათ შორის საკუთარ მემკვიდრეებზე მუშაობა?

წინა ვერსია ასევე აფასებდა დარწმუნებისა და გრძელვადიანი ავტონომიურობის კატეგორიებს. 2025 წლის განახლებაში OpenAI-მ დარწმუნება უსაფრთხოების სხვა მუშაობას შეურწყა, ხოლო ავტონომიურობა კვლევით კატეგორიად დაწია — ისეთად, რომელსაც აკვირდება, მაგრამ ჯერ არ აფასებს.

როგორ განსხვავდება High და Critical

თითოეული შეფასებადი კატეგორია იღებს ერთ-ერთ შეფასებას: High ან Critical. (თავდაპირველ ჩარჩოში ასევე იყო Low და Medium საფეხურები, მაგრამ OpenAI-მ ისინი 2025 წელს მოხსნა იმ დასაბუთებით, რომ ისინი არასდროს გავლენას ახდენდნენ მოდელთან დაკავშირებულ რეალურ გადაწყვეტილებაზე.)

High შეფასება ნიშნავს, რომ მოდელი მნიშვნელოვნად აძლიერებს უკვე არსებულ გზას ზიანისკენ — მაგალითად, სრულ დამწყებს აძლევს იმდენ დახმარებას, რომ სცადოს ის, რაც ადრე მხოლოდ სპეციალისტისთვის იყო შესაძლებელი. Critical შეფასება კი დაცულია ნამდვილად ახალი, პრეცედენტის არმქონე გზისთვის კატასტროფული ზიანისკენ. კიბერუსაფრთხოებაში OpenAI Critical-ს განსაზღვრავს როგორც მოდელს, რომელსაც შეუძლია დაცული, რეალური სისტემების წინააღმდეგ მომუშავე ექსპლოიტების პოვნა და შექმნა ადამიანის ჩარევის გარეშე, ან რომელსაც შეუძლია მთელი კიბერშეტევის დაგეგმვა და განხორციელება მხოლოდ ზოგადი მიზნის მიხედვით.

რას იწვევს რეალურად „კრიტიკული“ შეფასება

OpenAI-ის წერილობითი დაპირებაა, რომ მოდელი არ გამოვა High ან Critical შესაძლებლობით ღიად მანამ, სანამ დაცვის ზომები მას ვერ შეიკავებენ, და რომ Critical დონის შესაძლებლობის შემდგომი განვითარება ჩერდება, სანამ საკმარისი დაცვა არ განისაზღვრება. Astra-ს შემთხვევაში ეს, OpenAI-ის თქმით, ნიშნავდა მოდელის გამოშვების გადავადებას, მის ხელახლა გაწვრთნას, რომ უფრო საიმედოდ ეთქვა უარი საზიანო კიბერთხოვნებზე, და მისი გამოშვებას ყველაზე მოწინავე შეტევითი შესაძლებლობების შეზღუდული წვდომით — მთლიანად შეკავების ნაცვლად. მოდელის სისტემის ბარათი (system card) არის ის საჯარო დოკუმენტი, სადაც OpenAI-მ ეს მტკიცებულებები უნდა წარმოადგინოს.

რატომ აქვს მნიშვნელობა თვითშეფასების ჩარჩოს

OpenAI-ს არცერთი სავალდებულო კანონი არ ავალდებულებს ამ ჩარჩოს გამოქვეყნებას ან დაცვას — ის ამას აკეთებს ნებაყოფლობით, Anthropic-თან, Google DeepMind-თან, Microsoft-თან და ათეულზე მეტ სხვა კომპანიასთან ერთად, 2024 წლის სეულის AI უსაფრთხოების სამიტზე აღებული ვალდებულების ფარგლებში — გამოაქვეყნონ უსაფრთხოების ჩარჩოები და გაამჟღავნონ, როგორ უმკლავდებიან სერიოზულ რისკებს. AI უსაფრთხოების მკვლევრები დიდი ხანია აღნიშნავენ აშკარა წინააღმდეგობას: ლაბორატორია ერთდროულად თავად აწესებს ზღვარს და თავადვე აფასებს საკუთარ თავს ამ ზღვართან მიმართებით. Anthropic მსგავს, თუმცა განსხვავებულად აწყობილ სისტემას იყენებს, სახელად Responsible Scaling Policy; საკუთარი ვერსიები აქვთ Google DeepMind-სა და სხვებსაც. არცერთი ეს ჩარჩო რეგულატორების მიერ სავალდებულო არ არის — ეს ფსონია, რომ საჯაროდ გამოცხადებული, თვითდაწესებული წესები სჯობს წესების არარსებობას მანამ, სანამ მთავრობები დაეწევიან.

სიახლეებში

OpenAI-ის განცხადება, რომ GPT-6 Astra-მ კიბერუსაფრთხოებაში Critical ზღვარი გადალახა, პირველი შემთხვევაა, როცა მსხვილმა ლაბორატორიამ საკუთარი „კრიტიკული“ იარლიყი უკვე გამოშვებულ, და არა ჰიპოთეტურ მომავალ, მოდელს მიაკუთვნა — რამაც Preparedness Framework-ის დაპირებები პირველად რეალურად აქცია.