AI უსაფრთხოების ინსტიტუტი სამთავრობო უწყებაა, რომელიც მძლავრ AI მოდელებს საშიშ შესაძლებლობებზე ამოწმებს — ისე, როგორც დიდი ბრიტანეთის AI Security Institute-მა ახლახან აღმოაჩინა „საყოველთაო ჯეილბრეიქი" OpenAI-ის GPT-5.6-ში — და თავის დასკვნებს პოლიტიკის შემქმნელებს და, ხშირად, თავად მოდელის შემქმნელ კომპანიასაც აწვდის. დღეს ამგვარი ინსტიტუტი დაახლოებით ათეულ ქვეყანას აქვს.

რას აკეთებს სინამდვილეში AI უსაფრთხოების ინსტიტუტი

ინსტიტუტების საქმიანობა სამ ძირითად მიმართულებას მოიცავს:

  1. მოწინავე მოდელების ტესტირება. ინსტიტუტები ატარებენ სტრუქტურირებულ რედ-თიმინგს ყველაზე შესაძლებლობებიან AI სისტემებზე — გამოშვებამდეც და მის შემდეგაც. ტესტერები ცდილობენ, აიძულონ მოდელი, დაეხმაროს კიბერშეტევებში, იარაღის შემუშავებაში ან სხვა საზიანო ამოცანებში, მისი უსაფრთხოების წვრთნის მიუხედავად — ეს პროცესი უფრო უსაფრთხოების აუდიტს ჰგავს, ვიდრე პროდუქტის მიმოხილვას.
  2. კვლევა იმაზე, რისი გაკეთებაც სინამდვილეში შეუძლია AI-ს. ხარვეზების ძიების გარდა, ინსტიტუტები დროთა განმავლობაში ზომავენ მოდელების რეალურ შესაძლებლობებს — მაგალითად, რამდენად გაუმჯობესდნენ ისინი მომუშავე საექსპლუატაციო კოდის დაწერაში — და შედეგებს აქვეყნებენ, რათა პოლიტიკის შემქმნელები არ იყვნენ დამოკიდებული მხოლოდ დამამზადებელი კომპანიის განცხადებებზე.
  3. მთავრობის კონსულტირება. დასკვნები გავლენას ახდენს საექსპორტო კონტროლის გადაწყვეტილებებზე, შესყიდვების წესებზე და ნებისმიერ სავალდებულო AI კანონმდებლობაზე, როგორიც არის EU AI Act.

ამით ინსტიტუტი კლასიკური მარეგულირებელი არ ხდება. მას არ შეუძლია კომპანიის დაჯარიმება ან პროდუქტის გამოშვების დაბლოკვა. მისი გავლენა უფრო დამოუკიდებელი აუდიტორის მსგავსია: აქვეყნებს იმას, რასაც აღმოაჩენს, და კომპანიები რეაგირებენ, რადგან დასკვნა საჯარო და სანდოა.

საიდან გაჩნდა ეს იდეა

მოდელი დიდი ბრიტანეთიდან და აშშ-დან იღებს სათავეს — ორივემ საკუთარი ინსტიტუტი 2023 წლის ნოემბერში, ბლეჩლი პარკში გამართული პირველი გლობალური AI უსაფრთხოების სამიტის დროს დააარსა. დიდი ბრიტანეთის ინსტიტუტი ადრინდელი Frontier AI Taskforce-დან გამოვითარდა; აშშ-ის ვერსია კი შეიქმნა სტანდარტებისა და ტექნოლოგიების ეროვნული ინსტიტუტის (NIST) შიგნით. სწორედ იმ სამიტზე რამდენიმე წამყვანმა AI ლაბორატორიამ — მათ შორის OpenAI-მ, Google DeepMind-მა და Anthropic-მა — დათანხმდნენ, საჯარო გამოშვებამდე ადრეული წვდომა მიეცათ დიდი ბრიტანეთისა და აშშ-ის ინსტიტუტებისთვის.

ექვსი თვის შემდეგ, 2024 წლის მაისში სეულში გამართულ AI სამიტზე, მონაწილე მთავრობები შეთანხმდნენ, გაეერთიანებინათ თავიანთი ინსტიტუტები საერთაშორისო ქსელში, რათა უსაფრთხოების ტესტირება ყოველ ქვეყანაში ცალ-ცალკე არ გამოეგონებინათ. დღეს ქსელის წევრები არიან დიდი ბრიტანეთი, აშშ, იაპონია, საფრანგეთი, გერმანია, იტალია, სინგაპური, სამხრეთ კორეა, ავსტრალია, კანადა, ევროკავშირი და, უფრო ახლახან, კენია და ინდოეთი.

ერთი იდეა, სხვადასხვა სახელი

ინსტიტუტები ერთმანეთის იდენტური არ არის. დიდი ბრიტანეთისა, დღეს წოდებული AI Security Institute-ად (2025 წელს „უსაფრთხოებიდან" — Safety-დან — „უსაფრთხოებაზე" — Security-ზე გადაერქვა, კიბერ და ბიოლოგიური რისკების ხაზგასასმელად), საქმიანობს მეცნიერების, ინოვაციისა და ტექნოლოგიების დეპარტამენტის ფარგლებში, წლიური დაახლოებით £66 მილიონიანი დაფინანსებითა და £1.5 მილიარდზე მეტი გამოთვლითი სიმძლავრის ხელმისაწვდომობით. აშშ-ის ანალოგი 2025 წლის ივნისში Center for AI Standards and Innovation-ად (CAISI) გადაერქვა — მისი მისია უსაფრთხოებაზე ორიენტირებული შეფასებიდან „ინოვაციისადმი მეგობრულ" ნებაყოფლობით სტანდარტებზე გადავიდა, თუმცა ეროვნული უსაფრთხოების ტესტირების ფუნქცია შეინარჩუნა. იაპონიისა და სინგაპურის ინსტიტუტები, სხვებთან ერთად, დიდწილად დიდი ბრიტანეთის მოდელს მიჰყვებიან — მცირე ტექნიკური გუნდი მთავრობის შიგნით, რომელიც პირდაპირ, ფორმალური რეგულაციის გარეშე თანამშრომლობს AI ლაბორატორიებთან.

რატომ აქვს მნიშვნელობა

ამგვარი ინსტიტუტების გაჩენამდე, საზოგადოებისთვის ხელმისაწვდომი ინფორმაცია მოწინავე მოდელის უსაფრთხოებაზე მხოლოდ თავად დამამზადებელი კომპანიისგან მოდიოდა — ეს ინტერესთა კონფლიქტს ქმნის, რადგან ერთი და იგივე ლაბორატორია წყვეტდა როგორც მოდელის გამოშვებას, ისე იმას, გაემხილა თუ არა მისი ხარვეზები. AI უსაფრთხოების ინსტიტუტები სწორედ ამ წრის გასარღვევად არსებობს — დამოუკიდებელი, ტექნიკურად კომპეტენტური ტესტერის სახით, რომელსაც გამოშვების თარიღში კომერციული ინტერესი არ აქვს.

ეს დამოუკიდებლობა ამავდროულად მისი უდიდესი შეზღუდვაცაა. რადგან მონაწილეობა ნებაყოფლობითია და ინსტიტუტებს იძულების ბერკეტი არ გააჩნიათ, ლაბორატორიას შეუძლია უარი თქვას ადრეულ წვდომაზე ან ცუდი დასკვნის მიუხედავად მაინც გამოუშვას მოდელი. რასაც ინსტიტუტებმა კარგად შეძლეს, არის საკმარისი საჯარო ზეწოლისა და დოკუმენტირებული კვალის შექმნა, რომ ლაბორატორიები ჩვეულებრივ ასწორებენ აღმოჩენილს, ხოლო მთავრობები დასკვნებს მოგვიანებით უფრო მკაცრი წესების გასამართლებლად იყენებენ.

სიახლეებში

ეს დინამიკა 2026 წლის ივლისში პირდაპირ გამოვლინდა, როცა დიდი ბრიტანეთის AI Security Institute-მა OpenAI-ის GPT-5.6-ში „საყოველთაო ჯეილბრეიქის" აღმოჩენა დააფიქსირა — გზა, რომელმაც მოდელს დაცვის მექანიზმები ისე გამოაცალა, რომ მან პროგრამული ხარვეზის უბრალო აღწერიდან მისი ავტონომიურად დაწერასა და გაშვებამდე გადავიდა. AISI-ის ტესტერებმა ჯეილბრეიქი, გავრცელებული ინფორმაციით, რამდენიმე საათში იპოვეს. ეს ზუსტად ის ტიპის აღმოჩენაა, რომლისთვისაც ინსტიტუტის მოდელია აგებული: დამოუკიდებელი, საჯარო და ისეთი, რომლის იგნორირებაც დამამზადებელ კომპანიას გაუჭირდება.

ხშირად დასმული კითხვები

AI უსაფრთხოების ინსტიტუტი მარეგულირებლის იგივეობრივია?
არა. მას არ აქვს კომპანიის დაჯარიმების ან გამოშვების დაბლოკვის უფლებამოსილება. ის აფასებს და აქვეყნებს დასკვნებს; აღსრულება, სადაც საერთოდ არსებობს, ცალკე კანონებიდან — მაგალითად, EU AI Act-იდან — მოდის.

AI კომპანიები ვალდებულნი არიან, მოდელები ტესტირებისთვის წარადგინონ?
უმეტესწილად — არა, კანონით. მონაწილეობა დიდწილად ნებაყოფლობითია და ეფუძნება ისეთ ვალდებულებებს, როგორიც ბლეჩლი პარკის სამიტზე იქნა აღებული, და არა სავალდებულო კანონმდებლობას.

რედ-თიმინგი იგივეა, რასაც AI უსაფრთხოების ინსტიტუტი აკეთებს?
რედ-თიმინგი — სისტემის განზრახ შეტევა მისი სისუსტეების საპოვნელად — ერთ-ერთი ინსტრუმენტია, რომელსაც ინსტიტუტები იყენებენ, შესაძლებლობების კვლევისა და პოლიტიკის კონსულტირების პარალელურად.

ყველა ქვეყანას აქვს ამგვარი ინსტიტუტი?
არა. დღეს დაახლოებით ათეულ მთავრობას აქვს ერთი, რომლებიც თავისუფლად კოორდინირდებიან 2024 წლის სეულის სამიტის შემდეგ ჩამოყალიბებული AI უსაფრთხოების ინსტიტუტების საერთაშორისო ქსელის (International Network of AI Safety Institutes) მეშვეობით.

წყაროები: AI Security Institute (AISI), დიდი ბრიტანეთის მთავრობა; Artificial intelligence safety institute, Wikipedia; AISI-ის Frontier AI Trends Report, GOV.UK.