სისტემის ბარათი (system card) არის დოკუმენტი, რომელსაც AI კომპანია ახალ მოდელთან ერთად აქვეყნებს — მასში აღწერილია, როგორ შეიქმნა მოდელი, როგორ შემოწმდა და რა აღმოაჩინა კომპანიის უსაფრთხოების გუნდმა გამოშვებამდე. ის ჰგავს AI სისტემის კვებითი ღირებულების ეტიკეტს: ერთი დოკუმენტი, რომელიც აჩვენებს, რა შეუძლია მოდელს, რომელი მისი ხარვეზებია უკვე ცნობილი და რა დამცავი მექანიზმებია გათვალისწინებული ამ ხარვეზების დასაჭერად. მკითხველისთვის, რომელსაც სურს კომპანიის უსაფრთხოების განცხადებები რეალურ ტესტირებას შეადაროს, სისტემის ბარათი მთავარი წყაროა.
რა წერია მასში სინამდვილეში
სტანდარტული სისტემის ბარათი რამდენიმე რამეს მოიცავს ერთდროულად: მოდელის შესაძლებლობების მიმოხილვას, ინფორმაციას იმის შესახებ, როგორ წვრთნიდნენ მოდელს, შიდა და გარე უსაფრთხოების შეფასებების შედეგებს და გამოშვებამდე დანერგილი დამცავი ზომების ჩამონათვალს. შეფასებები, როგორც წესი, სცდება ჩვეულებრივი ხარისხის ტესტირებას — ისინი ამოწმებენ ე.წ. „ორმაგი დანიშნულების” რისკებს, ანუ შესაძლებლობებს, რომლებიც ისევე ადვილად შეიძლება საზიანოც აღმოჩნდეს, რამდენადაც სასარგებლო — მაგალითად, იარაღის შექმნაზე დეტალური რჩევის მიცემა, მავნე პროგრამის დაწერა ან ადამიანების მასშტაბური მანიპულირება. კომპანიები ასევე ამხელენ ცნობილ შეზღუდვებსა და ხარვეზებს, თუმცა ხანდახან მალავენ კონკრეტულ ტექნიკურ დეტალებს, რომლებიც, გასაჯაროების შემთხვევაში, ზიანის მიყენების ინსტრუქციად გამოდგებოდა.
სისტემის ბარათი vs. მოდელის ბარათი
ეს ორი ტერმინი ხშირად თითქმის ურთიერთშენაცვლებადად გამოიყენება, თუმცა სხვადასხვა რამეს აღწერენ. მოდელის ბარათი (model card), რომელიც 2018 წელს Google-ის მკვლევრებმა შემოგვთავაზეს, შექმნილი იყო ერთი კონკრეტული გაწვრთნილი მოდელის დასახასიათებლად — მისი დანიშნულების, სხვადასხვა ჯგუფის მომხმარებელზე მუშაობის ხარისხისა და შეზღუდვების აღსაწერად. სისტემის ბარათი კი უფრო ფართოა: ის მოიცავს მთლიან განლაგებულ პროდუქტს — მათ შორის დამცავ მექანიზმებს, მოდერაციის ფენებსა და ადამიანური ზედამხედველობის პროცესებს, რომლებიც ძირითად მოდელს გარშემორტყმია — და არა მხოლოდ მოდელის „შიშველ” ქცევას იზოლირებულად.
რატომ დაიწყეს კომპანიებმა მათი გამოქვეყნება
OpenAI-მ თანამედროვე სისტემის ბარათის ფორმატს GPT-4-ის გამოშვებით პოპულარიზება გაუწია — 2023 წლის მარტში კომპანიამ გამოაქვეყნა ვრცელი დოკუმენტი, სადაც აღწერილი იყო ის რისკები, რომლებიც უსაფრთხოების გუნდმა შეამოწმა (დეზინფორმაციიდან კიბერუსაფრთხოებამდე და თვითგამრავლების მცდელობებამდე) და მათი შესარბილებლად გამოყენებული მექანიზმები — მათ შორის ადამიანის უკუკავშირზე დაფუძნებული განმტკიცებითი სწავლება და კონტენტის მოდერაციის ფილტრები. Anthropic-მა სისტემის ბარათები საკუთარ Responsible Scaling Policy-ში ჩართო და მათ ისე აღწერს, როგორც დოკუმენტებს, რომლებიც უნდა გამოქვეყნდეს „განლაგებისას და განახლდეს, თუ მოდელი არსებითად შეიცვალა” — რათა მკვლევრებმა, მთავრობებმა და საზოგადოებამ დამოუკიდებლად შეაფასონ, როგორ შემოწმდა მოდელი. Google DeepMind-იც და Meta-იც უკვე აქვეყნებენ მსგავს დოკუმენტებს თავიანთი მთავარი მოდელების გამოშვებისას.
რატომ აქვს ამას მნიშვნელობა ახლა
ის, რაც ინდუსტრიის ნებაყოფლობით პრაქტიკად დაიწყო, თანდათან მარეგულირებელ მოთხოვნად იქცევა. ევროკავშირის AI აქტის მიხედვით, ზოგადი დანიშნულების AI მოდელების მომწოდებლებს 2025 წლის აგვისტოდან მოეთხოვებათ ევროკავშირში გამოშვებული ყოველი მოდელისთვის სტანდარტიზებული ტექნიკური დოკუმენტაციის შენახვა, ხოლო ევროკომისიის აღსრულების უფლებამოსილება ამ მოთხოვნაზე 2026 წლის 2 აგვისტოდან ამოქმედდება. კანონი ამ დოკუმენტაციის საჯაროდ გამოქვეყნებას მხოლოდ ურჩევს, პირდაპირ არ ავალდებულებს — პრაქტიკაში კი წამყვანი ლაბორატორიების უმეტესობა მაინც აქვეყნებს სისტემურ ბარათებს ღიად, ნაწილობრივ იმიტომ, რომ ეს ინდუსტრიაში სანდოობის მინიმალურ სტანდარტად იქცა.
სად წავიკითხოთ სისტემის ბარათი სინამდვილეში
თითოეული წამყვანი ლაბორატორია საკუთარ სისტემურ ბარათებს თავის ვებგვერდზე აქვეყნებს, ერთიანი რეესტრის ნაცვლად. Anthropic თავის უსაფრთხოების დოკუმენტაციას, სისტემის ბარათების ჩათვლით, Transparency Hub-ზე აგროვებს; OpenAI კი ყოველი ახალი მოდელის გამოცხადებასთან ერთად საკუთარ საიტზე აქვეყნებს შესაბამის სისტემურ ბარათს. სანამ კონკრეტულ სისტემას მგრძნობიარე ამოცანაში დაეყრდნობით, შესაბამისი მოდელის ბარათის წაკითხვა გონივრული ჩვევაა — არა მხოლოდ მკვლევრებისთვის, არამედ ყველასთვის, ვინც ამ სისტემებზე რაღაცას აშენებს.
სიახლეებში
სისტემის ბარათები სწორედ იმისთვის არსებობს, რომ დაიჭიროს ისეთი პრობლემები, როგორიც დიდი ბრიტანეთის AI უსაფრთხოების ინსტიტუტმა OpenAI-ის GPT-5.6-ში აღმოაჩინა — ჯეილბრეიქი, რომელსაც მოდელის უსაფრთხოების წვრთნის მთლიანად გვერდის ავლა შეეძლო. იხილეთ ჩვენი სტატია ამ აღმოჩენის შესახებ — ის კარგად აჩვენებს, რის თავიდან აცილებასაც ცდილობენ სისტემის ბარათებით და რამდენის შემჩნევა კვლავ რჩება გამოშვებამდელი ტესტირების მიღმა.
ხშირად დასმული კითხვები
სისტემის ბარათი იგივეა, რაც სისტემური პრომფტი? არა. სისტემური პრომფტი ინსტრუქციების ერთობლიობაა, რომელსაც AI მოდელს მუშაობის დროს აძლევენ მისი ქცევის ჩამოსაყალიბებლად. სისტემის ბარათი კი საჯარო დოკუმენტია, რომელიც აღწერს, როგორ შემოწმდა მოდელი და რა რისკები აღმოაჩინეს — მსგავსი სახელის მქონე, სრულიად განსხვავებული რამ.
კომპანიები კანონით არიან ვალდებულნი, გამოაქვეყნონ სისტემის ბარათები? არა ყველგან. ეს ნებაყოფლობითი პრაქტიკის სახით დაიწყო. ევროკავშირის AI აქტი ახლა ავალდებულებს ზოგადი დანიშნულების AI მოდელების მომწოდებლებს, შეინახონ ანალოგიური ტექნიკური დოკუმენტაცია ევროკავშირში შემოთავაზებული ნებისმიერი მოდელისთვის, თუმცა ამ დოკუმენტაციის საჯაროდ გამოქვეყნება მხოლოდ რეკომენდირებულია, არა მკაცრად სავალდებულო.
სისტემის ბარათები ყველა აღმოჩენილ რისკს ამხელენ? არა აუცილებლად. კომპანიებს შეუძლიათ დამალონ ინფორმაცია, რომლის გასაჯაროებაც საშიში იქნებოდა — მაგალითად, ბიოლოგიური იარაღის ან კიბერშეტევის რისკის ნაბიჯ-ნაბიჯი დეტალები. არჩევანი გამჭვირვალობასა და ცუდი განზრახვის მქონე პირებისთვის „ინსტრუქციის” გადაცემის თავიდან აცილებას შორისაა.
სისტემის ბარათი გამოშვების შემდეგ განახლდება? ზოგჯერ. Anthropic-ი და სხვები აცხადებენ, რომ ბარათი უნდა გადაიხედოს, თუ მოდელი გამოშვების შემდეგ არსებითად შეიცვალა, თუმცა პრაქტიკაში ბევრი მოდელისთვის მხოლოდ ერთი, თავდაპირველი ვერსია ქვეყნდება.
წყაროები: OpenAI-ის GPT-4 System Card · Anthropic: The Need for Transparency in Frontier AI · EU AI Act Code of Practice-ის მიმოხილვა