კონსტიტუციური AI (Constitutional AI) არის Anthropic-ის სავარჯიშო მეთოდი, რომლის დახმარებითაც Claude-ის მოდელები სწავლობენ დაწერილი პრინციპების — ე.წ. „კონსტიტუციის” — დაცვას, იმის ნაცვლად, რომ ტრენინგი ძირითადად ადამიანების მიერ ხელით მონიშნულ პასუხებზე იყოს დამოკიდებული. მეთოდი პირველად 2022 წლის დეკემბერში გამოქვეყნებულ კვლევით ნაშრომში იქნა აღწერილი: მოდელი აკრიტიკებს და ასწორებს საკუთარ პასუხებს კონსტიტუციის მიხედვით, შემდეგ კი ეს გასწორებული პასუხები კვლავ ავარჯიშებს მოდელს გასამყარებლად — ანუ „ზედამხედველობის” დიდი ნაწილი თავად AI-სგან მოდის, ადამიანი შემმოწმებლების ნაცვლად.
რატომ შექმნა ეს Anthropic-მა
ჩვეულებრივი ადამიანის უკუკავშირიდან განმტკიცების სწავლება (RLHF) მოდელს წვრთნის ისე, რომ ადამიანები რანჟირებენ პასუხთა წყვილებს, შემდეგ კი ეს რანჟირება „ჯილდოს სიგნალად” გარდაიქმნება. ეს მუშაობს, თუმცა ნელი და ძვირია და მოითხოვს, რომ შემმოწმებლებმა არაერთხელ წაიკითხონ საზიანო თუ მძიმე შინაარსი მისი მონიშვნისთვის. ამასთანავე, ის ზღუდავს იმის სიზუსტეს, თუ რამდენად ზუსტად შეუძლია კომპანიას მოდელის მართვა: შემმოწმებელს შეუძლია თქვას „ეს პასუხი მირჩევნია”, მაგრამ არ ახსნას რატომ — რის გამოც გაწვრთნილ მოდელს ბუნდოვანი და არათანმიმდევრული წარმოდგენა რჩება იმაზე, თუ რა არის სასურველი. Anthropic-ის მკვლევრებს სურდათ სტანდარტის გამჭვირვალედ ჩამოყალიბება და ადამიანების საზიანო შინაარსთან შეხების შემცირება მოდელების ზრდასთან ერთად — ეს საკითხი უკავშირდება იმას, თუ რას ცდილობს გადაჭრას AI ალაინმენტი ზოგადად.
როგორ მუშაობს წვრთნა
კონსტიტუციური AI ორ ეტაპად მიმდინარეობს.
ზედამხედველობით ეტაპზე მოდელს აძლევენ პრომფტს, რომელმაც შესაძლოა პრობლემური პასუხი გამოიწვიოს, მოდელი წერს საწყის პასუხს, შემდეგ კი სთხოვენ, თავად გააკრიტიკოს ეს პასუხი კონსტიტუციის პრინციპების მიხედვით და ხელახლა დაწეროს ისე, რომ მათ შეესაბამებოდეს. მოდელს შემდეგ ავარჯიშებენ სწორედ ამ თვითგასწორებულ პასუხებზე.
განმტკიცების სწავლების ეტაპზე — რასაც Anthropic „RL from AI feedback”-ს, ანუ RLAIF-ს, უწოდებს — გაწვრთნილი მოდელი ქმნის პასუხთა წყვილებს, ხოლო მოდელის ცალკე ასლი აფასებს, რომელი პასუხი უკეთ შეესაბამება კონსტიტუციას. ეს AI-ის მიერ გაცემული შეფასებები ავარჯიშებს „პრეფერენციის მოდელს”, რომელიც შემდეგ განმტკიცების სწავლების შემდგომ რაუნდს ჯილდოს სიგნალს აწვდის. ადამიანის განსჯა კვლავ განსაზღვრავს კონსტიტუციის პრინციპებს და აკონტროლებს პროცესს, თუმცა მას აღარ სჭირდება ყოველი მაგალითის ცალ-ცალკე ხელით შემოწმება.
რა წერია თავად კონსტიტუციაში
კონსტიტუცია დროთა განმავლობაში შეიცვალა. 2023 წლიდან მოქმედი ვერსია მოკლე, დაახლოებით 75 დამოუკიდებელი პრინციპისგან შემდგარი ჩამონათვალი იყო, რომელიც ეყრდნობოდა ისეთ წყაროებს, როგორიცაა გაეროს ადამიანის უფლებათა საყოველთაო დეკლარაცია და მომსახურების პირობების ჩვეულებრივი ენა, და მოდელს ეუბნებოდა, რისი თავიდან აცილება და რისი პრიორიტეტულობა სჭირდებოდა. 2026 წლის იანვარში Anthropic-მა გამოაქვეყნა გაცილებით მოცულობითი, დაახლოებით 23,000 სიტყვისგან შემდგარი კონსტიტუცია, რომელიც წესების უბრალო ჩამოთვლის ნაცვლად თავის მსჯელობასაც განმარტავს — რადგან, კომპანიის თქმით, მოდელებს სჭირდებათ იმის გაგება, თუ რატომ არის სასურველი გარკვეული ქცევა და არა მხოლოდ ის, თუ რა არის სასურველი. დოკუმენტი Claude-სთვის ოთხ პრიორიტეტს ადგენს, თანმიმდევრობით: დარჩეს ფართოდ უსაფრთხო (ხელი შეუწყოს ადამიანის ზედამხედველობას), იყოს ფართოდ ეთიკური, დაიცვას Anthropic-ის უფრო კონკრეტული წესები და იყოს ნამდვილად სასარგებლო. ის გამოქვეყნებულია CC0 საჯარო საკუთრების ლიცენზიით, ასე რომ ნებისმიერ ლაბორატორიას შეუძლია მისი გამოყენება თუ ადაპტირება.
რატომ აქვს ამას მნიშვნელობა
კონსტიტუციური AI ერთ-ერთი მიზეზია იმისა, რომ Claude-ის პასუხები მგრძნობიარე საკითხებზე უფრო წარმოაჩენს განსაზღვრული ღირებულებების თანმიმდევრულ გამოყენებას, ვიდრე წვრთნისას დაზეპირებული ცალკეული წესების ნაკრებს. ეს ასევე ცენტრალურია Anthropic-ის იმ პროგნოზისთვის, რომ მოდელების შესაძლებლობების ზრდასთან ერთად ლაბორატორიებს დასჭირდებათ, რომ AI სისტემებმა ერთმანეთის ზედამხედველობაში დაეხმარონ — დაწერილი კონსტიტუცია კი ამ ზედამხედველობას სტაბილურ ორიენტირს აძლევს შესამოწმებლად. მეთოდი ავსებს Anthropic-ის უსაფრთხოების სხვა ინსტრუმენტებს, მათ შორის რედ-თიმინგს და Responsible Scaling Policy-ს, და დგას იმ უფრო ფართო დისკუსიის ცენტრში, რომელიც ინდუსტრიაში AI უსაფრთხოების პრაქტიკას ეხება.
სხვა ლაბორატორიებმაც გამოაქვეყნეს მსგავსი მიდგომები სხვადასხვა სახელით, და თავად კონსტიტუციური მეთოდი ღიაა — Anthropic-ის თავდაპირველი ნაშრომი და კოდი საჯაროდ ხელმისაწვდომია — ასე რომ ის მხოლოდ Claude-ის ექსკლუზივი არ არის, თუმცა Claude ამ მეთოდით გაწვრთნილი ყველაზე ცნობილი მოდელია.
ხშირად დასმული კითხვები
კონსტიტუციური AI იგივეა, რაც RLHF?
არა. ორივე ალაინმენტის მეთოდია, რომელსაც მოდელის წინასწარი წვრთნის შემდეგ იყენებენ, მაგრამ RLHF ადამიანების პრეფერენციების რანჟირებაზეა აგებული, ხოლო კონსტიტუციური AI — მოდელის საკუთარ კრიტიკასა და პრეფერენციაზე, რომელსაც წერილობითი კონსტიტუციის მიხედვით აფასებენ, გაცილებით ნაკლები პირდაპირი ადამიანური მონიშვნით.
კონსტიტუცია Claude-ს მეტ მოთხოვნაზე ამბობინებს უარს?
სულაც არა — ამჟამინდელი კონსტიტუცია პირდაპირ ასახელებს „ნამდვილად სასარგებლო” ყოფნას ოთხ პრიორიტეტს შორის, და Anthropic-მა თავადაც აღნიშნა, რომ წინა ვერსიები ზოგჯერ Claude-ს ზედმეტად ფრთხილს ხდიდა, რასაც შემდგომმა ვერსიებმა გამოსწორება სცადა.
შეუძლია ვინმეს Claude-ის კონსტიტუციის წაკითხვა?
დიახ. Anthropic მას აქვეყნებს anthropic.com/constitution-ზე, საჯარო საკუთრების ლიცენზიით.
ეს ნიშნავს, რომ Claude ვერასდროს ცდება ან მიკერძოებულია?
არა. კონსტიტუციური AI წვრთნის პროცესს აყალიბებს, მაგრამ არ იძლევა გარანტიას სწორი თუ მიუკერძოებელი პასუხის შესახებ — Anthropic განაგრძობს Claude-ის ქცევის შემოწმებას რედ-თიმინგისა და დამოუკიდებელი შეფასების გზით.