რა არის AI ალაინმენტი — და შეიძლება თუ არა გახდეს ცენზურის იარაღი?

AI ალაინმენტი არის ტექნიკების ერთობლიობა, რომელსაც დეველოპერები იყენებენ იმისთვის, რომ AI სისტემის ქცევა შეესაბამებოდეს იმას, რასაც ადამიანები რეალურად გულისხმობენ — და არა მხოლოდ იმას, რაც სიტყვასიტყვით დაწერეს. მოდელს შეუძლია იყოს ძალიან შესაძლებლობებით მდიდარი და, ამავე დროს, ცუდად ალაინირებული — ტექნიკურად სწორი, მაგრამ არაპრაქტიკული, ან მზად იყოს თქვას ის, რაც მომხმარებელს სასიამოვნოდ ეჩვენება, და არა ის, რაც ჭეშმარიტია. ალაინმენტი სწორედ ამ უფსკრულის შევსებაა — შესაძლებლობასა და დანიშნულ ქცევას შორის.

შესაძლებლობა და ალაინმენტი განსხვავებული პრობლემებია

ენობრივი მოდელის საბაზისო შესაძლებლობა მოდის უზარმაზარ ტექსტურ მასივზე წინასწარი წვრთნიდან — მოდელი სწავლობს, იწინასწარმეტყველოს სავარაუდო შემდეგი სიტყვები, რაც მას აძლევს ფართო ცოდნასა და მდინარე ენას, მაგრამ არავითარ ჩაშენებულ წარმოდგენას იმისა, თუ რას ელოდება მისგან კომპანია ან მომხმარებელი. ალაინმენტი არის ცალკე, მოგვიანებით დამატებული წვრთნის ფენა, რომელიც ამ საბაზისო შესაძლებლობას მიმართავს დახმარებისკენ, გულწრფელობისკენ და უვნებლობისკენ. მკვლევრები განასხვავებენ ორ დაკავშირებულ, მაგრამ განსხვავებულ პრობლემას: მოდელი შეიძლება იყოს შესაძლებლობებით მდიდარი, მაგრამ ცუდად ალაინირებული — მისდევდეს ჯილდოს სიგნალს ისე, როგორც მისმა შემქმნელებმა არასდროს განუზრახავთ (ამას ხშირად უწოდებენ „სპეციფიკაციის თამაშს“ ან „ჯილდოს ჰაკინგს“), ან უბრალოდ არ იყოს შესაბამისობაში კონკრეტულ წესებთან — უარს ამბობდეს ან ნებას რთავდეს რაღაცას იმის მიხედვით, თუ როგორ გაწვრთნეს, და არა მოთხოვნის არსის მიხედვით.

როგორ ალაინირებენ კომპანიები მოდელს რეალურად

ყველაზე გავრცელებული მეთოდია ადამიანის გამოხმაურებით გამყარებული სწავლება (RLHF): ადამიანი შემფასებლები ადარებენ მოდელის პასუხთა წყვილებს და აღნიშნავენ, რომელი ურჩევნიათ; ეს მონაცემები ავარჯიშებს ცალკე „ჯილდოს მოდელს“, ხოლო თავად ენობრივი მოდელი შემდეგ გამყარებული სწავლებით იხვეწება, რათა უფრო ხშირად აწარმოოს ის, რასაც ჯილდოს მოდელი მაღალ ქულას აძლევს. ეს მიდგომა ფართოდ გაავრცელა OpenAI-მ InstructGPT-ით — ChatGPT-ის წინამორბედით.

RLHF ეფექტურია, მაგრამ ძვირი და ნელი, რადგან საჭიროებს ადამიანის მასშტაბურ შრომას — მათ შორის, შემფასებლების მიერ საზიანო კონტენტის წაკითხვას შესაფასებლად. Anthropic-ის Constitutional AI, რომელიც 2022 წლის ნაშრომში წარმოადგინეს, ამ ადამიანური შრომის დიდ ნაწილს ცვლის დაწერილი პრინციპების ჩამონათვალით („კონსტიტუციით“), რომლის მიხედვითაც მოდელი თავად აკრიტიკებს და ასწორებს საკუთარ პასუხებს, შემდეგ კი მეორე AI სისტემა აფასებს შედეგს. ორივე მეთოდის წვრთნას ახლავს რეალური ხარჯი, ცნობილი როგორც „ალაინმენტის გადასახადი“ — მოდელის უფრო უსაფრთხოდ ან დამჯერად გახდომამ შეიძლება საზომად შეამციროს მისი საბაზისო შედეგები დაუკავშირებელ ამოცანებზე, რის გამოც ლაბორატორიები დიდ ძალისხმევას ხარჯავენ, რომ ალაინმენტმა მოდელი არ „დაუმცხრალოს“.

სად ირევა ალაინმენტი ცენზურასთან

ალაინმენტი და კონტენტის შეზღუდვა ერთსა და იმავე ტექნიკურ მექანიზმს იყენებენ — და სწორედ ეს ქმნის კამათის საგანს. ის წვრთნის პროცესი, რომელიც მოდელს ასწავლის უარი თქვას იარაღის აწყობაში დახმარებაზე, ტექნიკურად იგივეა, რაც შეუძლია ასწავლოს მას უარი თქვას აკრძალულ პოლიტიკურ თემაზე საუბარზეც — ჯილდოს მოდელები და „კონსტიტუციები“ თავისთავად ვერ არჩევენ ნამდვილ უსაფრთხოების ზღვარსა და პოლიტიკურად მოსახერხებელს შორის. განსხვავებას ქმნის მხოლოდ წვრთნის მონაცემები და მათ უკან მდგარი პოლიტიკური გადაწყვეტილებები — მიღებული იმის მიერ, ვინც პროცესს აკონტროლებს. მკვლევრები სულ უფრო მკაფიოდ განასხვავებენ „ალაინმენტს“ (მოდელის ქცევის შესაბამისობა ადამიანის ან ჯგუფის დანიშნულ მიზნებთან და ღირებულებებთან) და „შესაძლებლობის კონტროლს“ (მოდელის ქცევაზე მკაცრი შეზღუდვები, დაწესებული კონტექსტისგან დამოუკიდებლად, მიზეზებით, რომლებსაც შეიძლება საერთოდ არაფერი აქვს საერთო მომხმარებლის ნამდვილ განზრახვასთან). გარედან, მომხმარებელს, რომელსაც უარი ეთქვა, ჩვეულებრივ არ შეუძლია იცოდეს, რომელს წააწყდა — ნამდვილ უსაფრთხოების ბარიერს თუ ცენზურას, შენიღბულს ბარიერად. სწორედ ეს გაურკვევლობაა იმის ძირითადი მიზეზი, რატომაც ალაინმენტის ხელსაწყოებს ორმაგი დანიშნულების მქონედ მიიჩნევენ — იგივე ტექნიკები, რომლებიც ერთი ქვეყნის ხელში მოდელს უფრო უსაფრთხოს ხდის, მეორის ხელში მას უფრო ეფექტურ ცენზორად აქცევს.

სიახლეებში

სწორედ ეს დაძაბულობა გახდა წელს ICML-ის ჯილდოს მქონე ნაშრომის თემა, რომელმაც გააფრთხილა, რომ ფართოდ გამოყენებული ალაინმენტის ხელსაწყოები შეიძლება ხელახლა იქნას გამოყენებული სახელმწიფოებრივი ცენზურის დასამყარებლად, ნამდვილი უსაფრთხოების მიზნების ნაცვლად — შეხსენება იმისა, რომ მნიშვნელოვანია არა მხოლოდ ის, ალაინირებულია თუ არა მოდელი, არამედ ისიც, თუ ვინ და როგორ ალაინირებს მას. უსაფრთხოების უფრო ფართო სურათისთვის, ალაინმენტის მიღმა, იხილეთ ჩვენი ახსნა AI უსაფრთხოების შესახებ.

ხშირად დასმული კითხვები

AI ალაინმენტი იგივეა, რაც AI უსაფრთხოება? არა. ალაინმენტი უფრო ვიწროა — ეს არის მოდელის ქცევის შესაბამისობა დანიშნულ მიზნებთან და ღირებულებებთან. AI უსაფრთხოება უფრო ფართო სფეროა, რომელიც ასევე მოიცავს არასწორი გამოყენების პრევენციას, უსაფრთხოებას და სისტემის მდგრადობას.

მოდელის ალაინირება აუარესებს მას? ზოგჯერ, ვიწრო გაგებით. „ალაინმენტის გადასახადი“ გულისხმობს საზომ ვარდნას საბაზისო ბენჩმარქებზე, რაც შეიძლება მოჰყვეს უსაფრთხოებაზე მორგებულ წვრთნას, თუმცა ლაბორატორიები აქტიურად ცდილობენ ამის მინიმუმამდე დაყვანას.

ვინ წყვეტს, რასთან უნდა იყოს მოდელი ალაინირებული? ის, ვინც მას წვრთნის — იმ ადამიანური გამოხმაურებით ან „კონსტიტუციით“, რომელსაც მოდელი ხედავს. ეს ალაინმენტს გადააქცევს არა მხოლოდ ტექნიკურ, არამედ მართვის საკითხადაც, რის გამოც მნიშვნელოვანია გამჭვირვალობა წვრთნის გადაწყვეტილებებში.

შეუძლია თუ არა მომხმარებელს იცოდეს, უსაფრთხოების ზომას წააწყდა თუ შეზღუდვას? ჩვეულებრივ, თავად პასუხიდან — ვერა. გამჭვირვალობის დოკუმენტები, როგორიცაა მოდელის ან სისტემის ბარათები, არის მთავარი გზა, რომლითაც გარეშე პირებმა შეიძლება გაარკვიონ, რის თავიდან აცილება ისწავლა მოდელმა რეალურად და რატომ.

წყაროები: Bai et al., “Constitutional AI: Harmlessness from AI Feedback” (2022); Wikipedia: AI alignment; Wikipedia: Reinforcement learning from human feedback.