წელს ICML-ის 2026 წლის კონფერენციაზე დაჯილდოებული პოზიციური ნაშრომი ამტკიცებს, რომ იგივე ტექნიკები, რომლებსაც AI ლაბორატორიები მოდელების უფრო უსაფრთხოდ გახდისთვის იყენებენ, სულ უფრო ეფექტურ ცენზურის ინსტრუმენტადაც იქცევა.
ნაშრომმა “Position: The Alignment Community Is Unintentionally Building a Censor’s Toolkit”, რომლის ავტორებიც არიან მიუნხენის ლუდვიგ-მაქსიმილიანის უნივერსიტეტის (LMU Munich) მკვლევარი სარა ბოლი და დამოუკიდებელი მკვლევარი ფილ ჰაკემანი, სეულში გამართულ ICML 2026-ზე “საუკეთესო პოზიციური ნაშრომის” ჯილდო მიიღო — ამის შესახებ კონფერენციამ 5 ივლისს გამოაცხადა.
რას ამტკიცებს ნაშრომი
ავტორები აღნიშნავენ, რომ alignment-ის მეთოდები — მათ შორის ადამიანის უკუკავშირზე დაფუძნებული განმტკიცებითი სწავლება (RLHF), Constitutional AI, წინასწარი ვარჯიშის მონაცემთა ფილტრაცია და გამოტანის ეტაპზე მოქმედი კლასიფიკატორები — ორმაგი დანიშნულების ტექნოლოგიებია. ნაშრომის თანახმად, იგივე ხელსაწყოები, რომლებიც მოდელს საზიანო პასუხების გენერირებისგან იცავს, ისევე ადვილად შეიძლება მორგდეს პოლიტიკურად არასასურველი ინფორმაციის ჩასახშობად — ანუ “სრულყოფილად alignment-ირებული” მოდელის ძიება პარალელურად იაფი ცენზურის ხელსაწყოს სრულყოფასაც ნიშნავს.
მოყვანილი მაგალითები
ნაშრომი კონკრეტულ შემთხვევებს იშველიებს: ჩინეთის მარეგულირებლები ისეთი კომპანიებისგან, როგორებიცაა DeepSeek და Baidu-ს Ernie Bot, პოლიტიკურად მგრძნობიარე კონტენტის — მათ შორის კომუნისტური პარტიის კრიტიკის — ფილტრაციას წინასწარი ვარჯიშის მონაცემებსა და უარის თქმაზე მორგებული წვრთნის მეშვეობით მოითხოვენ. ავტორები ასევე იხსენებენ, როგორ შეცვალა ილონ მასკმა Grok-ის სისტემური ბრძანებები კონკრეტული პოლიტიკური ნარატივების პოპულარიზაციისთვის, და აჩვენებენ, თუ როგორ იძენენ დასავლური მოდელები — ჩინურენოვან ვებ-მონაცემებზე წვრთნის შედეგად — წლების განმავლობაში ჩინეთის სახელმწიფო ინტერნეტ-ცენზურის ნიმუშებს, რაც ჩახშობის ეფექტს მთელ ეკოსისტემაში უხილავად ავრცელებს.
რას გვთავაზობენ ავტორები
ბოლი და ჰაკემანი მოითხოვენ დამოუკიდებელ, საჯარო ბენჩმარკებს, რომლებიც განლაგებულ მოდელებში ინფორმაციის ჩახშობასა და პოლიტიკურ მიკერძოებას გაზომავენ; alignment-ის მეთოდების კონკურენტულ ბაზარს, რათა ვერცერთმა აქტორმა ვერ მოახდინოს კონტროლი იმაზე, თუ რას იტყვის ან არ იტყვის მოდელი; და alignment-ის მკვლევრების მხრიდან მეტ გამჭვირვალობას საკუთარი სამუშაოს ორმაგი დანიშნულების რისკების შესახებ.