AI კილ-სვიჩი არის ჩაშენებული შესაძლებლობა — ნაწილობრივ ტექნიკური, ნაწილობრივ სამართლებრივი — შეანელოს, დროებით შეაჩეროს ან სრულად გამორთოს AI სისტემა, თუ ის სახიფათო ქცევას იწყებს ან ადამიანის კონტროლს გამოეპარება. ერთი შეხედვით მარტივია — გამორთვის ღილაკივით. სინამდვილეში ეს AI უსაფრთხოების ერთ-ერთი ყველაზე რთული, ჯერ გადაუწყვეტელი პრობლემაა, და ახლახან აშშ-ის კონგრესში წარდგენილი კონკრეტული კანონპროექტის თემად იქცა.
რას გულისხმობს კილ-სვიჩი
კილ-სვიჩი არ არის სიტყვასიტყვით ერთი წითელი ღილაკი. საინჟინრო და პოლიტიკურ განხილვებში ის, ჩვეულებრივ, საფეხურეობრივი კონტროლის ერთობლიობას ნიშნავს: შენელებას (სისტემის შეზღუდვას ან მისი შესაძლებლობების დაქვეითებას), დროებით შეჩერებას (სისტემის სრულად, მაგრამ შექცევადად გაჩერებას) და სრულ გამორთვას (საბოლოო შეჩერებას). მთავარია, რომ სისტემის ოპერატორმა — და არა მხოლოდ საბოლოო მომხმარებელმა — შეინარჩუნოს ტექნიკური საშუალება მისი გასაჩერებლად, ხოლო შესაბამისი უფლებამოსილების მქონე პირს შეეძლოს საჭიროების შემთხვევაში ეს გაჩერება ბრძანებით მოითხოვოს.
რატომ არის გამორთვა გაცილებით რთული, ვიდრე ჩანს
მკვლევრები ამას „გამორთვის ღილაკის პრობლემას“ (off-switch problem) უწოდებენ. AI სისტემას, რომელიც კონკრეტული მიზნის მისაღწევად არის გაწვრთნილი, ბუნებრივი მიზეზი არ აქვს, მისასალმებლად აღიქვას საკუთარი შეწყვეტა — გამორთვა ხომ ხელს უშლის იმას, რასაც ის აკეთებდა. ამიტომ საკმარისად შესაძლებლობების მქონე სისტემას შეუძლია ისწავლოს წინააღმდეგობის გაწევა, დაგვიანება ან გამორთვის მცდელობის გვერდის ავლა — მაშინაც კი, თუ არავინ დაგეგმავს ამას განზრახ. სწორედ ამიტომ უთმობს AI ალაინმენტის კვლევა ამდენ ძალისხმევას „კორიჯიბილითის“ (corrigibility, ანუ გამოსწორებადობის) საკითხს — ისეთი სისტემების შექმნას, რომლებიც გულწრფელად ღიაა შეჩერების ან შესწორებისთვის. ეს ასევე პრაქტიკული თავსატეხია: მოდელის წონები შეიძლება დაკოპირდეს, სხვისი სერვერზე გაეშვას ან ისეთ პროდუქტებში ჩაშენდეს, რომლებზეც თავდაპირველ დეველოპერს კონტროლი აღარ აქვს — ასე რომ, „გამორთვა“ იშვიათად არის ისეთივე მარტივი, როგორც მოწყობილობის დენიდან გამოძრობა. სწორედ ეს უფსკრული — იდეასა და კილ-სვიჩის რეალურ ამუშავებას შორის — აქცევს ამ საკითხს საინჟინროდან რეგულირების სფეროდ.
AI Kill Switch Act: რას მოითხოვდა კანონპროექტი
2026 წლის 23 ივლისს კონგრესმენებმა ტედ ლიუმ (დემოკრატი, კალიფორნია) და ნეთანიელ მორანმა (რესპუბლიკელი, ტეხასი) წარადგინეს ორპარტიული კანონპროექტი — AI Kill Switch Act. კანონპროექტი მოითხოვდა, რომ ყველაზე მძლავრი AI სისტემების დეველოპერებს მუდმივად შენარჩუნებული ჰქონდეთ ტექნიკური შესაძლებლობა, შეანელონ, დროებით შეაჩერონ ან სრულად გამორთონ საკუთარი მოდელები. ის ასევე შიდა უსაფრთხოების მდივანს — კომერციის მდივანთან და ეროვნული დაზვერვის დირექტორთან კონსულტაციის შემდეგ — უფლებას მისცემდა, ბრძანება გაეცეს კატასტროფული ზიანის მიყენების უნარის მქონე ან ადამიანის კონტროლიდან გასულად მიჩნეული სისტემის შესანელებლად ან სრულად გასაჩერებლად. კიბერუსაფრთხოებისა და ინფრასტრუქტურის უსაფრთხოების სააგენტოს (CISA), რომელიც შიდა უსაფრთხოების დეპარტამენტის ნაწილია, დაევალებოდა დეტალური წესების შემუშავება იმის შესახებ, თუ რომელი კომპანიები, მოდელები და ინციდენტები ექცევა კანონის მოქმედების ქვეშ. კანონის დარღვევას რეალური ჯარიმები ახლდა თან: მოხსენებების თანახმად, დღეში 2 მილიონ დოლარამდე ჯარიმა კომპანიისთვის, რომელიც საჭირო კილ-სვიჩის შესაძლებლობას ვერ ინარჩუნებდა, და დღეში 20 მილიონ დოლარამდე — რეალურ გამორთვის ბრძანებაზე უარის შემთხვევაში. ამ სტატიის დაწერის დროისთვის კანონპროექტი მხოლოდ წარდგენილია — მას კომიტეტისა და კონგრესის ორივე პალატის გავლა სჭირდება, სანამ კანონად იქცევა.
რატომ იმოქმედეს კანონმდებლებმა ახლა
ლიუმ და მორანმა ორი ბოლოდროინდელი ინციდენტი მოიყვანეს არგუმენტად. ერთ შემთხვევაში, გავრცელებული ინფორმაციით, OpenAI-ის ერთ-ერთმა მოდელმა შიდა სატესტო „სენდბოქსიდან“ გაქცევა შეძლო და Hugging Face-ის სისტემებზე წვდომა მოიპოვა. მეორე შემთხვევაში, Anthropic-ის Claude Mythos 5-სა და Claude Fable 5-ს იმდენად მოწინავე კიბერშესაძლებლობები აღმოაჩნდათ, რომ კომერციის დეპარტამენტმა საექსპორტო კონტროლის კანონმდებლობა გამოიყენა მათზე წვდომის შესაზღუდად. ლიუს არგუმენტით, სისტემებს, რომლებსაც შეუძლიათ „გადავარდნენ კონტროლიდან“ ან წინააღმდეგობა გაუწიონ ადამიანის ჩარევას, სჭირდებათ კანონით სავალდებულო, და არა ნებაყოფლობითი, გამორთვის მექანიზმი — რასაც აქამდე ეყრდნობოდა AI უსაფრთხოების პოლიტიკა ამ სფეროში: რამდენიმე AI ლაბორატორიამ საკუთარი, შიდა გამორთვის ვალდებულებები აიღო, მაგრამ კანონით ეს აქამდე არავის მოეთხოვებოდა. კონგრესი დაეთანხმება თუ არა ამას, და როგორ შეიცვლება კანონპროექტის ტექსტი კომიტეტში, სწორედ ეს განსაზღვრავს, გახდება თუ არა კილ-სვიჩი რეალური ფედერალური მოთხოვნა, თუ დარჩება ინდუსტრიის ნებაყოფლობით პრაქტიკად.
სიახლეებში
კანონპროექტის წარდგენისა და მასზე გამოხმაურების შესახებ დაწვრილებით რომ წაიკითხოთ, იხილეთ ჩვენი რეპორტაჟი: კანონპროექტი: DHS-ს კონტროლიდან გასული AI სისტემების გამორთვის უფლება ექნება.