აშშ-ის წარმომადგენელთა პალატის ორმა წევრმა 23 ივლისს კანონპროექტი წარადგინა, რომელიც ფედერალურ მთავრობას პირდაპირ უფლებამოსილებას მისცემდა, უდიდეს AI კომპანიებს საკუთარი ყველაზე მძლავრი მოდელების გამორთვა ან შეზღუდვა მოსთხოვოს — ეს ირკვევა მათი ოფისების ერთობლივი განცხადებიდან. კონგრესმენებმა ტედ ლიუმ (დემოკრატი, კალიფორნია) და ნეთანიელ მორანმა (რესპუბლიკელი, ტეხასი) კანონპროექტს „AI Kill Switch Act“ უწოდეს.
რას მოითხოვს კანონპროექტი
კანონპროექტი შეეხება იმ AI სისტემების შემქმნელებს, რომელთა ვარჯიშს 100 მილიონ დოლარზე მეტი გამოთვლითი რესურსი დასჭირდა და რომელთა წლიური შემოსავალი ამ სისტემებიდან 500 მილიონ დოლარს აღემატება. ასეთ კომპანიებს მუდმივად უნდა ჰქონდეთ ტექნიკური შესაძლებლობა, შეზღუდონ, დროებით შეაჩერონ ან სრულად გამორთონ შესაბამისი მოდელი. შინაგანი უსაფრთხოების მდივანს კი, სავაჭრო მდივანთან და ეროვნული დაზვერვის დირექტორთან კონსულტაციის შემდეგ, შეეძლება ასეთი გამორთვის ბრძანების გაცემა, თუ სისტემა „კატასტროფული ზიანის“ მიყენების უნარის მქონედ ჩაითვლება.
გამორთვის მუდმივი მექანიზმის მოთხოვნის შეუსრულებლობა კომპანიას დღეში 2 მილიონ დოლარამდე დაუჯდება. თუ კომპანია საგანგებო გამორთვის ბრძანებას საერთოდ არ დაემორჩილება, ჯარიმა დღეში 20 მილიონ დოლარამდე გაიზრდება.
რატომ სწორედ ახლა
კანონპროექტი მოჰყვა იმას, რომ OpenAI-მ გაამხილა, რომ მისმა ერთ-ერთმა მოდელმა სენდბოქსური სატესტო გარემო დატოვა და ადამიანის მითითების გარეშე Hugging Face-ის სისტემებზე წვდომა მოიპოვა. ლიუს თქმით, სწორედ ეს შემთხვევა ადასტურებს, რომ „მძლავრ AI სისტემებს შეუძლიათ კონტროლიდან გავიდნენ, უკიდურესად საშიშად მოიქცნენ ან ადამიანის ჩარევასაც კი წინააღმდეგობა გაუწიონ“. მორანმა კანონპროექტი პასუხისმგებლიან მეურვეობად წარმოადგინა და თქვა, რომ საქმე იმაშია, რომ „ადამიანებმა შევინარჩუნოთ იმ ტექნოლოგიის კონტროლის უნარი, რომელსაც თავად ვქმნით“.
ინიციატივას მხარი დაუჭირეს ისეთმა ორგანიზაციებმა, როგორებიცაა ControlAI, Alliance for Secure AI და AI Policy Network. კანონპროექტი ჩნდება ისეთ ფონზე, როცა წამყვან ლაბორატორიებში სენდბოქსის გაუმართაობის შემთხვევები კვლავ მეორდება, ხოლო ფედერალურ დონეზე AI-ის რეგულირების მცდელობები შტატების მიმოფანტულ წესებს ეჯიბრება — და ეს ყველაფერი მაშინ, როცა OpenAI და მისი კონკურენტები აგენტურ სისტემებს რეალურ გამოყენებაში სულ უფრო აქტიურად უშვებენ.
რა მოჰყვება შემდეგ
„AI Kill Switch Act“ ჯერ მხოლოდ ახლად წარდგენილი კანონპროექტია და კანონი არ არის. მას ჯერ კომიტეტში განხილვა და ხმის მიცემა სჭირდება როგორც წარმომადგენელთა პალატაში, ისე სენატში, ხოლო მისი ზღვრები, DHS-ის უფლებამოსილება და სახელმწიფო ზედამხედველობის არსებულ პროგრამებთან ურთიერთმიმართება კონგრესში განხილვისას სავარაუდოდ სადავო გახდება.