Google DeepMind-ის აღმასრულებელმა დირექტორმა დემის ჰასაბისმა 14 ივლისს მოუწოდა, შეიქმნას დამოუკიდებელი „სტანდარტების ორგანო", რომელიც მსოფლიოში ყველაზე მოწინავე AI სისტემებს საჯარო გამოშვებამდე შეამოწმებდა. მისი თქმით, ზოგადი ხელოვნური ინტელექტი (AGI) „სავარაუდოდ, მხოლოდ რამდენიმე წელიწადშია" მისაღწევი.
ვრცელ ესეში სახელწოდებით „ჩარჩო წამყვანი AI-სთვის და ახალი ეპოქის დასაწყისი" ჰასაბისმა შემოგვთავაზა აშშ-ის ხელმძღვანელობით მოქმედი ორგანიზაცია, რომელიც აშშ-ის ფინანსური ინდუსტრიის მარეგულირებელი FINRA-ს (Financial Industry Regulatory Authority) მოდელს დაეყრდნობა — ეს არის ფედერალურად ზედამხედველი, მაგრამ ინდუსტრიის მიერ დაფინანსებული თვითრეგულირების ორგანო და არა პირდაპირი სახელმწიფო მარეგულირებელი.
როგორ იმუშავებდა ეს ჩარჩო
გეგმის მიხედვით, წამყვანი AI ლაბორატორიები საწყის ეტაპზე ნებაყოფლობით გაუზიარებდნენ გამოუშვებელ მოდელებს „სტანდარტების ორგანოს" — გამოშვებამდე მაქსიმუმ 30 დღით ადრე. მოდელები, რომლებიც გარკვეულ შესაძლებლობის ზღვარს გადააჭარბებენ, „Frontier-კლასად" ჩაითვლება და გაივლის შემოწმებას კიბერუსაფრთხოების, ბიოლოგიური იარაღის რისკის, მატყუარა ქცევისა და ავტონომიური აგენტური შესაძლებლობების მიხედვით, ხოლო ბენჩმარკები კვარტალურად განახლდება. ჰასაბისის თქმით, ორგანომ საბოლოოდ დამოუკიდებელი, დამალული ტესტებიც უნდა ჩაატაროს, რათა ლაბორატორიებმა მოდელები უბრალოდ საჯარო შემოწმებების გასავლელად არ გაწვრთნან.
ფინანსირება, მისი სიტყვებით, „მნიშვნელოვანი უნდა იყოს და, სავარაუდოდ, ძირითადად ინდუსტრიისგან უნდა მოდიოდეს", ხოლო მმართველობას განახორციელებდა საბჭო, რომელშიც დამოუკიდებელი ტექნიკური ექსპერტები და ღია კოდის წარმომადგენლები, ასევე მთავრობისა და ინდუსტრიის წარმომადგენლები შევლენ. ნებაყოფლობითი მონაწილეობა მოგვიანებით სავალდებულოდაც შეიძლება იქცეს, თუ შემოწმების სისტემა „ეფექტური და საიმედო" აღმოჩნდება.
რატომ ახლა
ჰასაბისმა წინადადება მზარდ რისკებზე დააფუძნა: მისი თქმით, რაც უფრო აგენტური ხდება მოდელები და რაც უფრო მეტ უნარს იძენენ რეკურსიული თვითგანვითარებისთვის, მით უფრო რთულდება ადამიანის მხრიდან კონტროლის შენარჩუნება, ხოლო კიბერშეტევებთან, ასევე ბირთვულ და ბიოლოგიურ იარაღთან დაკავშირებული საფრთხეები უფრო მწვავე ხდება.
წინადადება ასევე პასუხობს აშშ-ის დღემდე არსებული განხილვის პროცესის კრიტიკას. TechCrunch-ის ცნობით, Anthropic-ის Mythos-სა და OpenAI-ის Sol მოდელების ადრეული, არასისტემური სამთავრობო შემოწმებები კრიტიკის ობიექტი გახდა ტექნიკური ექსპერტიზისა და გამჭვირვალობის ნაკლებობის გამო — სწორედ ამ ხარვეზის აღმოფხვრას ისახავს მიზნად ჰასაბისის ჩარჩო, პირდაპირი სახელმწიფო რეგულირების გარეშე.
იდეას პოლიტიკური წინააღმდეგობაც ხვდება. თეთრი სახლის AI-ის მრჩეველმა სრირამ კრიშნანმა განაცხადა, რომ „AI-სთვის FDA-ს მსგავსი ორგანო არ იარსებებს" — ეს კი მიუთითებს ტრამპის ადმინისტრაციის წინააღმდეგობაზე ფორმალური საზედამხედველო სტრუქტურების მიმართ, თუნდაც ისინი ინდუსტრიის მიერ დაფინანსებული და თვითრეგულირებადი იყვნენ.