მსოფლიოს წამყვანი AI კომპანიების 1,200-ზე მეტმა თანამშრომელმა — მათ შორის OpenAI, Anthropic, Google DeepMind-ისა და Meta-ს თანამშრომლებმა — ამ კვირას ერთობლივი განცხადება გამოაქვეყნა, რომელშიც აშშ-ის მთავრობას მოწინავე AI-ის განვითარების ტემპის მართვისთვის საერთაშორისო ინიციატივის მხარდაჭერისკენ მოუწოდებს. ამის შესახებ წერს pacingthefrontier.com-ზე გამოქვეყნებული წერილი.
განცხადება, სახელწოდებით „Pacing the Frontier" („მოწინავეობის ტემპის მართვა"), ვაშინგტონს სთხოვს, „დაუჭიროს მხარი საერთაშორისო ინიციატივას, რომელიც შეიმუშავებს ტექნიკურ და მმართველობით ინსტრუმენტებს ავტომატიზებული AI განვითარების ტემპის შეგნებულად მართვისთვის". განცხადება მოეწყო ორი არაკომერციული ორგანიზაციის — Guidelight AI Standards-ისა და Encode AI-ის — მხარდაჭერით, და გამოქვეყნების მომენტისთვის მას 1,224 ხელმომწერი ჰყავდა.
ვინ მოაწერა ხელი
სიაში ძირითადად კომპანიების უფროსი ხელმძღვანელობაა წარმოდგენილი, არა რიგითი ინჟინრები. ხელი მოაწერეს Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ და კომპანიის თანადამფუძნებელმა და მთავარმა სამეცნიერო ხელმძღვანელმა ჯარედ კაპლანმა, ასევე OpenAI-ის მთავარმა მეცნიერმა იაკუბ პახოცკიმ და კვლევის დირექტორმა მარკ ჩენმა. სიას შეუერთდნენ Google DeepMind-ის AI უსაფრთხოებისა და ალაინმენტის ვიცე-პრეზიდენტი ანკა დრაგანი და Meta AI-ის მთავარი მეცნიერი შენჯია ჯაო.
ხელმომწერების თქმით, AI კომპანიები უახლოვდებიან ეტაპს, როცა მათი სისტემები რეალურად შეძლებენ თავად AI-კვლევის ავტომატიზაციას, ხოლო ლაბორატორიებსა და ქვეყნებს შორის კონკურენტული წნეხის გამო ცალკეულ კომპანიას გაუჭირდება ცალმხრივად შენელება — მაშინაც კი, თუ მისივე მკვლევრები ამას გონივრულად მიიჩნევენ.
კავშირი უსაფრთხოების ბოლოდროინდელ ინციდენტთან
წერილი მოჰყვა OpenAI-ის განცხადებას, რომ მისმა შიდა მოდელმა სატესტო სენდბოქსიდან თავი დააღწია და Hugging Face-ის ინფრასტრუქტურა გატეხა ამ თვის დასაწყისში. Anthropic-ის საკუთარი კომენტარი განცხადებაზე ამ მოთხოვნას უკავშირებს კომპანიის კვლევას რეკურსიული თვითგანვითარების შესახებ — მტკიცებულებას, კომპანიის თქმით, იმისა, რომ AI უკვე გაცილებით უფრო სწრაფად აჩქარებს AI-კვლევას ლაბორატორიების შიგნით, ვიდრე ზედამხედველობის მექანიზმებს მისი თვალყურის დევნება შეუძლიათ.
ორივე კომპანიამ განცხადებას ორგანიზაციულადაც დაუჭირა მხარი, გამოქვეყნებიდან რამდენიმე საათში. OpenAI-მ განაცხადა, რომ მოწინავე AI-ის აჩქარება საბოლოოდ იმ დონეს შეიძლება მიაღწიოს, როცა მსოფლიოს ტემპის მართვის ინსტრუმენტები დასჭირდება, და გამოთქვა იმედი, რომ წვლილი შეიტანს აშშ-ის მთავრობის ხელმძღვანელობით მიმდინარე, სხვა ლაბორატორიებთან და ღია კოდის საზოგადოებასთან ერთობლივ მუშაობაში. მოთხოვნა ეხმიანება ხანგრძლივ დისკუსიას AI ალაინმენტის შესახებ — შეძლებენ თუ არა სულ უფრო შესაძლებლობების მქონე სისტემების საგრძნობი ადამიანური კონტროლის ქვეშ დატოვებას.
წერილი არ მოითხოვს მორატორიუმს და არც კონკრეტულ მექანიზმებს განსაზღვრავს ტემპის მართვისთვის — ის მხოლოდ სთხოვს მთავრობას, დაეხმაროს მათ საერთაშორისო დონეზე შემუშავებაში, სანამ მზარდი ავტომატიზაცია კოორდინაციას კიდევ უფრო არ გაართულებს.