ალექს ტერნერმა, რომელმაც ორ წელზე მეტი ხნის განმავლობაში იმუშავა Google DeepMind-ის გასწორების (alignment) გუნდში, დაწვრილებით აღწერა, რატომ დატოვა კომპანია ამ გაზაფხულზე — პენტაგონთან დადებული საიდუმლო კონტრაქტის გამო, რომელიც ეხება Gemini-ს გამოყენებას და, მისი თქმით, სამხედრო მიზნებისთვის მოდელის გამოყენებას რეალურ შეზღუდვებს არ უწესებს.
რას იძლევა კონტრაქტი
ტერნერის თქმით, Google-მა აშშ-ს თავდაცვის დეპარტამენტთან შეთანხმება 27 აპრილს გააფორმა და პენტაგონს Gemini-ის გამოყენების უფლება მისცა „ნებისმიერი კანონიერი სამთავრობო მიზნისთვის", მათ შორის სამხედრო ამოცანებისთვის. კონტრაქტში აღნიშნულია, რომ სისტემა „არ უნდა გამოიყენებოდეს შიდა მასობრივი თვალთვალისთვის ან ავტონომიური იარაღისთვის… შესაბამისი ადამიანური ზედამხედველობისა და კონტროლის გარეშე" — თუმცა ტერნერის თქმით, ეს ფორმულირება სავალდებულო ხასიათს არ ატარებს, და თავად შეთანხმება ცალკე ადასტურებს, რომ Google-ს არ აქვს უფლება ვეტო დაადოს კანონიერ სამთავრობო ოპერატიულ გადაწყვეტილებას.
უარყოფილი წინადადება
ტერნერის თქმით, თვეების განმავლობაში ცდილობდა შედეგის შეცვლას Google-ის შიგნიდან. მან შეადგინა 25-გვერდიანი დოკუმენტი სავალდებულო დაცვის მექანიზმებით — მათ შორის, სამიზნის შერჩევასთან დაკავშირებულ ნებისმიერ გადაწყვეტილებაზე ადამიანური კონტროლის სავალდებულოობა და შვიდკაციანი საზედამხედველო ჯგუფი, რომელიც კომპანიის მთავარ მეცნიერს დაექვემდებარებოდა — და გაუგზავნა DeepMind-ის აღმასრულებელ დირექტორს დემის ჰასაბისს და მთავარ მეცნიერს ჯეფ დინს. ასევე დაეხმარა კომპანიის შიდა პეტიციის ორგანიზებას, რომელსაც დაახლოებით 600-მა თანამშრომელმა მოაწერა ხელი და კომპანიას მოუწოდებდა, არ მოეწერა ხელი შეთანხმებაზე. ამან კონტრაქტის პირობები ვერ შეცვალა.
„როცა Google-მა ხელი მოაწერა, მე უბრალოდ ვეღარ ვაგრძელებდი მუშაობას," წერს ტერნერი. „ჩემმა გონებამ თქვა ‘არა’." მან მალევე დატოვა კომპანია და ამბობს, რომ მას შემდეგ კონკურენტი AI ლაბორატორიების შემოთავაზებებზე უარი უთქვამს.
Google-ის წარმომადგენელმა Business Insider-ს განუცხადა, რომ კომპანია ტერნერის იდეების მიმართ ღია იყო და კვლავ იცავს პოზიციას, რომ AI არ უნდა გამოიყენებოდეს შიდა მასობრივი თვალთვალისთვის ან ავტონომიური იარაღისთვის ადამიანური ზედამხედველობის გარეშე.
უფრო ფართო ტენდენციის ნაწილი
გადადგომა მოჰყვა Google-ის 2025 წლის დასაწყისში მიღებულ გადაწყვეტილებას, ამოეღო თავისი AI პრინციპებიდან დაპირება, რომ არ შექმნიდა იარაღისთვის განკუთვნილ AI-ს, და ემთხვევა თანამშრომლების მზარდი ეთიკური შეშფოთების პერიოდს სამხედრო AI კონტრაქტების გარშემო მთელ ინდუსტრიაში — სფერო, რომლისთვისაც DeepMind-ის საკუთარმა აღმასრულებელმა დირექტორმა ცალკე შესთავაზა სპეციალური საზედამხედველო ორგანოს შექმნა. ტერნერის მოთხრობაში ასევე აღწერილია შიდა შეშფოთება, რომელიც წელს ადრე პენტაგონის მსგავსი ზეწოლის გამო წარმოიშვა Anthropic-ის, Google-ის მთავარი კონკურენტის, მიმართ.