Nvidia-მ გამოუშვა ღია, 30-მილიარდპარამეტრიანი ექსპერტთა ნაზავის (Mixture of Experts) მოდელი Nemotron 3.5 Lightning, რომელიც მრავალსაფეხურიანი AI აგენტების სწრაფი, განმეორებადი ამოცანების შესასრულებლადაა შექმნილი, ასევე NeMo Switchyard — ღია კოდის როუთინგის სისტემა, რომელიც თითოეულ ამოცანას ყველაზე შესაფერის მოდელს უგზავნის. კომპანიამ ორივე პროდუქტი 11 აგვისტოს საკუთარ საინჟინრო ბლოგზე გამოაცხადა.
შექმნილია აგენტური სამუშაოს „მძიმე” ნაწილისთვის
Nvidia-ს განცხადებით, Nemotron 3.5 Lightning განკუთვნილია აგენტური სისტემების მაღალმოცულობიანი „შემსრულებელი ფენისთვის” — იმ უამრავი მცირე ქვეამოცანისთვის, როგორიცაა ხელსაწყოების გამოძახება თუ დოკუმენტებში ძებნა, რომლებსაც ჩვეულებრივ უფრო დიდი და ძვირი მსჯელობის მოდელი ასრულებდა. კომპანია აცხადებს, რომ მოდელი მსგავსი ზომის მოდელებთან შედარებით გამომავალ მონაცემებს ოთხჯერამდე უფრო სწრაფად აწარმოებს და აგენტურ ამოცანებს დაახლოებით 30%-ით სწრაფად ასრულებს, ამასთანავე ინარჩუნებს „მოწინავე დონის სიზუსტეს” კომპანიის შიდა საბენჩმარკო სისტემა PinchBench-ის მიხედვით.
გამოშვება უერთდება სწრაფად მზარდ ღია წონების მოდელების კატეგორიას, რომლებიც შექმნილია არა საერთო ჩატისთვის, არამედ აგენტური ამოცანების შესასრულებლად — Meta-ს 30-მილიარდპარამეტრიანი Muse Glimmer, რომელიც რამდენიმე კვირით ადრე გამოვიდა, მსგავს მიმართულებას ემსახურება.
როუთერი, არა მხოლოდ მოდელი
NeMo Switchyard, შესაძლოა, უფრო მნიშვნელოვანი იდეაა: ეს არის როუთინგის ფენა, რომელსაც დეველოპერები არსებულ აგენტურ კოდში ამატებენ და რომელიც სამუშაოს ავტომატურად ანაწილებს ღია, საკუთრებაში არსებულ და Nvidia-ს მოდელებს შორის — ხარისხის, სისწრაფის თუ ღირებულების საჭიროებების მიხედვით, აპლიკაციის ხელახლა დაწერის გარეშე. Nvidia-ს განცხადებით, შიდა ტესტირებამ აჩვენა, რომ კომბინაცია ინარჩუნებს მოწინავე დონის სიზუსტეს, ხოლო ამოცანის შესრულების ხარჯს Anthropic-ის Opus 4.8-ის მარტო გამოყენებასთან შედარებით დაახლოებით სამჯერ ამცირებს.
კოდის მიმოხილვის სტარტაპმა CodeRabbit-მა Nvidia-ს სტანდარტული წვრთნის რეცეპტით საკუთარი როუთერ-აგენტი დაახლოებით ორ საათში მოამზადა — ერთი ეპოქის წვრთნა, Nvidia-ს თანახმად, დაახლოებით $85 დაუჯდა.
ორივე პროდუქტი ღია კოდის წესით ვრცელდება: Nemotron 3.5 Lightning ხელმისაწვდომია Hugging Face-ზე, ModelScope-ზე, OpenRouter-ზე და Nvidia-ს საკუთარ პლატფორმაზე build.nvidia.com, ხოლო ლოკალურად შეიძლება გაეშვას Nvidia-ს RTX კომპიუტერებზე, DGX Spark-ზე, DGX Station-სა და Jetson-ზე. NeMo Switchyard-ის კოდი ხელმისაწვდომია GitHub-ზე, პარტნიორი პლატფორმების ინტეგრაციები კი მალე მოსალოდნელია.