ტესტირების დროის გამოთვლა (test-time compute) არის გამოთვლითი სიმძლავრე, რომელსაც AI მოდელი ხარჯავს კითხვაზე პასუხის გაცემისას — და არა მისი წვრთნის დროს. იმის ნაცვლად, რომ პასუხი სწრაფად, ერთი გავლით გასცეს, მოდელი დამატებით „ფიქრობს“: მუშაობს შუალედურ ნაბიჯებზე, ამოწმებს საკუთარ ლოგიკას ან ქმნის რამდენიმე შესაძლო პასუხს და ადარებს მათ ერთმანეთს — სანამ საბოლოო პასუხს ჩამოაყალიბებს. სწორედ ეს იდეა უდევს საფუძვლად დღევანდელ AI მსჯელობის მოდელებს და გახდა ერთ-ერთი მთავარი ბერკეტი, რომლითაც AI ლაბორატორიები პასუხების სიზუსტეს ზრდიან — უფრო დიდი მოდელების შექმნის პარალელურად და სულ უფრო ხშირად მის ნაცვლადაც.
დიდი მოდელებიდან ხანგრძლივ ფიქრამდე
წლების განმავლობაში AI სისტემის გაუმჯობესების მთავარი გზა მარტივი იყო: დიდი ენობრივი მოდელის წვრთნა უფრო მეტ მონაცემზე. მკვლევრებმა ეს კავშირი „სკეილინგის კანონად“ აღწერეს — რაც მეტ პარამეტრსა და საწვრთნელ გამოთვლას ხარჯავ, მით უფრო პროგნოზირებადად იზრდება მოდელის შესაძლებლობები. ეს მიდგომა დღემდე მუშაობს, თუმცა ყოველი შემდეგი ნახტომი სულ უფრო ხანგრძლივ და ძვირადღირებულ წვრთნას მოითხოვს, ხოლო შედეგი თანდათან იკლებს.
ტესტირების დროის გამოთვლა, რომელსაც ინფერენსის დროის სკეილინგსაც უწოდებენ, მეორე ბერკეტს გვთავაზობს. მოდელის თავად გადიდების ნაცვლად, დეველოპერები აძლევენ მას მეტი გამოთვლის გამოყენების საშუალებას კონკრეტულ კითხვაზე პასუხის გაცემის მომენტში. ეს იდეა OpenAI-მ 2024 წელს გაავრცელა, როცა წარადგინა თავისი o1 მოდელი და აჩვენა, რომ o1-ის სიზუსტე რთულ ამოცანებზე თანმიმდევრულად უმჯობესდებოდა იმის მიხედვით, რამდენ ხანს „ფიქრობდა“ პასუხის გაცემამდე — წვრთნის ზრდასთან ერთად. ეს მნიშვნელოვანი აღმოჩნდა, რადგან AI ლაბორატორიებს მეორე ბერკეტი მისცა, რომელიც თითოეული კითხვის სირთულეს შეესაბამება და არა მთლიანი მოდელის ზომას.
როგორ ხარჯავს მოდელი დამატებით დროს
ძირითადი მექანიზმია ჯაჭვური მსჯელობა (chain-of-thought): პასუხზე პირდაპირ გადასვლის ნაცვლად, მოდელი გენერირებს დაფარულ შუალედური ნაბიჯების თანმიმდევრობას — რთულ ამოცანას ანაწილებს მცირე ნაწილებად, ამოწმებს საკუთარ სამუშაოს და ზოგჯერ უკან ბრუნდება, სანამ პასუხს გასცემს. სწორედ ეს უდევს საფუძვლად მსჯელობის მოდელებს, როგორებიცაა OpenAI-ის o-სერია, Google-ის Gemini-ის „Thinking“ ვერსიები და Anthropic-ის Claude, რომელიც ამ ფუნქციას „გაფართოებულ ფიქრს“ (extended thinking) უწოდებს — დეველოპერებს შეუძლიათ თავიანთი API-ის მეშვეობით დააწესონ ტოკენების ბიუჯეტი იმისთვის, თუ რამდენს „იფიქროს“ მოდელმა პასუხის გაცემამდე.
ტექნიკების მეორე ჯგუფი გამოთვლას ზრდის არა ერთი, უფრო ხანგრძლივი ცდით, არამედ რამდენიმე დამოუკიდებელი მცდელობის გენერირებით. მოდელი ერთსა და იმავე კითხვაზე რამდენიმე დამოუკიდებელ პასუხს გასცემს და ან ირჩევს ყველაზე ხშირად განმეორებულს — მეთოდი, რომელსაც „თვითთანმიმდევრულობას“ (self-consistency) უწოდებენ — ან იყენებს ცალკე „ვერიფიკატორ“ მოდელს საუკეთესო კანდიდატის შესაფასებლად და ასარჩევად. DeepSeek-ის R1 მოდელმა ეს ეფექტი თვალსაჩინოდ აჩვენა: საკონკურსო დონის მათემატიკურ ამოცანებზე მოდელის ერთი პასუხი სწორი იყო შემთხვევათა 71%-ში, თუმცა უამრავ სემპლირებულ პასუხს შორის უმრავლესობის კენჭისყრამ სიზუსტე 86.7%-მდე ასწია — და ეს ყველაფერი თავად მოდელის შეცვლის გარეშე.
რატომ აქვს ამას მნიშვნელობა
ტესტირების დროის გამოთვლისკენ გადასვლა ცვლის არა მხოლოდ AI კვლევას, არამედ მთელ მის ეკონომიკას. თუ სიზუსტის ზრდა სულ უფრო მეტად მოდის თითოეულ პასუხზე დახარჯული გამოთვლიდან და არა უფრო დიდი, ძვირადღირებული მოდელის წვრთნიდან, მაშინ ვიწრო ადგილი წვრთნიდან ინფერენსზე გადადის — უკვე გაწვრთნილი მოდელის განმეორებით გაშვებაზე, ყოველ ჯერზე, როცა მომხმარებელი რთულ კითხვას სვამს. სწორედ ეს ხსნის, რატომ ეჯიბრებიან ჩიპების მწარმოებლები ერთმანეთს ისეთი პროცესორების შესაქმნელად, რომლებიც სპეციალურად მოდელების გაშვებისთვისაა ოპტიმიზირებული და არა წვრთნისთვის: სწრაფი და იაფი ინფერენსი პირდაპირ განსაზღვრავს, რამდენად კარგ პასუხს მიიღებს მომხმარებელი — და არა მხოლოდ იმას, რამდენ მომხმარებელს შეძლებს კომპანია ერთდროულად მოემსახუროს.
ეს ასევე ცვლის „უფრო ჭკვიანი პასუხის“ ღირებულებას. მსჯელობის მოდელი, რომელიც რთულ კითხვაზე პასუხის გაცემამდე ოცდაათი წამი „ფიქრობს“, მნიშვნელოვნად მეტ გამოთვლას მოიხმარს ერთ პასუხზე, ვიდრე მოდელი, რომელიც დაუყოვნებლივ პასუხობს — რადგან მსჯელობის ყოველი ნაბიჯი, ხილული თუ დაფარული, გამოთვლაა, რომლისთვისაც პროვაიდერი ჩვეულებრივ ცალკე ანგარიშს უწერს მომხმარებელს. სწორედ ამიტომ მსჯელობის რეჟიმები ხშირად ფასდება ან იზღუდება ცალკე, ჩვეულებრივი ჩატისგან განსხვავებით, და სწორედ ამიტომ იქცა მოდელისთვის „ფიქრის“ უფლების მიცემა რეალურ არჩევანად ხარჯსა და სიზუსტეს შორის ნებისმიერი დეველოპერისთვის, რომელიც AI-ზე რაღაცას აშენებს — და არა მხოლოდ ტექნიკურ დეტალად.
სიახლეებში
ჩიპების მწარმოებელი Etched ცნობით მოლაპარაკებებს აწარმოებს 20 მილიარდ დოლარიან შეფასებაზე — თითქმის ოთხჯერ მეტზე, ვიდრე გასულ წელს ღირდა — ინვესტორები ფსონს დებენ იმაზე, რომ მოთხოვნა სპეციალურად AI ინფერენსისთვის აშენებულ აპარატურაზე, რომელსაც ტესტირების დროის გამოთვლა ეყრდნობა, კვლავ იზრდება, რადგან სულ უფრო მეტი მოდელის პროვაიდერი ხანგრძლივ ფიქრს ეყრდნობა, ვიდრე მუდმივად უფრო დიდ საწვრთნელ გაშვებებს.