OpenAI-ის განცხადებით, მისმა უახლესმა დიდმა ენობრივმა მოდელმა, GPT-5.6 Sol-მა, დამოუკიდებლად გადაწერა და ოპტიმიზაცია გაუკეთა GPU ბირთვებს, რომლებიც OpenAI-ის საწარმოო ინფერენსის ინფრასტრუქტურას ამუშავებენ — შედეგად მომსახურების ჯამური ხარჯი 20%-ით შემცირდა. კომპანიამ ამის შესახებ ამ კვირას ორ ბლოგპოსტში ისაუბრა და ეფექტურობის ეს მოგება პირდაპირ დაუკავშირა GPT-5.6-ის ოჯახის ფასების შემცირებას.

როგორ გააუმჯობესა Sol-მა საკუთარი ინფრასტრუქტურა

OpenAI-ის თქმით, Sol Codex-ის გარემოში მუშაობდა იმ ბირთვებზე, რომლებიც მოდელის მათემატიკურ ოპერაციებს ასრულებენ — კოდი, რომელიც დაწერილია Triton-სა და Gluon-ზე, ორ ღია კოდის GPU პროგრამირების ენაზე, რომლებსაც თავად OpenAI ავითარებს. მოდელმა დაადგინა, რომელი გამოთვლების გამოტოვება, პარალელიზაცია ან წინასწარ გამოთვლა იყო შესაძლებელი, და შესაბამისად გადაწერა ბირთვები.

Sol ასევე მუშაობდა სპეკულაციურ დეკოდირებაზე — ტექნიკაზე, რომელიც პატარა „სამუშაო ვერსიის“ მოდელს აძლევს საშუალებას, შესთავაზოს ტოკენები, რომლებსაც შემდეგ დიდი მოდელი ამოწმებს. OpenAI-ის თქმით, Sol-მა ასობით ექსპერიმენტი დაგეგმა და ჩაატარა ამ სამუშაო მოდელის არქიტექტურაზე, შემდეგ კი თავად წარმართა და აკონტროლა მისი წვრთნის პროცესი, საჭიროებისას დამოუკიდებლად ჩაერია პრობლემების აღმოსაფხვრელად. ამან ტოკენების გენერაციის ეფექტურობა 15%-ზე მეტით გაზარდა და პირდაპირ დააჩქარა ინფერენსიც. ცალკე, Sol-მა გააანალიზა საწარმოო ტრაფიკის შაბლონები, რათა გაეუმჯობესებინა მოთხოვნების მარშრუტიზაცია და დატვირთვის განაწილება მონაცემთა ცენტრებს შორის.

იმის გამო, რომ მოდელის მიერ დაწერილი კოდი სისწორის რისკებს შეიცავს, OpenAI-ის თქმით, ბირთვების გადამოწმებისთვის გამოიყენეს FpSan — ღია კოდის სანიტაიზერი, რომელიც კომპანიამ თავად შექმნა რიცხვითი შეცდომების საწარმოო გარემოში მოხვედრამდე დასაჭერად.

ფასების კლება მთელ ხაზზე

დაზოგილმა თანხამ დააიაფა ChatGPT-ის API ფასები. GPT-5.6 Luna, ყველაზე სწრაფი და იაფი დონე, 80%-ით გაიაფდა — $0.20 მილიონ შემავალ და $1.20 მილიონ გამომავალ ტოკენზე. GPT-5.6 Terra 20%-ით დაეცა — $2 მილიონ შემავალ და $12 მილიონ გამომავალ ტოკენზე — ფასი, რომელიც, OpenAI-ის თქმით, ახლა GPT-5.5-ის დონის შესაძლებლობებს ძველთან შედარებით ნახევარ ფასად სთავაზობს. Sol-ის საკუთარი ფასი უცვლელი დარჩა, თუმცა OpenAI-მ დაამატა „სწრაფი რეჟიმი“ (Fast mode), რომელიც სტანდარტულზე მაქსიმუმ 2.5-ჯერ სწრაფად მუშაობს, ორმაგ ფასად.

უფრო იაფი API ფასები მოჰყვა OpenAI-ის ამ კვირის გადაწყვეტილებას — დაახლოებით 100,000 მკვლევარს 2027 წლამდე უფასო წვდომა მისცა თავის ყველაზე მოწინავე მოდელებზე — ეს უფრო ფართო მცდელობის ნაწილია, გააფართოვოს იმ ადამიანების წრე, ვისაც ფინანსურად შეუძლია მისი ყველაზე შესაძლებლობიანი მოდელების საფუძველზე პროდუქტების შექმნა.

ასევე წაიკითხეთ