AMD-მა 6 აგვისტოს გამოაცხადა, რომ ხელი მოაწერა შესყიდვის შესახებ საბოლოო შეთანხმებას თორონტოში დაფუძნებული სტარტაპ Taalas-თან, რომელიც ისეთ ჩიპებს აწარმოებს, სადაც AI მოდელი ფიზიკურად ჩაშენებულია სილიციუმის სტრუქტურაში. გარიგების ფინანსური პირობები გამხელილი არ არის.
2023 წელს დაფუძნებული Taalas იყენებს არასტანდარტულ მიდგომას AI ინფერენსისადმი: ზოგადი დანიშნულების პროცესორების ნაცვლად, რომლებიც მოდელის წონებს მეხსიერებასა და გამომთვლელ ბლოკებს შორის მუდმივად გადაადგილებენ, კომპანია მოდელის პარამეტრებსა და მათემატიკურ ლოგიკას პირდაპირ ჩიპის სქემაში აშენებს. კომპანია ამ მიდგომას „მოდელი არის კომპიუტერი“ ეძახის. მისი პირველი დანადგარი, HC1, მხოლოდ Meta-ს Llama 3.1-8B მოდელს უშვებს, მაგრამ ტესტებში, გავრცელებული ინფორმაციით, მან მომხმარებელზე 16,000-ზე მეტი ტოკენი წამში დააფიქსირა — მნიშვნელოვნად მეტი, ვიდრე ზოგადი დანიშნულების GPU-ები ჩვეულებრივ აღწევენ ამ ტიპის დატვირთვაზე. ამის სანაცვლოდ ჩიპი მოქნილობას კარგავს: ერთი მოდელისთვის აწყობილი ჩიპი სხვა მოდელს ვერ გაუშვებს.
Taalas-ის თანადამფუძნებელია ლუბიშა ბაიჩი, AMD-ის ყოფილი თანამშრომელი და AI ჩიპების დიზაინის კომპანია Tenstorrent-ის ყოფილი აღმასრულებელი დირექტორი. „AMD-ში გაერთიანება ჩვენ მასშტაბს, საინჟინრო რესურსებსა და გლობალურ წვდომას მოგვცემს, რაც ინოვაციების დაჩქარებაში დაგვეხმარება“, — განაცხადა ბაიჩმა AMD-ის განცხადებაში.
AMD-ის თანახმად, კომპანია Taalas-ის ტექნოლოგიას საკუთარ აქსელერატორების გეგმაში ჩართავს და სისტემურ დონეზე პროდუქტებს შექმნის Instinct GPU-ების, EPYC პროცესორების, Helios სტელაჟური პლატფორმისა და ROCm პროგრამული უზრუნველყოფის გვერდით. „Taalas-ის ტექნოლოგია და მსოფლიო დონის საინჟინრო გუნდი ჩვენს AI პორტფელს განსხვავებული ინფერენსის შესრულებითა და ეფექტურობით გაამდიდრებს“, — თქვა AMD-ის უფროსმა ვიცე-პრეზიდენტმა ვამსი ბოპანამ.
ინფერენსის ეფექტურობის ფართო ტენდენციის ნაწილი
გარიგება მოსდევს Anthropic-ის გადაწყვეტილებას შექმნას საკუთარი ჩიპების გუნდი Claude-სთვის — AI ლაბორატორიები და აპარატურის მწარმოებლები მოდელების მასშტაბური გაშვების ღირებულების შემცირების გზებს ეძებენ. AMD ასევე აფართოებს აპარატურის მიმართულებას ინფრასტრუქტურულ გარიგებებით, მათ შორის Core Scientific-თან $14 მილიარდიანი შეთანხმებით AI გამოთვლითი სიმძლავრისთვის — ეს ყველაფერი Nvidia-სთან AI მონაცემთა ცენტრების სფეროში დისტანციის შესამცირებლად.