სინთეზური მონაცემები — ტექსტი, სურათები, სენსორული მაჩვენებლები, სამედიცინო ჩანაწერები თუ მართვის ვიდეო — ინფორმაციაა, რომელსაც ალგორითმი ან სხვა AI მოდელი ქმნის, და არა რეალური ადამიანებისგან, სენსორებისგან თუ მოვლენებისგან შეგროვებული მონაცემია. ის იმდენად ზუსტად იმეორებს რეალური მონაცემების სტატისტიკურ სურათს, რომ საკმარისია AI სისტემის ვარჯიშისთვის ან ტესტირებისთვის — მაგრამ არცერთ კონკრეტულ რეალურ ჩანაწერს არ შეესაბამება. ის თანდათან AI ლაბორატორიების მთავარ „საწვავად“ იქცევა — ინტერნეტიდან შეგროვებული რეალური მონაცემების პარალელურად, ხშირად კი მის ნაცვლადაც.
რას ნიშნავს „სინთეზური“ სინამდვილეში
სინთეზური მონაცემების შექმნის რამდენიმე გზა არსებობს. ყველაზე მარტივი — წესებზე დაფუძნებული სიმულაციაა: თვითმართვადი მანქანის კომპანიას შეუძლია მილიონობით კილომეტრი „სვლა“ თამაშის ძრავაში დაპროგრამებულ სიმულატორში გაატაროს, ნაცვლად რეალური გზების გადაღებისა. მეორე მეთოდი — სტატისტიკური რეპროდუცირებაა, როცა პროგრამა ქმნის ახალ ჩანაწერებს, რომლებიც რეალური მონაცემთა ბაზის — ვთქვათ, საავადმყოფოს პაციენტთა სტატისტიკის — შაბლონებს იმეორებს, კონკრეტული პაციენტის ჩანაწერის გამეორების გარეშე. ყველაზე სწრაფად კი იზრდება თავად გენერაციული AI-ის გამოყენება: დიდი ენობრივი მოდელის ან სურათის/ვიდეოს გენერაციის მოდელის გამოყენება ახალი სავარჯიშო მაგალითების — კითხვა-პასუხის წყვილების, წარწერიანი სურათების, სინთეზური დიალოგების — შესაქმნელად, საიდანაც შემდეგ მეორე, ჩვეულებრივ უფრო პატარა, მოდელი სწავლობს.
რატომ ეყრდნობიან მას AI ლაბორატორიები
სამმა ფაქტორმა აქცია სინთეზური მონაცემები ნიშურიდან ინდუსტრიის სტანდარტად. პირველი — ღია ინტერნეტში ხარისხიანი ტექსტი თანდათან იწურება, თუ შევადარებთ იმ მოცულობას, რომლის „მონელებაც“ დღევანდელ უმსხვილეს მოდელებს შეუძლიათ; ეს კარგად ჩანს როგორ ვარჯიშობს AI მოდელი ნედლი მონაცემებიდან დაწყებული. მეორე — რეალურ მონაცემებზე წვდომას ხშირად სამართლებრივი და პრაქტიკული დაბრკოლებები ახლავს: პაციენტთა ჩანაწერები, საფინანსო ტრანზაქციები და მომხმარებელთა საუბრები პირადულობისა და საავტორო უფლებების რისკებს ატარებს, რასაც სინთეზური ანალოგი ამცირებს. მესამე — სინთეზური მონაცემები იაფად იქმნება ზუსტად იმ მოცულობითა და ფორმით, რაც მოდელს სჭირდება, მათ შორის იშვიათი შემთხვევებისთვისაც — იშვიათი დაავადება, უჩვეულო ავარია, გამონაკლისი ხელშეკრულების პუნქტი — რომელთა ბუნებრივად შეგროვებას წლები დასჭირდებოდა, და მისი მარკირება ავტომატურად, ხელით შრომის გარეშე ხდება.
ეს მიდგომა უკვე ექსპერიმენტული აღარ არის. Microsoft-ის მოდელი Phi-4, გამოშვებული 2024 წლის დეკემბერში, ძირითადად სწორედ მოდელის მიერ გენერირებულ მონაცემებზე გაიწვრთნა, ნედლი ვებ-ტექსტის ნაცვლად. Meta-მ საკუთარი Llama მოდელები გამოიყენა თავისი ვიდეო-გენერატორის, Movie Gen-ის, სავარჯიშო კადრებისთვის წარწერების შესაქმნელად. Anthropic-იც იყენებს AI-ის მიერ გენერირებულ უკუკავშირს, ადამიანის შემოწმებასთან ერთად, Claude-ის წესებისადმი დაქვემდებარებისთვის წვრთნის ნაწილად. საკონსულტაციო კომპანია Gartner-მა ჯერ კიდევ 2021 წელს იწინასწარმეტყველა, რომ 2024 წლის ბოლოსთვის AI სისტემების წვრთნაში გამოყენებული მონაცემების 60%-ზე მეტი სინთეზური იქნებოდა — ეს კარგად აჩვენებს, რამდენად სწრაფად ელოდნენ ლაბორატორიები მასზე გადასვლას.
პრობლემა: მოდელის კოლაფსი
სინთეზურ მონაცემებზე გადაჭარბებულ დამოკიდებულებას ერთი კონკრეტული რისკი ახლავს, რომელსაც მკვლევრები „მოდელის კოლაფსს“ უწოდებენ — მოდელის თანდათანობითი დეგრადაცია, რომელიც ვლინდება, როცა ის თაობიდან თაობაში ისწავლის არა რეალურ, არამედ წინა AI მოდელების მიერ გენერირებულ მონაცემებზე. ყოველ ჯერზე, როცა მოდელი მონაცემებს ქმნის და ახალი მოდელი მისგან სწავლობს, იშვიათი და უჩვეულო მაგალითები — სტატისტიკური „კუდები“, რომლებიც მოდელს გამონაკლის შემთხვევებში ინარჩუნებს სიზუსტეს — ოდნავ თხელდება, ხოლო გავრცელებული შაბლონები ოდნავ ძლიერდება. ეს ციკლი, თუ საკმარისი ახალი რეალური მონაცემის შერევის გარეშე გამეორდა, საბოლოოდ მოდელის პასუხებს ავიწროებს და სინამდვილისგან აშორებს. 2024 წელს ჟურნალ Nature-ში გამოქვეყნებულმა ილია შუმაილოვისა და კოლეგების კვლევამ აჩვენა, რომ ეს პროცესი მხოლოდ რამდენიმე თაობაში ვლინდება, როცა მოდელი ექსკლუზიურად სხვა მოდელების გამონაბოლქვზეა გაწვრთნილი.
როგორ ერიდებიან ამას ლაბორატორიები
პრაქტიკაში არცერთი წამყვანი ლაბორატორია მოდელს მხოლოდ სინთეზურ მონაცემებზე არ ავარჯიშებს. სტანდარტული დაცვის მექანიზმია სინთეზური მონაცემების გამოყენება გადამოწმებული, რეალურ მონაცემებზე დაფუძნებული ბაზის დანამატად და არა მისი შემცვლელად, ასევე სინთეზური მაგალითების გაფილტვრა და შეფასება რეალურ საკონტროლო მონაცემებთან შედარებით, გამოყენებამდე. ზოგი ლაბორატორია ერთი გენერატორი მოდელის ნაცვლად რამდენიმეს იყენებს, რათა ერთი მოდელის „ბრმა წერტილები“ თაობიდან თაობაში არ დაგროვდეს. მსგავსი შეშფოთება წამოიჭრება მაშინაც, როცა ერთი კომპანია პირდაპირ სხვა კომპანიის მოდელის პასუხებზე ავარჯიშებს საკუთარ მოდელს — ეს დაკავშირებული, თუმცა განსხვავებული პრაქტიკაა, სახელად მოდელის დისტილაცია, რომელიც დისტილაციის შეტევად იქცევა, როცა ნებართვის გარეშე ხდება.
სიახლეებში
სწორედ ეს დაძაბულობა გამოჩნდა საჯაროდ, როცა Anthropic-მა Alibaba-ს Claude-ის პასუხების რეკორდული მასშტაბით მოპარვა დასწამა — მეორე მოდელის წვრთნისთვის. ეს იმავე პრობლემის რეალურ სამყაროში გამოვლენის მაგალითია: ერთი AI-ის გენერირებული პასუხი მეორის სავარჯიშო მონაცემად იქცევა, მაგრამ იმ დაცვისა და თანხმობის გარეშე, რასაც სინთეზური მონაცემების პასუხისმგებლიანი გამოყენება მოითხოვს.
ხშირად დასმული კითხვები
სინთეზური მონაცემები უბრალოდ „ყალბი“ მონაცემებია?
არა — ისინი განზრახ იქმნება იმისთვის, რომ საკმარისი სიზუსტით იმეორებდნენ სფეროს რეალურ სტატისტიკურ შაბლონებს და ეფექტურად ავარჯიშონ მოდელი, კონკრეტულ რეალურ ადამიანთან თუ მოვლენასთან მიბმის გარეშე. დაბალხარისხიანი ან დაუდევრად შექმნილი სინთეზური მონაცემები რეალურ რისკს წარმოადგენს, მაგრამ ეს ხარისხის პრობლემაა და არა მეთოდის არსი.
შესაძლებელია მოდელი მთლიანად სინთეზურ მონაცემებზე გაწვრთნა?
ცალკეული კომპონენტები — შესაძლებელია, მაგრამ თითქმის ყველა წამყვანი ლაბორატორია წვრთნას რეალურ მონაცემებზე დაფუძნებულ ბაზას უკავშირებს, სწორედ მოდელის კოლაფსის თავიდან ასაცილებლად. სრულად სინთეზურ წვრთნაზე კვლევა ჯერ კიდევ მიმდინარეობს და სტანდარტულ პრაქტიკად არ ქცეულა.
სინთეზური მონაცემები საავტორო თუ პირადულობის პრობლემებს გვარიდებს?
ის ამცირებს კონკრეტული რეალური ჩანაწერების გამჟღავნებას, მაგრამ ავტომატური სამართლებრივი დაცვა არ არის — თუ სინთეზური მონაცემების შემქმნელი მოდელი თავად საავტორო უფლებებით დაცულ ან პირად მონაცემებზეა გაწვრთნილი, იგივე სამართლებრივი კითხვები შეიძლება მასზეც გავრცელდეს, რასაც დღეს მიმდინარე AI-ის საავტორო დავები სწორედ ამოწმებს.
რა არის მოდელის კოლაფსი, მარტივად რომ ვთქვათ?
ეს ხდება, როცა AI მოდელი ზედმეტად ბევრჯერ ვარჯიშობს წინა AI მოდელების მიერ გენერირებულ, და არა რეალურ, მონაცემებზე — თაობიდან თაობაში ჩუმად ქრება იშვიათი, მნიშვნელოვანი დეტალები, სანამ მოდელის პასუხები სინამდვილეს არ დააშორდება.
წყაროები: NVIDIA-ს განმარტება სინთეზური მონაცემების გენერაციაზე; შუმაილოვი და თანაავტორები, „AI models collapse when trained on recursively generated data,“ ჟურნალი Nature (2024); Gartner-ის 2021 წლის პროგნოზი სინთეზურ მონაცემებზე, Tech Monitor-ის გადმოცემით.