რა არის AI მოდელის კოლაფსი — და რატომ ემუქრება მომავალ მოდელებს?

AI მოდელის კოლაფსი არის თანდათანობითი გაუარესება, რომელიც ხდება მაშინ, როცა გენერაციული მოდელი — პირდაპირ თუ ირიბად — ივარჯიშება არა ადამიანის, არამედ წინა AI მოდელების მიერ შექმნილ მონაცემებზე. ყოველი მომდევნო თაობა უფრო შორდება რეალობას: იშვიათი ფაქტები, არასტანდარტული სტილი და უმცირესობის პერსპექტივები ჩუმად ქრება, ხოლო შედეგები უფრო ზოგადი, განმეორებადი და ზოგჯერ უაზრო ხდება. ეს მნიშვნელოვანია იმიტომ, რომ ინტერნეტში ტექსტისა და გამოსახულებების მზარდი ნაწილი უკვე AI-ს მიერაა შექმნილი — რაც ნიშნავს, რომ მომავალი მოდელები, თავად ისე რომ არ იცოდნენ, თავიანთი წინამორბედების „ნახმარ” მონაცემებზე ივარჯიშებენ.

რა არის მოდელის კოლაფსი

ტერმინი ჩამოყალიბდა 2024 წელს, ილია შუმაილოვისა და მისი კოლეგების კვლევაში, რომელიც გამოქვეყნდა ჟურნალ Nature-ში სათაურით „AI models collapse when trained on recursively generated data”. მკვლევრებმა ივარჯიშეს ენობრივი და გამოსახულების მოდელები, შემდეგ მომდევნო თაობა ივარჯიშა პირველი თაობის შედეგებზე, მესამე — მეორისაზე და ასე შემდეგ, რითაც მიბაძეს იმას, რაც ხდება, როცა AI-ს მიერ დაწერილი ტექსტი და შექმნილი სურათები ავსებენ იმავე ინტერნეტს, საიდანაც მომავალი მოდელები მონაცემებს იღებენ. სულ რამდენიმე თაობის შემდეგ ხარისხი მკვეთრად დაეცა. ეს განსხვავდება ზოგადად სინთეზური მონაცემების გამოყენებისგან — ლაბორატორიები სინთეზურ მონაცემებს მიზანმიმართულად და საფუძვლიანი მიზეზების გამო ქმნიან, მაგალითად, ხარვეზების ამოსავსებად ან პირადულობის დასაცავად. მოდელის კოლაფსი ხდება მაშინ, როცა ეს პროცესი უკონტროლოდ, თაობიდან თაობაში მეორდება, საკმარისი რაოდენობის რეალური, ადამიანური მონაცემის გარეშე.

როგორ ხდება ეს: ორი ეტაპი

მკვლევრები კოლაფსს ორ ეტაპად აღწერენ. ადრეულ ეტაპზე მოდელი კარგავს ინფორმაციას მონაცემთა განაწილების „კიდეებზე” — იშვიათ მოვლენებზე, არასტანდარტულ დიალექტებზე თუ უჩვეულო წერის სტილზე, რომლებიც რეალურ მონაცემებში მხოლოდ იშვიათად გვხვდება. მოდელი, რომელიც სინთეზურ მონაცემებს აგენერირებს, მიდრეკილია გაიმეოროს ის, რასაც „ტიპურად” მიიჩნევს, ამიტომ ეს იშვიათი ნიმუშები ყოველ თაობაში სულ უფრო ნაკლებად ჩნდება — ისევე, როგორც ასლის ასლი პირველად წვრილმან დეტალებს კარგავს. გვიან ეტაპზე ეს მცირე დანაკარგები გროვდება: მიახლოების, შერჩევისა და სწავლის შეცდომები თაობებზე გროვდება, სანამ მოდელის შედეგები არ დავიწროვდება ვიწრო, განმეორებად დიაპაზონამდე — ზოგჯერ ურთიერთდაუკავშირებელ ცნებებსაც კი აერთიანებს ან წარმოქმნის ტექსტს, რომელიც აღარ ასახავს ადამიანური ცოდნის რეალურ მრავალფეროვნებას.

რატომ იზრდება ეს რისკი

ინტერნეტი დიდი AI მოდელების ვარჯიშის ძირითადი წყაროა, მაგრამ ის აღარ არის წმინდად ადამიანური არქივი — საძიებო შედეგები, ფორუმის პოსტები და საფონდო სურათებიც სულ უფრო მეტად შეიცავს AI-ს მიერ შექმნილ მასალას. ეს ქმნის უკუკავშირის მარყუჟს: მოდელები, რომლებიც ნაწილობრივ ღია ინტერნეტზე ვარჯიშობენ, უნებლიეთ შთანთქავენ AI-ს მიერ შექმნილ კონტენტს, ხოლო მომდევნო თაობა კიდევ უფრო „დაბინძურებულ” ინტერნეტზე ივარჯიშებს. ყველა მკვლევარი არ ეთანხმება, რამდენად სერიოზულია ეს ეფექტი პრაქტიკაში — ფართოდ განხილულმა შემდგომმა ანალიზმა აჩვენა, რომ თავდაპირველი შედეგები შესაძლოა აისახავდეს განმეორებითი შერჩევის ცნობილ სტატისტიკურ თვისებას და რომ კოლაფსი გაცილებით ნაკლებად სერიოზულია, როცა სინთეზური მონაცემები რეალურ, ადამიანურ მონაცემებს ემატება, და არა მთლიანად ანაცვლებს მას.

შესაძლებელია თუ არა მისი თავიდან აცილება

ძირითადი დაცვის მექანიზმები არც ისე ეგზოტიკურია. AI ლაბორატორიები ცდილობენ, შეინარჩუნონ სტაბილური, ნამდვილად ადამიანის მიერ შექმნილი მონაცემების ბაზა როგორც „წამყვანი” წყარო, რომელსაც სინთეზური მონაცემები თაობებში მთლიანად არ ანაცვლებს. სულ უფრო ხშირად ისინი ასევე აკონტროლებენ მონაცემთა წარმომავლობას — რომელი მაგალითებია ადამიანის დაწერილი და რომელი მანქანურად შექმნილი — ინტერნეტის განურჩეველი შეგროვების ნაცვლად. კონტენტის ავთენტურობის სტანდარტები, როგორიცაა C2PA, რომელიც AI-ს მიერ შექმნილ მედიას ვერიფიცირებად ნიშანს ანიჭებს, მომავალი მონაცემთა შეგროვების პროცესებს აძლევს საშუალებას, გამოავლინონ და გაფილტრონ სინთეზური კონტენტი, ვიდრე უნებლიედ შთანთქავენ მას. ეს პრობლემას სრულად არ წყვეტს — ინტერნეტში ყოველი AI-ს მიერ შექმნილი ფაილის სანდო მარკირება ჯერჯერობით გადაუჭრელი ამოცანაა — მაგრამ ინდუსტრია სწორედ ამ მიმართულებით მოძრაობს, რადგან AI-ს მიერ შექმნილი კონტენტის წილი ინტერნეტში სულ იზრდება.

ხშირად დასმული კითხვები

ნიშნავს თუ არა მოდელის კოლაფსი, რომ AI მოდელები დროთა განმავლობაში უარესდებიან? არა ავტომატურად. წამყვანი ლაბორატორიები აქტიურად იცავენ ამისგან — კურირებენ სავარჯიშო მონაცემებს და ინარჩუნებენ ადამიანური წყაროების ბაზას. რისკი ყველაზე მაღალია იმ სისტემებისთვის, რომლებიც გაუფილტრავ ინტერნეტ-მონაცემებზე გაუფრთხილებლად ივარჯიშებენ, ნამდვილი ადამიანური კონტენტის „წამყვანის” გარეშე.

იგივეა თუ არა მოდელის კოლაფსი, რაც overfitting (გადავარჯიშება)? არა. Overfitting ხდება ერთი ვარჯიშის ფარგლებში, როცა მოდელი იმახსოვრებს საკუთარი მონაცემთა ბაზის თავისებურებებს. მოდელის კოლაფსი კი მოდელების თაობებში ვითარდება, როცა თითოეული მათგანი — თუნდაც ნაწილობრივ — წინა თაობის სინთეზურ შედეგებზე ივარჯიშებს.

მხოლოდ ჩატბოტებსა და ტექსტურ მოდელებზე მოქმედებს? არა. თავდაპირველმა კვლევამ და შემდგომმა ანალიზმაც იგივე გაუარესების ნიმუში აღმოაჩინა გამოსახულების გენერაციულ მოდელებშიც, არა მხოლოდ ენობრივ მოდელებში.

წყაროები: Shumailov, I. et al., „AI models collapse when trained on recursively generated data,” Nature (2024); Wikipedia: Model collapse.