AI ჰალუცინაცია ხდება მაშინ, როდესაც ენობრივი მოდელი გამოიმუშავებს პასუხს, რომელიც თავდაჯერებული და თანმიმდევრული ჩანს — მაგრამ ფაქტობრივად მცდარია, გამოგონილია, ან არ ემყარება რეალურ წყაროს. ეს ტერმინი ნასესხებია მედიცინიდან, სადაც ჰალუცინაცია არარსებული რამის აღქმას ნიშნავს. AI-ის კონტექსტში ეს არის გამომავალი ინფორმაცია, რომელიც სარწმუნო ჩანს, მაგრამ ვერ დასტურდება.
რატომ ხდება ეს
დიდი ენობრივი მოდელები (LLM) სწავლობენ წინა სიტყვების მიხედვით ყველაზე სავარაუდო შემდეგი სიტყვის პროგნოზირებას — ისინი ფაქტებს მონაცემთა ბაზაში არ ეძებენ. როდესაც მოდელი ისეთ დეტალს აწყდება, რაც მან კარგად არ იცის, ის არ ჩერდება — ირჩევს სტატისტიკურად ყველაზე შესაბამის გაგრძელებას. შედეგად შეიძლება გამოიყენოს მოჩვენებითი ავტორი, არარსებული ნაშრომი, ან გამოგონილი თარიღი.
პრობლემის ნაწილი ვარჯიშის სტიმულების სტრუქტურაა: მოდელები ხშირად ჯილდოვდებიან თავდაჯერებული, გლუვი პასუხებისთვის, და არა — „არ ვიცი” თქმისთვის. ამიტომ ჰალუცინაცია ტრადიციული გაგებით ბაგი არ არის — ეს ენობრივი მოდელების მუშაობის ლოგიკური შედეგია.
რას ჰგავს ეს პრაქტიკაში
ჰალუცინაციები ძირითადად ორი სახისაა:
- ფაქტობრივი შეცდომები — მოდელი ამბობს მცდარ ფაქტს: გამოგონილ ციტატას, არასწორ წელს, არარსებულ სტატისტიკას.
- ერთგულების შეცდომები — მოდელი ამახინჯებს იმ ინფორმაციას, რაც თავად მას გადაეცა: ტექსტს არასწორად ასახავს, ან მომხმარებლის სწორ ინფორმაციას „ასწორებს”.
მკვლევრებმა და ჟურნალისტებმა დოკუმენტირებულ მაგალითებს შორისაა:
- ChatGPT-მ „მოიგონა” სამეცნიერო ნაშრომები — სავარაუდო ავტორებით, ჟურნალებითა და გამოცემის წლებით — რომლებიც სინამდვილეში არ არსებობს.
- AI სამართლებრივმა ინსტრუმენტებმა შექმნეს გამოგონილი სასამართლო გადაწყვეტილებები, რომლებიც შემდეგ რეალური სამართლებრივი საბუთებში მოხვდა.
- ჩატ-ბოტებმა ცოცხალ ადამიანებზე ყალბი ბიოგრაფიული ინფორმაცია გამოიმუშავეს.
როგორ შევამციროთ ჰალუცინაციები
ჰალუცინაციების სრულ აღმოფხვრას ვერ მივაღწევთ — ეს თანამედროვე ენობრივი მოდელების ბუნებრივი თვისებაა. მაგრამ რამდენიმე პრაქტიკული ჩვევა მნიშვნელოვნად ამცირებს რისკს:
მოითხოვეთ წყაროები. სთხოვეთ მოდელს ნებისმიერ ფაქტობრივ განცხადებაზე კონკრეტული დოკუმენტი, ბმული ან ციტატა მიუთითოს. თუ ვერ ასახელებს, ეს სიგნალია — გადაამოწმეთ გარე წყაროთი. კვლევებმა აჩვენა, რომ ციტირების მოთხოვნა სტრუქტურირებულ ამოცანებში ჰალუცინაციებს დაახლოებით 40%-ით ამცირებს.
გამოიყენეთ „არ ვიცი” მიდგომა. ჩასვით ინსტრუქცია: „თუ არ ხარ დარწმუნებული, ასე თქვი — ნუ გამოიცნობ.” მოდელები ასეთ ინსტრუქციას ასრულებენ და ნაკლებად ამახინჯებენ, როდესაც გაურკვევლობის გამოხატვა სრულიად მისაღებია.
შეზღუდეთ ამოცანა. რაც უფრო კონკრეტულია კითხვა, მით ნაკლებია სივრცე გამოგონილი დეტალებისთვის. „მომიყევი X-ზე” ნაცვლად ცადეთ: „შეაჯამე მხოლოდ ის, რასაც ეს დოკუმენტი ამბობს X-ზე” და მიაწოდეთ დოკუმენტი.
გადაამოწმეთ მნიშვნელოვანი ფაქტები დამოუკიდებლად. ნებისმიერი კონკრეტული ფაქტი — სტატისტიკა, სახელი, თარიღი, სამართლებრივი მითითება — განიხილეთ საწყის წერტილად, არა საბოლოო პასუხად. სანდო წყაროსთან გადამოწმებამდე ნუ ეყრდნობით.
გამოიყენეთ მიძღვნილ საძიებო სისტემებზე დაყრდნობილი ინსტრუმენტები. ზოგიერთი AI ასისტენტი იყენებს RAG (Retrieval-Augmented Generation) მიდგომას — პასუხამდე ისინი რეალურ დოკუმენტებს ეძებენ. ასეთი სისტემები ფაქტობრივ კითხვებზე გაცილებით ნაკლებ ჰალუცინაციას იძლევა, რადგან პასუხი ნამდვილ ტექსტს ეყრდნობა.
უმჯობესდება თუ არა მოდელები?
ახალი მოდელები ადრინდელთან შედარებით ნაკლებ ჰალუცინირებენ, და მკვლევრები ამ პრობლემაზე სწრაფად მუშაობენ. მაგრამ 2026 წლის შუა პერიოდის მდგომარეობით, არცერთი ენობრივი მოდელი ჰალუცინაციებისგან სრულად თავისუფალი არ არის. სამეცნიერო კონსენსუსი კალიბრირებული გაურკვევლობის მიღწევას ისახავს მიზნად — მოდელებს, რომლებიც გაურკვევლობას ნიშნავენ, ვიდრე თავდაჯერებულ გამოგონებას.
ხშირად დასმული კითხვები
AI ჰალუცინაცია განზრახ ხდება? არა. მოდელები „არ იტყუებიან.” ისინი სტატისტიკურად ყველაზე სავარაუდო გაგრძელებას შიდა ფაქტ-ჩეკერის გარეშე გამოიმუშავებენ — და ზოგჯერ ეს მცდარ შინაარსს იძლევა.
რომელი AI მოდელი ყველაზე ნაკლებ ჰალუცინირებს? ბენჩმარქის შედეგები ამოცანების მიხედვით განსხვავდება. არცერთი მოდელი სრულად ჰალუცინაციებისგან თავისუფალი არ არის, მაგრამ ჩაშენებული ძიებით (RAG) და გაურკვევლობის კალიბრირებით გაწვრთნილი მოდელები ფაქტობრივ კითხვებზე უკეთ ფუნქციონირებენ.
უნდა შევაჩერო AI გამოყენება ჰალუცინაციების გამო? სავალდებულო არ არის. AI სასარგებლო საწყისი წერტილია კვლევისთვის, ტექსტის შედგენისა და იდეების გენერაციისთვის — უბრალოდ, ნებისმიერი კონკრეტული ფაქტი გადაამოწმეთ სანდო წყაროებთან, განსაკუთრებით იურიდიულ, სამედიცინო ან ფინანსურ კონტექსტში.
ჰალუცინაცია იგივეა, რაც AI-ის ცრურწმენა (bias)? არა. ცრურწმენა გამომავალი ინფორმაციის სისტემატური გადახრაა (მაგ., დემოგრაფიული სტერეოტიპები). ჰალუცინაცია კონკრეტულად გამოგონილი ან ფაქტობრივად მცდარი კონტენტია. ორივე სანდოობის პრობლემაა, მაგრამ განსხვავებული მიზეზებითა და გამოსავლებით.
წყაროები: ჰალუცინაცია (ხელოვნური ინტელექტი) — ვიკიპედია · Lakera: სახელმძღვანელო LLM ჰალუცინაციებზე