დიპფეიქი (deepfake) არის ფოტო, ვიდეო ან ჩაწერილი კლიპი, რომელშიც ხელოვნურმა ინტელექტმა ჩაანაცვლა, შეცვალა ან მთლიანად შექმნა რეალური ადამიანის სახე, ხმა ან გამოსახულება. სიტყვა იქმნება ორი ტერმინისგან: «deep learning» (ღრმა სწავლება — AI-ის ის ტოტი, რომელიც ამ ტექნოლოგიის საფუძველია) და «fake» (ყალბი). შედეგი გამოიყურება, ჟღერს და მოძრაობს ისე, თითქოს ადამიანი ამბობდა ან აკეთებდა ამ რამეს — მაგრამ ეს სინამდვილეში არასდროს მომხდარა.
ტერმინი 2017 წლის ბოლოს გამოჩნდა, როდესაც Reddit-ის მომხმარებელმა სახელად «deepfakes» სახის შეცვლილი ვიდეოები გამოაქვეყნა — ეს იყო ამ ტექნოლოგიის პირველი ფართოდ გავრცელებული მაგალითები. მას შემდეგ ინსტრუმენტები გაცილებით მძლავრი გახდა: ადრეული გენერაციულ-ანტაგონისტური ქსელები (GAN) 2023 წლიდან დიფუზიური მოდელებმა შეცვალა, რომლებიც მნიშვნელოვნად დამაჯერებელ შედეგებს იძლევა.
როგორ იქმნება დიპფეიქები
დიპფეიქების უმეტესობა სამ კატეგორიაში ჯდება: სახის შეცვლა ვიდეოში (ერთი ადამიანის სახე ჩანაწერში მეორეს ჩაენაცვლება), ხმის კლონირება (ადამიანის ხმა სინთეზირდება მოკლე ჩანაწერის საფუძველზე) და სინთეზური სურათები (სახეები, რომლებიც ან საერთოდ არ არსებობს, ან რეალური ადამიანის გამოსახულების შესაცვლელად არის შექმნილი).
ადრეული ინსტრუმენტები GAN-ებს ეყრდნობოდა: ორი ნეირონული ქსელი ეჯიბრებოდა ერთმანეთს — ერთი ყალბს ქმნიდა, მეორე ცდილობდა ამოეცნო — სანამ გენერატორი საკმარისად დამაჯერებელი გახდებოდა. 2023 წლიდან დიფუზიური მოდელები გახდა წამყვანი მიდგომა: ისინი შემთხვევითი ხმაურიდან იწყებენ და ეტაპობრივად ამუშავებენ მას რეალისტურ გამოსახულებამდე. ამ მოდელებმა ძველ GAN-ებზე ორიენტირებული გამოვლენის ინსტრუმენტებს ჩამოუარეს — მკვლევარებს გამოვლენის სისტემები ნულიდან ხელახლა მოუწიათ შექმნა.
სად გამოიყენება დიპფეიქები
დიპფეიქებს ლეგიტიმური გამოყენება მრავალი აქვს. კინოწარმოებაში ისინი ეხმარება მსახიობების გახალისიანებაში, კასკადიორების სახის შეცვლაში, ან ვიდეოს მეორე ენაზე გადახმოვანებაში ბაგის სინქრონული მოძრაობის შენარჩუნებით. ჯანდაცვაში ხმის კლონირება ALS-ით დაავადებულ ადამიანებს ეხმარება, შეინახონ საკუთარი ხმა მეტყველების დაკარგვამდე.
მაგრამ მავნე გამოყენება გაცილებით მეტ ყურადღებას იქცევს. ყველაზე გავრცელებულია სინთეზური ინტიმური კონტენტი — რეალური ადამიანის სახის გადატანა ექსპლიციტურ მასალაში, მისი თანხმობის გარეშე. სხვა შემთხვევები მოიცავს გამოგონილ ვიდეოებს პოლიტიკოსებისგან, რომლებიც ამომრჩეველთა შეცდომაში შესაყვანად არის გამიზნული, ასევე ფინანსურ თაღლითობას, სადაც ხელმძღვანელის ყალბი ვიდეო-ზარი გადარიცხვის ნებართვის მისაღებად გამოიყენება (2024 წელს ჰონგ-კონგის ერთი კომპანია ამ გზით 25 მლნ დოლარი დაკარგა).
როგორ ამოვიცნოთ დიპფეიქი
გამოვლენა ნამდვილად რთულია, და ერთი ყოვლისმომცველი ნიშანი არ არსებობს — მაღალი ხარისხის დიპფეიქები სწორედ ვიზუალური გამოვლენის გვერდის ავლისთვის არის შექმნილი. მიუხედავად ამისა, რამდენიმე ნიშანი ყურადღებს ამახვილებს:
- განათების ან ჩრდილის შეუსაბამობა — სახე ფონისგან განსხვავებულად არის განათებული, ან ჩრდილები არასწორ მხარეს მიდის.
- კანის ტექსტურის უჩვეულობა — კანი ხელოვნურად გლუვია და ბუნებრივ ფორების ცვალებადობას მოკლებულია, განსაკუთრებით თმის ხაზთან.
- თვალის უბუნებრივი მოძრაობა — ციმციმი მექანიკურ შთაბეჭდილებას ტოვებს, ან გუგა სინათლეს არარეალისტურად ასახავს.
- ცვალებადი კიდეები — სახის ან თმის კიდეები ციმციმებს, ბუნდოვდება ან დამახინჯდება მოძრაობისას.
- ხმა-ბაგის სინქრონიზაციის პრობლემა — ბაგე ნათქვამ სიტყვებს ზუსტად ვერ მისდევს.
დასახმარებლად არსებობს უფასო ონლაინ ინსტრუმენტები. Deepfake Detector ვიდეოს, სურათისა და აუდიოს 50 სკანს თვეში უფასოდ სთავაზობს. Reality Defender-საც მსგავსი უფასო გეგმა გააჩნია. არცერთი ინსტრუმენტი შეუცდომელი არ არის — გონივრული სკეპტიციზმი უცნობი წყაროებიდან მოსული კონტენტის მიმართ ყველაზე სანდო დაცვა რჩება.
სიახლეები
ევროკავშირის განახლებული AI Act 2026 წელს ავალდებულებს AI სისტემებს 2026 წლის აგვისტოდან სინთეზური აუდიო, სურათი და ვიდეო მანქანისმიერ-წასაკითხ ფორმატში მონიშნონ. 2026 წლის დეკემბრიდან კი კრძალავს თანხმობის გარეშე ინტიმური დიპფეიქების შექმნას მთელ ევროკავშირში. დამრღვევებს ემუქრება €15 მლნ-მდე ჯარიმა ან გლობალური ბრუნვის 3%. სიახლისთვის იხილეთ: ევროკავშირი AI Act-ს მარტივდება — მაღალი რისკის AI-სთვის ვადები გაიგრძელდა, ინტიმური სინთეზური კონტენტი — აიკრძალა, ასევე სრული სახელმძღვანელო: რა არის ევროკავშირის AI აქტი — ეხება თუ არა ქართულ კომპანიებს?.
ხშირი კითხვები
ყველა დიპფეიქი უკანონოა?
არა. კინოწარმოებაში, სატირაში ან განათლებაში გამოყენებული დიპფეიქები შესაბამისი თანხმობით ან გამჟღავნებით ზოგადად ლეგალურია. უკანონო — და ახლა ევროკავშირში პირდაპირ აკრძალული — არის სინთეზური ინტიმური კონტენტი თანხმობის გარეშე, ყალბი ვიდეოთი ჩადენილი თაღლითობა ან განზრახ ცილისმწამებლური კონტენტის გავრცელება.
შეიძლება გრძნობამ ამოვიცნო დიპფეიქი?
ზოგჯერ — ზემოაღნიშნული ნიშნების გამოყენებით. მაგრამ ეს სანდო გზა არ არის. მაღალი ხარისხის დიპფეიქები სწორედ ვიზუალური გამოვლენის გვერდის ავლისთვის შექმნილია. მნიშვნელოვანი ინფორმაციის გადამოწმებისას ვიდეოს ნაცვლად სანდო წყაროების გამოყენება სჯობს.
EU AI Act ეხება ევროკავშირის გარეთ შექმნილ დიპფეიქებს?
კი, თუ ინსტრუმენტი ევროელ მომხმარებლებამდე აღწევს. კანონი ვრცელდება ნებისმიერ AI სისტემაზე, რომელიც ევროკავშირის ბაზარზეა ან ევროკავშირის მომხმარებლებზე გავლენას ახდენს, სადაც კი კომპანია დარეგისტრირებული არ უნდა იყოს.
ვინ არის პასუხისმგებელი დიპფეიქზე — ინსტრუმენტი თუ მისი შემქმნელი?
ევროკავშირის კანონის მიხედვით — ორივე. AI Act ავალდებულებს ინსტრუმენტების შემქმნელ კომპანიებს და კონტენტის შემქმნელ მომხმარებლებს. სინთეზური ინტიმური გამოსახულებების შემქმნელ ფიზიკურ პირებს კი პირადი სისხლისსამართლებრივი პასუხისმგებლობა ეკისრებათ ევროკავშირის წევრ-სახელმწიფოთა ეროვნული კანონმდებლობით.
წყაროები: Deepfake — Wikipedia · EU AI Act, მუხლი 50 · Regulation (EU) 2024/1689