ციფრული ავტორიტარიზმი არის ციფრული ტექნოლოგიების — განსაკუთრებით კი ხელოვნური ინტელექტის — გამოყენება მთავრობის მიერ მოსახლეობის მეთვალყურეობის, ცენზურისა და კონტროლისთვის, მისი მომსახურების ნაცვლად. ეს არ არის ერთი კონკრეტული პროდუქტი თუ კანონი — ეს არის ინსტრუმენტების ერთობლიობა (სახის ამოცნობა, ავტომატური ცენზურა, დეზინფორმაციული ბოტები, მოქალაქეების მონაცემებზე დაფუძნებული შეფასება), რომლებიც ერთად მთავრობას აძლევს გაცილებით მეტ კონტროლს იმაზე, თუ რას ხედავენ, ამბობენ და აკეთებენ ადამიანები, ვიდრე ადრინდელი მეთვალყურეობის ფორმები იძლეოდა.
რატომ არის „ციფრული“ სიახლე
მთავრობებს ყოველთვის სურდათ მოსახლეობის ყურება და კონტროლი. შეიცვალა მასშტაბი და ღირებულება. ყველა მოქალაქის წერილის წაკითხვას ან ყოველი დისიდენტის ხელით თვალთვალს ჩინოვნიკების არმია სჭირდება. სახის ამოცნობის სისტემის გაწვრთნას, რომელიც ქალაქის ყველა კამერის ჩანაწერს ასკანირებს, ან AI მოდელისა, რომელიც „არასასურველ“ პოსტებს სოციალურ ქსელებში აღნიშნავს — მხოლოდ მონაცემთა ცენტრი და კონტრაქტი სჭირდება. ადამიანის უფლებების ორგანიზაცია Freedom House-მა, რომელიც ინტერნეტის თავისუფლებას 2009 წლიდან აკვირდება, ეს ცვლილება წლების განმავლობაში დააფიქსირა თავის ყოველწლიურ ანგარიშში Freedom on the Net — რასაც მკვლევრები უწოდებენ ტექნო-ავტორიტარიზმს: მმართველობას, რომელიც სრულად აგებულია ყოვლისმომცველ ციფრულ კონტროლზე, და არა შემთხვევით უკავშირდება მას.
ინსტრუმენტების ნაკრები
რამდენიმე ტექნიკა მეორდება იმ ქვეყნებში, რომლებსაც Freedom House და სხვა მკვლევრები აკვირდებიან:
- მასობრივი ბიომეტრიული მეთვალყურეობა. კამერები, დაკავშირებული სახის ამოცნობის პროგრამულ უზრუნველყოფასთან, ცალკეულ ადამიანებს ამოცნობენ ბრბოში — მკვლევრების თქმით, მათ შორის, საპროტესტო აქციებზეც — ორდერისა თუ კონკრეტული ეჭვმიტანილის გარეშე.
- ავტომატური ცენზურა. Freedom House-ის 2023 წლის ანგარიშის მიხედვით, სულ მცირე 21 ქვეყანას აქვს საკანონმდებლო ჩარჩო, რომელიც პლატფორმებს მანქანური სწავლების გამოყენებას ავალდებულებს ან უბიძგებს არასასურველი პოლიტიკური, რელიგიური თუ სოციალური კონტენტის მოსაშორებლად — ხშირად იმავე დღეს მოსაშორების მოთხოვნით, რაც ადამიანური განხილვის შესაძლებლობას პრაქტიკულად გამორიცხავს.
- დეზინფორმაცია მასშტაბურად. იმავე ანგარიშის მიხედვით, გენერაციული AI ინსტრუმენტები სულ მცირე 16 ქვეყანაში გამოიყენებოდა ეჭვის დასათესად, ოპონენტების შესარცხვენად ან საზოგადოებრივი დისკუსიის დასამახინჯებლად; ცალკე, 47 მთავრობამ გამოიყენა კომენტატორები ონლაინ დისკუსიის მანიპულირებისთვის.
- სოციალური შეფასება. ჩინეთის სოციალური კრედიტის სისტემა ყველაზე ცნობილი მაგალითია იმისა, თუ როგორ გამოიყენება მონაცემები — ფინანსური, სამართლებრივი, ზოგჯერ ქცევითი — მოქალაქეებისა და ბიზნესების შესაფასებლად და, შესაბამისად, დასაჯილდოვებლად ან შესაზღუდად.
ამ ტექნიკებიდან არცერთს არ სჭირდება უახლესი AI აუცილებლად. რაც შეიცვალა თანამედროვე მანქანური სწავლებით — ეს ინსტრუმენტები ახლა მუშაობს რეალურ დროში, ეროვნულ მასშტაბში და იმ ადამიანური რესურსის გარეშე, რაც AI-მდელ მეთვალყურეობის სახელმწიფოს დასჭირდებოდა.
რატომ აქვს მნიშვნელობა
დემოკრატიების შეშფოთება ორმაგია. პირველი — ეს ინსტრუმენტები ვრცელდება: კომპანიები, რომლებიც მეთვალყურეობის ან ცენზურის სისტემას ერთი მთავრობისთვის ქმნიან, ხშირად მსგავს სისტემას საზღვარგარეთაც ყიდიან, ისე რომ ერთ ქვეყანაში შემუშავებული ტექნიკა შეიძლება სულ სხვა სამართლებრივი სისტემისა და შესაბამისი ზედამხედველობის არმქონე ქვეყანაში გამოჩნდეს. მეორე — იგივე AI, რომელიც სახის ამოცნობასა თუ კონტენტის მოდერაციაში გამოიყენება, ორმაგი დანიშნულებისაა: ზომიერად ავტორიტარულმა მთავრობამ შეიძლება ის თანდათან დანერგოს, საზოგადოებრივი უსაფრთხოების ან პლატფორმის „ნდობისა და უსაფრთხოების“ დროშის ქვეშ, დიდი ხნით ადრე, სანამ ის იმ უკიდურეს შემთხვევებს დაემსგავსება, რომლებსაც ჩვეულებრივ გვაფრთხილებენ.
სწორედ ამიტომ ეს თემა სულ უფრო ხშირად ჩნდება საერთაშორისო დიპლომატიაშიც, და არა მხოლოდ აკადემიურ კვლევაში. ის ხშირად ემთხვევა AI-ის მართვისა და ეროვნული AI სტრატეგიის გარშემო არსებულ დისკუსიებს: იგივე შესაძლებლობა, რომელიც მთავრობას საჯარო სერვისების ეფექტურად მართვაში ეხმარება, უსაფრთხოების გარანტიების გარეშე მეთვალყურეობისკენაც შეიძლება მიბრუნდეს.
სიახლეებში
ეს რისკი პირდაპირ გაეროზეც დაისვა: ჩვენი რეპორტაჟი იმის შესახებ, თუ როგორ გააფრთხილა საქართველოს პრეზიდენტმა გაეროს AI ფორუმი „ციფრული ტირანიის“ საფრთხის შესახებ, აჩვენებს, როგორ აყენებს სახელმწიფოს მეთაური ზუსტად ამ არგუმენტს გლობალური მმართველობის ფორუმზე — იმავე ფორუმზე, სადაც 193 ქვეყანამ გახსნა გაეროს პირველი გლობალური AI-მმართველობის დიალოგი. ხოლო ჩვენი მასალა იმის შესახებ, თუ როგორ იყენებენ მთავრობები AI-ს საზოგადოდ, აჩვენებს, რომ იგივე ინსტრუმენტებს ორივე მხარე აქვს — ეფექტურობა მოქალაქეებისთვის ერთი მხრივ, მეთვალყურეობის რისკი მეორე მხრივ.
ხშირად დასმული კითხვები
ციფრული ავტორიტარიზმი მხოლოდ ავტორიტარულ ქვეყნებში პრობლემაა?
არა. მკვლევრები განასხვავებენ ქვეყნებს, სადაც ეს მმართველობის ორგანიზების მთავარი პრინციპია, დემოკრატიებისგან, რომლებიც ცალკეულ ინსტრუმენტებს — მეთვალყურეობის კამერების ქსელს, ავტომატურ კონტენტ-ფილტრს — იღებენ იმ საკონტროლო მექანიზმების გარეშე, რომლებიც ჩვეულებრივ პოლიციურ უფლებამოსილებას ახლავს. ინსტრუმენტები რეჟიმის ტიპს არ ითვალისწინებს — მათი დაცვის მექანიზმები კი ითვალისწინებს.
ვინ აკვირდება ამას გლობალურად?
Freedom House-ის ყოველწლიური Freedom on the Net ანგარიში ყველაზე ხშირად ციტირებადი წყაროა, მასთან ერთად — აკადემიური მკვლევრებისა და ციფრული უფლებების ორგანიზაციების, მაგალითად AlgorithmWatch-ის, კვლევებიც.
ნიშნავს თუ არა ნებისმიერი AI-კამერის ან კონტენტ-ფილტრის გამოყენება, რომ მთავრობა „ავტორიტარულია“?
არა — ტერმინი აღწერს ისეთი ინსტრუმენტების გამოყენების ნიმუშს, რომელიც უფლებებს ზღუდავს ან წინააღმდეგობას თრგუნავს ანგარიშვალდებულების გარეშე, და არა უბრალოდ ტექნოლოგიის არსებობას. ერთი და იმავე სახის ამოცნობის თუ კონტენტ-მოდერაციის სისტემა შეიძლება გამოყენებულ იქნას ორდერით, ზედამხედველობითა და გასაჩივრების უფლებით, ან — მათ გარეშე; სწორედ ეს განსხვავება აინტერესებთ მკვლევრებს.
წყაროები: Freedom House, Freedom on the Net 2023: The Repressive Power of Artificial Intelligence; Freedom House, The Rise of Digital Authoritarianism (2018).