AI სისტემები შეიძლება შეცდნენ სისტემატური, პროგნოზირებადი გზით — არა შემთხვევით, არამედ ისეთი პატერნებით, რომლებიც გარკვეული ადამიანთა ჯგუფებს მუდმივად საზიანოდ ეხება. ამ მოვლენას AI მიკერძოება (AI bias) ეწოდება. ის გავლენა მოახდინა დასაქმების გადაწყვეტილებებზე, სისხლის სამართლის განაჩენებზე, ჯანდაცვაზე წვდომაზე და საკრედიტო გადაწყვეტილებებზე — დოკუმენტირებული შემთხვევების მიხედვით. ამ ცნების გაგება მნიშვნელოვანია ყველასთვის, ვინც AI-ზე დამოკიდებულ გადაწყვეტილებებს ეყრდნობა — ან ვისზეც ეს გადაწყვეტილებები ვრცელდება.
რა არის AI მიკერძოება?
AI მიკერძოება არის AI სისტემის გამომავალ შედეგებში სისტემატური შეცდომა, რომელიც კონკრეტული ჯგუფებისთვის უსამართლო ან არაზუსტ შედეგებს გამოიმუშავებს. შემთხვევითი შეცდომებისგან განსხვავებით, მიკერძოება პატერნებს მიჰყვება — სისტემა შეიძლება მუდმივად ვერ ართმევდეს ხელს ქალებთან, ან გადაჭარბებულ რისკს მიაწეროდეს გარკვეული რასობრივი ან სოციალური ჯგუფების წარმომადგენლებს.
მიკერძოება AI სისტემაში რამდენიმე ეტაპზე შეიძლება შეაღწიოს:
- სასწავლო მონაცემების მიკერძოება — თუ მოდელის სასწავლო მონაცემები წარსულის დისკრიმინაციას ასახავს (მაგ., ისტორიული დასაქმების გადაწყვეტილებები, რომლებიც კაცებს ანიჭებდა უპირატესობას), მოდელი ამ პატერნს ავტომატურად ისწავლის.
- გაზომვის მიკერძოება — როდესაც კონცეფციის წარმოსაჩენად არჩეული მეტრიკა თავად მცდარია. მაგ., დანაშაულებრიობის პრედიქტორად დაპატიმრებების ჩანაწერების გამოყენება ატარებს პოლიციური სამუშაოს არსებულ პატერნებს.
- აგრეგაციის მიკერძოება — ერთ ჯგუფზე ვარჯიშობული მოდელის სხვა პოპულაციაზე გამოყენება, განსხვავებების გათვალისწინების გარეშე.
- გამოყენების კონტექსტის მიკერძოება — მოდელის იმ კონტექსტში გამოყენება, რომლისთვისაც ის არ შემუშავებულა.
რეალური მაგალითები
ყველაზე ხშირად ციტირებული შემთხვევა 2016 წელს ProPublica-ს ანალიზმა გახადა ცნობილი: ამერიკულ სასამართლოებში გამოყენებული COMPAS ალგორითმი ადამიანებს განმეორებითი დანაშაულის ჩადენის ალბათობით აფასებდა. კვლევამ აჩვენა, რომ შავკანიანი ბრალდებულები მომავალი დამნაშავეები ყალბად ორჯერ უფრო ხშირად ნიშნებოდათ, ვიდრე თეთრკანიანები. ალგორითმის შემქმნელებმა ანალიზს დაობდნენ, მეთოდოლოგიური დავა დღემდე გრძელდება — მაგრამ შემთხვევამ ალგორითმული მიკერძოება საზოგადოების ყურადღების ცენტრში მოაქცია.
2018 წელს Reuters-მა გამოაქვეყნა, რომ Amazon-მა ჩუმად გააუქმა AI-ზე დაფუძნებული კადრების შერჩევის ინსტრუმენტი — მას შემდეგ, რაც გაირკვა, რომ ის სისტემატურად ქალ კანდიდატებს ნაკლებ ქულებს უნიშნავდა. მოდელი Amazon-ში ათი წლის განმავლობაში შემოსული რეზიუმეებით ვარჯიშდა, რომლებიც უმეტესად მამაკაცებისგან მოდიოდა; შედეგად, ის „ქალთა" სიტყვის შემცველ რეზიუმეებს და ქალთა კოლეჯების კურსდამთავრებულებს ავტომატურად ასუსტებდა.
MIT-ის მეცნიერ ჯოი ბულამვინის (Joy Buolamwini) კვლევამ აჩვენა, რომ კომერციული სახის ამოცნობის სისტემები მუქკანიანი ქალების სქესს 34.7%-ით ცდებოდნენ, ხოლო ღიაკანიანი კაცების ამოცნობისას შეცდომის მაჩვენებელი 1%-ზე დაბალი იყო. ამ კვლევამ პირდაპირ IBM-ის, Microsoft-ისა და Amazon-ის პოლიტიკის ცვლილება გამოიწვია.
2019 წელს ჟურნალ Science-ში გამოქვეყნებულმა კვლევამ დაადგინა, რომ ამერიკაში ფართოდ გამოყენებული ჯანდაცვის ალგორითმი თანაბრად ავადმყოფ შავკანიან პაციენტებს ნაკლებ რისკ-ქულას ანიჭებდა, ვიდრე თეთრკანიანებს — იმიტომ, რომ ჯანდაცვის ხარჯს იყენებდა ჯანმრთელობის საჭიროების პროქსი-მეტრიკად. ეს კი ჯგუფებს შორის ისტორიულ ეკონომიკურ უთანასწორობას ასახავდა.
რატომ ძნელია მიკერძოების აღმოჩენა და გამოსწორება
მიკერძოება ხშირად ნეიტრალური ციფრული გადაწყვეტილებებიდან იბადება. ოპტიმიზაციის მიზნის, მონაცემთა შეგროვების მეთოდის ან შეფასების ჯგუფების არჩევა — ყოველი ასეთი გადაწყვეტილება ადამიანი იღებს და მასში მიკერძოება შეიძლება გამჯდარიყოს. მოდელს შეუძლია სტანდარტული სიზუსტის ტესტები წარმატებით გაიაროს, ამავე დროს კი დისკრიმინაციული შედეგები გამოიმუშავოს — რადგან საშუალო სიზუსტის მეტრიკა მცირე ქვეჯგუფებში სუსტ მუშაობას ხშირად ფარავს.
უკუკავშირის ციკლები პრობლემას ამძიმებს. თუ მიკერძოებული მოდელი გადაწყვეტილებას იღებს — ვთქვათ, კანდიდატს გამოუყენებლად ნიშნავს — ეს გადაწყვეტილება ხშირად ბლოკავს კორექტირებადი მონაცემების გენერაციას: კანდიდატი ვერ ისაქმებს, შესრულების მონაცემი არ გროვდება, მიკერძოება თავდაჯერებულობით გრძელდება.
რა ღონისძიებები ტარდება
მარეგულირებლები ალგორითმულ მიკერძოებას სულ უფრო სამართლებრივ რისკად განიხილავენ. EU AI Act დასაქმებაში, კრედიტის გაცემაში, აუცილებელ სერვისებზე წვდომასა და სამართალდამცველობაში გამოყენებულ სისტემებს „მაღალი რისკის" კატეგორიას მიაკუთვნებს — და სავალდებულო მოითხოვს სისტემატურ მიკერძოების ტესტირებასა და ადამიანის ზედამხედველობას გამოყენებამდე. ეს საქართველოს EU-ს მიახლოების კურსისთვის განსაკუთრებით რელევანტურია.
ტექნიკური მიდგომები მოიცავს: სამართლიანობის მეტრიკებს (ჯგუფებს შორის შეცდომის მაჩვენებელთა შედარება), ადვერსარიულ ტესტირებას (მიკერძოებული შედეგების განზრახ გამოწვევა) და მრავალფეროვანი სასწავლო მონაცემების შეგროვებას. ამ მეთოდებიდან არც ერთი პრობლემას სრულად არ ხსნის.
ყველაზე თანმიმდევრული ფაქტორი, რომელიც AI სისტემებში ნაკლებ მიკერძოებასთანაა დაკავშირებული, მრავალფეროვანი სამუშაო გუნდია — ინჟინრები, მკვლევრები და პროდუქტ-მენეჯერები, რომლებიც განსხვავებული ცხოვრებისეული გამოცდილებით გასდიან სადიზაინო გადაწყვეტილებებს.
ხშირად დასმული კითხვები
AI მიკერძოება ნიშნავს, რომ სისტემა ცდება?
სულაც არ ნიშნავს. მიკერძოებულ სისტემას შეიძლება მაღალი საშუალო სიზუსტე ჰქონდეს, ამავე დროს კი კონკრეტული ჯგუფისთვის სისტემატურად ცდებოდეს. განმასხვავებელი ნიშანი პატერნია, შეცდომის მაჩვენებელი — არა.
AI მიკერძოება ყოველთვის ცუდი განზრახვიდან მოდის?
იშვიათად. მიკერძოების უმეტეს შემთხვევებში კარგი განზრახვის მქონე სადიზაინო გადაწყვეტილებებია — ხელმისაწვდომი ისტორიული მონაცემების გამოყენება, ყველაზე გავრცელებული შემთხვევისთვის ოპტიმიზაცია. განზრახვა შედეგს არ განსაზღვრავს.
შეიძლება მიკერძოება სრულად გაქრეს?
სრულად — არა. ყველა მოდელი ვარჯიშდება მონაცემებზე, რომლებიც სამყაროს ისეთს ასახავს, როგორიც ის იყო, ხოლო სამყარო ისტორიულ უთანასწორობებს შეიცავს. პრაქტიკული მიზანია მიკერძოების გამოვლენა, შემცირება, რეგულარული აუდიტი და ადამიანის ზედამხედველობის უზრუნველყოფა.
როგორ ვიცი, მიკერძოებულია თუ არა ჩემზე მოქმედი AI სისტემა?
მიეკითხეთ პროვაიდერს: ჩაუტარებია თუ არა სისტემას სამართლიანობის რეგულარული აუდიტი? ქვეჯგუფების მიხედვით გამოქვეყნებულია შეცდომის მაჩვენებლები? EU AI Act-ის მიხედვით, მაღალი რისკის სისტემები ვალდებულნი არიან ეს ტესტირება დოკუმენტირდეს.
წყაროები: Wikipedia — Algorithmic bias; Angwin et al., “Machine Bias”, ProPublica, 2016; Obermeyer et al., “Dissecting racial bias in an algorithm used to manage the health of populations”, Science, 2019.