OpenAI ტესტავს ახალ უსაფრთხოების მონიტორინგის სისტემას სახელწოდებით Private Safety Processing, რომელსაც შეუძლია ერთმანეთთან დაკავშირებულ საუბრებში ბოროტად გამოყენების ნიმუშების აღმოჩენა კომპანიის თანამშრომლებისთვის რეალური კონტენტის გახსნის გარეშე — ამის შესახებ OpenAI-მ 2026 წლის 19 აგვისტოს გამოქვეყნებულ განცხადებაში აღნიშნა.
რა ხარვეზს ავსებს
OpenAI უკვე გვთავაზობს მონაცემთა ნულოვან შენახვას (Zero Data Retention) ზოგიერთი მოწინავე მოდელისთვის, რაც ნიშნავს, რომ მომხმარებლის მოთხოვნები და პასუხები მოთხოვნის დამუშავების შემდეგ არ ინახება. თუმცა კომპანიის თქმით, ყველაზე სერიოზული უსაფრთხოების რისკები — განმეორებითი მცდელობები დაუცველობის საპოვნელად, რამდენიმე ანგარიშს შორის კოორდინაცია ან AI აგენტის თანდათანობითი და შეუმჩნეველი გადახრა დავალებიდან ხანგრძლივი დავალების შესრულებისას — ხშირად მხოლოდ მაშინ ჩანს, როცა შესაძლებელია რამდენიმე ურთიერთქმედების ერთდროულად განხილვა. მკაცრი ნულოვანი შენახვის პირობებში ასეთი განხილვა შეუძლებელი იყო, რის გამოც ზოგიერთ მომხმარებელს სრულ მონიტორინგსა და უფრო მკაცრ კონფიდენციალურობის გარანტიებს შორის არჩევანის გაკეთება უწევდა.
როგორ მუშაობს
Private Safety Processing აანალიზებს მომხმარებლის ერთმანეთთან დაკავშირებულ ურთიერთქმედებებს ავტომატური შემოწმებების საშუალებით, რომლებიც მსგავსია იმ მექანიზმებისა, რასაც OpenAI უკვე იყენებს ნულოვანი შენახვის განლაგებებში — მხოლოდ იმ განსხვავებით, რომ ეს ანალიზი ერთ საუბარს კი არ შემოიფარგლება, არამედ რამდენიმე სესიაზე ვრცელდება. მომხმარებლის კონტენტი რჩება მომხმარებლის საკუთარ ინფრასტრუქტურაზე ან ინახება OpenAI-ის სერვერებზე დაშიფრული ისეთი გასაღებებით, რომლებსაც მომხმარებელი აკონტროლებს. თუ სისტემა რისკს აღმოაჩენს, OpenAI-ის თქმით, კომპანია იღებს მხოლოდ ვიწროდ განსაზღვრულ სიგნალს აღმოჩენილი აქტივობის ტიპის შესახებ — არა თავად მოთხოვნებსა და პასუხებს. შემდეგ მომხმარებელს შეუძლია აღნიშნული აქტივობის საკუთარი ჟურნალებით შესწავლა და, სურვილის შემთხვევაში, დეტალების გაზიარება OpenAI-სთან, თუ მიღებული ზომის გასაჩივრებას გადაწყვეტს.
გაშვების გრაფიკი
OpenAI ამჟამად სისტემას რამდენიმე ადრეულ მომხმარებელთან ტესტავს. კომპანია გეგმავს, რომ 2026 წლის სექტემბერში ფართო გაშვებასთან ერთად ტექნიკურ თეთრ წიგნსაც გამოაქვეყნებს, სადაც აღმოჩენის მეთოდები დეტალურად იქნება აღწერილი.
ეს ნაბიჯი პასუხობს დაძაბულობას, რომელიც იზრდება, რადგან AI აგენტები ბიზნესებისთვის სულ უფრო ხანგრძლივ და დამოუკიდებელ დავალებებს ასრულებენ: რაც უფრო დამოუკიდებლად მოქმედებს მოდელი, მით მეტი ურთიერთდაკავშირებული ურთიერთქმედების ნახვა სჭირდება უსაფრთხოების სისტემას პრობლემების აღმოსაჩენად — და ეს ხდება მაშინ, როცა კორპორატიული მომხმარებლები მონაცემთა დამუშავების უფრო მკაცრ გარანტიებს ითხოვენ. OpenAI-მაც წელს საკუთარი უსაფრთხოების პრაქტიკის მკაცრი შემოწმება განიცადა — ცალკეულ შემთხვევაში მან კიბერრისკის გამო მოწინავე მოდელის წვრთნა შეაჩერა — ხოლო სხვა ლაბორატორიები, მათ შორის Google, რომელმაც ღია კოდად გამოუშვა დაშიფრული AI დასკვნის კომპილატორი HEIR, საკუთარი გზებით ცდილობენ კონფიდენციალურობისა და ზედამხედველობის შეთანხმებას.