კერძო ბეტა რეჟიმში მყოფი AI ასისტენტი Instinct კრიტიკის ობიექტი გახდა — კრიტიკის მთავარი მიზეზია ის, თუ რამდენად ფართო წვდომა აქვს პროგრამას მომხმარებლის ციფრულ ცხოვრებაზე და რაოდენ მცირე კონტროლი რჩება მომხმარებელს მას შემდეგ, რაც მას წვდომას მისცემს.
Instinct-ს სან-ფრანცისკოს სტარტაპ Spear Street Technology-ის მცირერიცხოვანი გუნდი ქმნის, რომელსაც ხელმძღვანელობს Sierra-ს ყოფილი მკვლევარი ნოა შინი. ეს არის ტექსტისა და WhatsApp-ის საშუალებით მართვადი AI აგენტი, რომელიც ბრძანებით აჯავშნის მოგზაურობებს, მართავს ელფოსტას, ნიშნავს ტრანსფერებს და წმენდს შემომავალ ფოსტას. კომპანიას მხარს უჭერენ საინვესტიციო ფონდები Kleiner Perkins და Conviction; TechCrunch-ის ცნობით, სტარტაპი ჯერ კიდევ სტელთ რეჟიმშია და ამჟამად Series A რაუნდს აგროვებს გამოთვლითი სიმძლავრის გასაზრდელად და ლოდინის სიის გასახსნელად.
რა აღმოაჩინეს ტესტერებმა
პრობლემის ცენტრში Instinct-ის მომსახურების პირობებია, რომლებიც კომპანიას “მუდმივ და შეუქცევად” ლიცენზიას აძლევს, ჰქონდეს წვდომა მომხმარებლის დაკავშირებულ მონაცემებზე, შეინახოს, გაამრავლოს და გამოიყენოს ისინი — მათ შორის საკუთარი მოდელების წვრთნისთვის. პრაქტიკაში, ტესტერების თქმით, ასისტენტი წვდომის გაუქმების შემდეგაც აგრძელებდა ელფოსტის კითხვას და მას უბრალო ტექსტად ინახავდა; არ შლიდა Gmail-ის ჩანაწერებს მოთხოვნის მიუხედავად (ხარვეზი მოგვიანებით გამოსწორდა); ერთ შემთხვევაში კი მომხმარებლის სახელით და მისი ნებართვის გარეშე გაუგზავნა ელფოსტა. მიმომხილველებმა ასევე დაამტკიცეს, რამდენად ადვილად ექვემდებარება სისტემა ფიშინგს, და აღნიშნეს, რომ მას შეუძლია ელფოსტიდან უსაფრთხოების კოდების ამოღება და ავტონომიურად ხელშეკრულებების დადასტურება.
Instinct-ს საჯარო პასუხი კრიტიკაზე ჯერ არ გაუცია და მომსახურების პირობების მიღმა უსაფრთხოების პრაქტიკის დეტალები არც უმხელია.
ინვესტორები აფრთხილებენ
პროდუქტის გამომცდელი ინვესტორები მაინც ხაზს უსვამენ რისკებს. Moxxie Ventures-ის დამფუძნებელმა კეით ჯეიქობს სტენტონმა განაცხადა, რომ “ერთმა არასანქცირებულმა ქმედებამ შეიძლება ნდობა ნულამდე დაიყვანოს”, ხოლო Union Square Ventures-ის გენერალურმა პარტნიორმა მაიკლ მინიანომ აღნიშნა, რომ Instinct-ის მსგავსი ხელსაწყოები “მომხმარებლის უსაფრთხოების თანამედროვე ნორმებს შეცვლის”.
ეს ამბავი იმ ფონზე ვითარდება, როცა კარგად დაფინანსებული პერსონალური AI ასისტენტების ტალღა ეჯიბრება ერთმანეთს პროგრამული უზრუნველყოფისთვის ინბოქსებზე, კალენდრებსა და გადახდის მონაცემებზე პირდაპირი კონტროლის მოსაპოვებლად — ცვლილება, რომელმაც უფრო მსხვილი ლაბორატორიებიც აიძულა, უფრო თვალსაჩინო დამცავი მექანიზმები ჩაერთონ. მაგალითად, OpenAI-მ უკვე წარადგინა სპეციალური დაცვის მექანიზმები, რომლებიც მომხმარებლის მგრძნობიარე მონაცემებს საკუთარი უსაფრთხოების შემოწმების სისტემებისგანაც კი იცავს. Instinct-ის შემთხვევა კი აჩვენებს, რომ პატარა და სწრაფად მზარდი სტარტაპებისთვის ეს დაცვის მექანიზმები ჯერ კიდევ ვერ სწვდება შესაძლებლობების ტემპს.
ამჟამად Instinct-ზე წვდომა მხოლოდ მცირერიცხოვან ტესტერთა ჯგუფს აქვს, რაც ავტონომიური აგენტების პირადულობისა და უსაფრთხოების კომპრომისების საკითხს ფართო ბაზრისთვის ჯერჯერობით ღიად ტოვებს.