Prompt injection არის უსაფრთხოების შეტევა, რომელიც მავნე ინსტრუქციებს მალავს იმ ტექსტში, რომელსაც AI მოდელი კითხულობს — ვებგვერდში, ელფოსტაში, დოკუმენტში — და ხელში იგდებს მოდელის ქცევას. ეს ერთ-ერთი ყველაზე სერიოზული რისკია იმ AI აგენტებისთვის, რომლებიც გარე შიგთავსს ათვალიერებენ და მასზე მოქმედებენ. ეს გვერდი განმარტავს prompt injection-ს და მის განსხვავებას jailbreak-ისგან.
პრომფტ ინექცია მავნე ინსტრუქციებს მალავს იმ ტექსტში, რომელსაც AI კითხულობს, და მის ქმედებებს იტაცებს — განსხვავებული და მზარდი რისკი ჯეილბრეიქისგან, განსაკუთრებით AI აგენტებისთვის.
ვრცლად →