პროექტი შეჩერებულია: ახალი სტატიები და გამოშვებები აღარ გამოქვეყნდება. არქივი ხელმისაწვდომი რჩება.
Prompt injection არის უსაფრთხოების შეტევა, რომელიც მავნე ინსტრუქციებს მალავს იმ ტექსტში, რომელსაც AI მოდელი კითხულობს — ვებგვერდში, ელფოსტაში, დოკუმენტში — და ხელში იგდებს მოდელის ქცევას. ეს ერთ-ერთი ყველაზე სერიოზული რისკია იმ AI აგენტებისთვის, რომლებიც გარე შიგთავსს ათვალიერებენ და მასზე მოქმედებენ. ეს გვერდი განმარტავს prompt injection-ს და მის განსხვავებას jailbreak-ისგან.
OpenAI-ის თქმით, მისმა შიდა სისტემამ GPT-Red-მა prompt injection-ის ხარვეზები ადამიანურ გუნდებზე გაცილებით სწრაფად აღმოაჩინა და GPT-5.6 თავდასხმების მიმართ ექვსჯერ უფრო მედეგი გახადა.
ვრცლად →პრომფტ ინექცია მავნე ინსტრუქციებს მალავს იმ ტექსტში, რომელსაც AI კითხულობს, და მის ქმედებებს იტაცებს — განსხვავებული და მზარდი რისკი ჯეილბრეიქისგან, განსაკუთრებით AI აგენტებისთვის.
ვრცლად →