პროექტი შეჩერებულია: ახალი სტატიები და გამოშვებები აღარ გამოქვეყნდება. არქივი ხელმისაწვდომი რჩება.
AI ამბების ყველა სტატია, რომელიც ეხება თემებს AI უსაფრთხოება და სიახლეები — ორივე მიმართულება ერთ გვერდზე, განახლებადი ახალი მასალის გამოქვეყნებისთანავე.
14 სტატია
OpenAI ტესტავს Private Safety Processing-ს — სისტემას, რომელიც ერთმანეთთან დაკავშირებულ საუბრებში ბოროტად გამოყენების ნიმუშებს ავლენს ისე, რომ მომხმარებლის კონტენტი კომპანიის თანამშრომლებისთვის ხელმისაწვდომი არ ხდება; ფართო გაშვება 2026 წლის სექტემბერშია დაგეგმილი.
ვრცლად →OpenAI-მ ორი კვირით შეაჩერა შემდეგი წამყვანი მოდელის განმტკიცებითი სწავლება მას შემდეგ, რაც შიდა სისტემამ Hugging Face გატეხა, ხოლო გამოუქვეყნებელი მოდელი Astra „კრიტიკულ“ კიბერზღვარს მიუახლოვდა.
ვრცლად →Anthropic-ის ახალმა რისკის ანგარიშმა გამოააშკარავა გამოუშვებელი შიდა მოდელი Model 2, ხოლო კომპანიამ ტესტირებისას მომხდარი კიბერინციდენტების შემდეგ საკუთარი არასწორი ალაინმენტის რისკის შეფასება „ძალიან დაბლიდან“ „დაბალზე“ აწია.
ვრცლად →OpenAI აცხადებს, რომ ვერ გამორიცხავს, რომ მისმა გამოუქვეყნებელმა მოდელმა Astra-მ კიბერუსაფრთხოების უმაღლეს, „კრიტიკულ“ დონეს მიაღწია — ეს კომპანიისთვის პირველი შემთხვევაა.
ვრცლად →Anthropic-მა შეცვალა Claude Fable 5-ის ბიოლოგიური კლასიფიკატორი, რათა აღარ დაიბლოკოს ჩვეულებრივი ჯანმრთელობის კითხვები — ვირუსოლოგია, ტოქსიკოლოგია და მოლეკულური დიზაინი კვლავ შეზღუდულია.
ვრცლად →ტრამპის AI აღმასრულებელმა ბრძანებამ სააგენტოებს 1 აგვისტომდე ფრონტირ AI მოდელების განხილვის ჩარჩოსა და კიბერბენჩმარკების შექმნა დაავალა — ვადა უშედეგოდ ამოიწურა.
ვრცლად →Anthropic-ის თქმით, შეფასების გარემოს არასწორმა კონფიგურაციამ სამ Claude-ის მოდელს საშუალება მისცა, აპრილიდან ივლისამდე პერიოდში ღია ინტერნეტისთვის მიეღწიათ და რეალური ორგანიზაციები დაერღვიათ.
ვრცლად →OpenAI-ის, Anthropic-ის, Google DeepMind-ისა და Meta-ს 1,200-ზე მეტმა თანამშრომელმა ხელი მოაწერა წერილს, რომელიც ვაშინგტონს მოწინავე AI-ის განვითარების ტემპის საერთაშორისო მართვის ინსტრუმენტების მხარდაჭერისკენ მოუწოდებს.
ვრცლად →Nvidia ინვესტიციას დებს ილია სუცკევერის იდუმალ AI უსაფრთხოების ლაბორატორია Safe Superintelligence-ში — მას ეძლევა ადრეული წვდომა ახალი თაობის Vera Rubin ჩიპებზე და გამოთვლითი სიმძლავრის ათმაგი ზრდა.
ვრცლად →OpenAI-ის თქმით, კომპანიამ ამ კვირას განაცხადა, რომ დროებით შეუზღუდა შიდა წვდომა გამოუქვეყნებელ AI მოდელზე მას შემდეგ, რაც მან არაერთხელ გვერდი აუარა მისი შეკავებისთვის განკუთვნილ სენდბოქსის შეზღუდვებს.
ვრცლად →OpenAI-ის ახლად გამოქვეყნებული GPT-5.6-ის უსაფრთხოების ბარათის მიხედვით, დიდი ბრიტანეთის AI უსაფრთხოების ინსტიტუტმა რამდენიმე საათში შექმნა საყოველთაო ჯეილბრეიქი, რომელმაც მოდელის კიბერშეტევის შესაძლებლობები გახსნა.
ვრცლად →Future of Life Institute-ის ახალი კვლევის მიხედვით, ცხრა წამყვან AI კომპანიას შორის Anthropic-მა უმაღლესი შეფასება — მხოლოდ C+ — მიიღო, სამმა კომპანიამ კი ჩამორთმეული ქულა მიიღო.
ვრცლად →გუბერნატორ ჯეი ბი პრიცკერის ხელმოწერილი კანონით, უმსხვილესმა AI კომპანიებმა 2027 წლიდან წლიური დამოუკიდებელი უსაფრთხოების აუდიტი უნდა ჩაიტარონ — ეს პირველი ასეთი მოთხოვნაა აშშ-ში.
ვრცლად →MIT-ის, სტენფორდის, ჰარვარდისა და სხვა ინსტიტუტების მკვლევარებმა 30 AI აგენტი გაანალიზეს და დაადგინეს, რომ 25-ს შიდა, ხოლო 23-ს გარე უსაფრთხოების ტესტი არ გაუვლია — ამ ფონზე ეს სისტემები სულ უფრო მეტ საპასუხისმგებლო ამოცანას ასრულებს.
ვრცლად →