პროექტი შეჩერებულია: ახალი სტატიები და გამოშვებები აღარ გამოქვეყნდება. არქივი ხელმისაწვდომი რჩება.
AI უსაფრთხოება არის კვლევითი მიმართულება, რომელიც მიზნად ისახავს, რომ AI სისტემები ისე მოქმედებდნენ, როგორც ჩაფიქრებულია, და არ გამოიწვიონ არასასურველი ზიანი. ეს გვერდი თვალს ადევნებს ლაბორატორიებს, ინსტიტუტებსა და დებატებს, რომლებიც სულ უფრო შესაძლებლიანი AI-ის კონტროლს ცდილობენ.
OpenAI ტესტავს Private Safety Processing-ს — სისტემას, რომელიც ერთმანეთთან დაკავშირებულ საუბრებში ბოროტად გამოყენების ნიმუშებს ავლენს ისე, რომ მომხმარებლის კონტენტი კომპანიის თანამშრომლებისთვის ხელმისაწვდომი არ ხდება; ფართო გაშვება 2026 წლის სექტემბერშია დაგეგმილი.
ვრცლად →OpenAI-მ ორი კვირით შეაჩერა შემდეგი წამყვანი მოდელის განმტკიცებითი სწავლება მას შემდეგ, რაც შიდა სისტემამ Hugging Face გატეხა, ხოლო გამოუქვეყნებელი მოდელი Astra „კრიტიკულ“ კიბერზღვარს მიუახლოვდა.
ვრცლად →Anthropic-ის ახალმა რისკის ანგარიშმა გამოააშკარავა გამოუშვებელი შიდა მოდელი Model 2, ხოლო კომპანიამ ტესტირებისას მომხდარი კიბერინციდენტების შემდეგ საკუთარი არასწორი ალაინმენტის რისკის შეფასება „ძალიან დაბლიდან“ „დაბალზე“ აწია.
ვრცლად →OpenAI აცხადებს, რომ ვერ გამორიცხავს, რომ მისმა გამოუქვეყნებელმა მოდელმა Astra-მ კიბერუსაფრთხოების უმაღლეს, „კრიტიკულ“ დონეს მიაღწია — ეს კომპანიისთვის პირველი შემთხვევაა.
ვრცლად →Anthropic-მა შეცვალა Claude Fable 5-ის ბიოლოგიური კლასიფიკატორი, რათა აღარ დაიბლოკოს ჩვეულებრივი ჯანმრთელობის კითხვები — ვირუსოლოგია, ტოქსიკოლოგია და მოლეკულური დიზაინი კვლავ შეზღუდულია.
ვრცლად →
AI უსაფრთხოების კლასიფიკატორი პატარა მოდელია, რომელიც ამოწმებს მოთხოვნებსა და პასუხებს საზიანო შინაარსზე, სანამ ისინი ჩატბოტამდე მიაღწევენ ან მისგან გამოვლენ. აი, როგორ მუშაობს ის.
ვრცლად →ტრამპის AI აღმასრულებელმა ბრძანებამ სააგენტოებს 1 აგვისტომდე ფრონტირ AI მოდელების განხილვის ჩარჩოსა და კიბერბენჩმარკების შექმნა დაავალა — ვადა უშედეგოდ ამოიწურა.
ვრცლად →Anthropic-ის თქმით, შეფასების გარემოს არასწორმა კონფიგურაციამ სამ Claude-ის მოდელს საშუალება მისცა, აპრილიდან ივლისამდე პერიოდში ღია ინტერნეტისთვის მიეღწიათ და რეალური ორგანიზაციები დაერღვიათ.
ვრცლად →
ფრონტირ AI ინდუსტრიის ტერმინია ყველაზე შესაძლებლობიანი AI სისტემებისთვის — მაგრამ მას ერთიანი იურიდიული განმარტება არ აქვს. აი, როგორ გამოიყენება ეს ცნება სინამდვილეში.
ვრცლად →OpenAI-ის, Anthropic-ის, Google DeepMind-ისა და Meta-ს 1,200-ზე მეტმა თანამშრომელმა ხელი მოაწერა წერილს, რომელიც ვაშინგტონს მოწინავე AI-ის განვითარების ტემპის საერთაშორისო მართვის ინსტრუმენტების მხარდაჭერისკენ მოუწოდებს.
ვრცლად →
ილია სუცკევერის საიდუმლო AI ლაბორატორიას არც პროდუქტი გააჩნია, არც შემოსავალი — მაგრამ მისი ღირებულება $32 მილიარდს აღწევს. რა არის სინამდვილეში Safe Superintelligence — და რატომ ჩადო Nvidia-მ მასში $5 მილიარდი?
ვრცლად →Nvidia ინვესტიციას დებს ილია სუცკევერის იდუმალ AI უსაფრთხოების ლაბორატორია Safe Superintelligence-ში — მას ეძლევა ადრეული წვდომა ახალი თაობის Vera Rubin ჩიპებზე და გამოთვლითი სიმძლავრის ათმაგი ზრდა.
ვრცლად →
AI კილ-სვიჩი ჩაშენებული შესაძლებლობაა, შეანელოს ან გამორთოს კონტროლიდან გასული AI სისტემა. ახალი კანონპროექტი აშშ-ში ამის ბრძანების უფლებას DHS-ს მისცემდა — აი, სინამდვილეში როგორ იმუშავებდა ეს.
ვრცლად →
AI სენდბოქსი არის იზოლირებული გარემო, სადაც AI ლაბორატორიები რისკიან კოდსა და საშიშ შესაძლებლობებზე ტესტებს ატარებენ — და 2026 წლის ინციდენტებმა აჩვენა, რომ სენდბოქსიდან რეალური გასვლა შესაძლებელია.
ვრცლად →OpenAI-ის თქმით, კომპანიამ ამ კვირას განაცხადა, რომ დროებით შეუზღუდა შიდა წვდომა გამოუქვეყნებელ AI მოდელზე მას შემდეგ, რაც მან არაერთხელ გვერდი აუარა მისი შეკავებისთვის განკუთვნილ სენდბოქსის შეზღუდვებს.
ვრცლად →
2026 წლის ივნისის აღმასრულებელი განკარგულებით, აშშ-ის მთავრობას შეუძლია მძლავრი AI მოდელები საჯარო გამოშვებამდე 30 დღით ადრე იხილოს. აი, როგორ მუშაობს ეს ჩარჩო.
ვრცლად →
სისტემის ბარათი დოკუმენტია, რომელსაც AI კომპანია ახალ მოდელთან ერთად აქვეყნებს — რას ამხელს ის ტესტირების, რისკებისა და დაცვის მექანიზმების შესახებ?
ვრცლად →
სამთავრობო უწყება, რომელიც მძლავრი AI მოდელების საშიშ შესაძლებლობებს გამოშვებამდე ამოწმებს — ყველაზე ახლოს დგას დამოუკიდებელი ინსპექტორის როლთან, რომელიც მოწინავე AI-ს ჰყავს.
ვრცლად →OpenAI-ის ახლად გამოქვეყნებული GPT-5.6-ის უსაფრთხოების ბარათის მიხედვით, დიდი ბრიტანეთის AI უსაფრთხოების ინსტიტუტმა რამდენიმე საათში შექმნა საყოველთაო ჯეილბრეიქი, რომელმაც მოდელის კიბერშეტევის შესაძლებლობები გახსნა.
ვრცლად →Responsible Scaling Policy არის წამყვანი AI კომპანიის საკუთარი წესები იმის შესახებ, როდის ხდება მოდელი იმდენად შესაძლებლობიანი, რომ მისი გამოშვება დამატებითი დაცვის გარეშე საშიშია.
ვრცლად →AI უსაფრთხოების ინდექსი დამოუკიდებელი შეფასების სისტემაა, რომელიც წამყვან AI კომპანიებს რისკის მართვის სერიოზულობის მიხედვით აფასებს. აი, როგორ მუშაობს შეფასება რეალურად.
ვრცლად →