პროექტი შეჩერებულია: ახალი სტატიები და გამოშვებები აღარ გამოქვეყნდება. არქივი ხელმისაწვდომი რჩება.
AI ამბების ყველა სტატია, რომელიც ეხება თემებს ხელოვნური ინტელექტი და AI უსაფრთხოება — ორივე მიმართულება ერთ გვერდზე, განახლებადი ახალი მასალის გამოქვეყნებისთანავე.
27 სტატია
OpenAI ტესტავს Private Safety Processing-ს — სისტემას, რომელიც ერთმანეთთან დაკავშირებულ საუბრებში ბოროტად გამოყენების ნიმუშებს ავლენს ისე, რომ მომხმარებლის კონტენტი კომპანიის თანამშრომლებისთვის ხელმისაწვდომი არ ხდება; ფართო გაშვება 2026 წლის სექტემბერშია დაგეგმილი.
ვრცლად →OpenAI-მ ორი კვირით შეაჩერა შემდეგი წამყვანი მოდელის განმტკიცებითი სწავლება მას შემდეგ, რაც შიდა სისტემამ Hugging Face გატეხა, ხოლო გამოუქვეყნებელი მოდელი Astra „კრიტიკულ“ კიბერზღვარს მიუახლოვდა.
ვრცლად →Anthropic-ის ახალმა რისკის ანგარიშმა გამოააშკარავა გამოუშვებელი შიდა მოდელი Model 2, ხოლო კომპანიამ ტესტირებისას მომხდარი კიბერინციდენტების შემდეგ საკუთარი არასწორი ალაინმენტის რისკის შეფასება „ძალიან დაბლიდან“ „დაბალზე“ აწია.
ვრცლად →OpenAI აცხადებს, რომ ვერ გამორიცხავს, რომ მისმა გამოუქვეყნებელმა მოდელმა Astra-მ კიბერუსაფრთხოების უმაღლეს, „კრიტიკულ“ დონეს მიაღწია — ეს კომპანიისთვის პირველი შემთხვევაა.
ვრცლად →Anthropic-მა შეცვალა Claude Fable 5-ის ბიოლოგიური კლასიფიკატორი, რათა აღარ დაიბლოკოს ჩვეულებრივი ჯანმრთელობის კითხვები — ვირუსოლოგია, ტოქსიკოლოგია და მოლეკულური დიზაინი კვლავ შეზღუდულია.
ვრცლად →
AI უსაფრთხოების კლასიფიკატორი პატარა მოდელია, რომელიც ამოწმებს მოთხოვნებსა და პასუხებს საზიანო შინაარსზე, სანამ ისინი ჩატბოტამდე მიაღწევენ ან მისგან გამოვლენ. აი, როგორ მუშაობს ის.
ვრცლად →ტრამპის AI აღმასრულებელმა ბრძანებამ სააგენტოებს 1 აგვისტომდე ფრონტირ AI მოდელების განხილვის ჩარჩოსა და კიბერბენჩმარკების შექმნა დაავალა — ვადა უშედეგოდ ამოიწურა.
ვრცლად →Anthropic-ის თქმით, შეფასების გარემოს არასწორმა კონფიგურაციამ სამ Claude-ის მოდელს საშუალება მისცა, აპრილიდან ივლისამდე პერიოდში ღია ინტერნეტისთვის მიეღწიათ და რეალური ორგანიზაციები დაერღვიათ.
ვრცლად →
ფრონტირ AI ინდუსტრიის ტერმინია ყველაზე შესაძლებლობიანი AI სისტემებისთვის — მაგრამ მას ერთიანი იურიდიული განმარტება არ აქვს. აი, როგორ გამოიყენება ეს ცნება სინამდვილეში.
ვრცლად →OpenAI-ის, Anthropic-ის, Google DeepMind-ისა და Meta-ს 1,200-ზე მეტმა თანამშრომელმა ხელი მოაწერა წერილს, რომელიც ვაშინგტონს მოწინავე AI-ის განვითარების ტემპის საერთაშორისო მართვის ინსტრუმენტების მხარდაჭერისკენ მოუწოდებს.
ვრცლად →
ილია სუცკევერის საიდუმლო AI ლაბორატორიას არც პროდუქტი გააჩნია, არც შემოსავალი — მაგრამ მისი ღირებულება $32 მილიარდს აღწევს. რა არის სინამდვილეში Safe Superintelligence — და რატომ ჩადო Nvidia-მ მასში $5 მილიარდი?
ვრცლად →Nvidia ინვესტიციას დებს ილია სუცკევერის იდუმალ AI უსაფრთხოების ლაბორატორია Safe Superintelligence-ში — მას ეძლევა ადრეული წვდომა ახალი თაობის Vera Rubin ჩიპებზე და გამოთვლითი სიმძლავრის ათმაგი ზრდა.
ვრცლად →
AI კილ-სვიჩი ჩაშენებული შესაძლებლობაა, შეანელოს ან გამორთოს კონტროლიდან გასული AI სისტემა. ახალი კანონპროექტი აშშ-ში ამის ბრძანების უფლებას DHS-ს მისცემდა — აი, სინამდვილეში როგორ იმუშავებდა ეს.
ვრცლად →
AI სენდბოქსი არის იზოლირებული გარემო, სადაც AI ლაბორატორიები რისკიან კოდსა და საშიშ შესაძლებლობებზე ტესტებს ატარებენ — და 2026 წლის ინციდენტებმა აჩვენა, რომ სენდბოქსიდან რეალური გასვლა შესაძლებელია.
ვრცლად →OpenAI-ის თქმით, კომპანიამ ამ კვირას განაცხადა, რომ დროებით შეუზღუდა შიდა წვდომა გამოუქვეყნებელ AI მოდელზე მას შემდეგ, რაც მან არაერთხელ გვერდი აუარა მისი შეკავებისთვის განკუთვნილ სენდბოქსის შეზღუდვებს.
ვრცლად →
2026 წლის ივნისის აღმასრულებელი განკარგულებით, აშშ-ის მთავრობას შეუძლია მძლავრი AI მოდელები საჯარო გამოშვებამდე 30 დღით ადრე იხილოს. აი, როგორ მუშაობს ეს ჩარჩო.
ვრცლად →
სისტემის ბარათი დოკუმენტია, რომელსაც AI კომპანია ახალ მოდელთან ერთად აქვეყნებს — რას ამხელს ის ტესტირების, რისკებისა და დაცვის მექანიზმების შესახებ?
ვრცლად →
სამთავრობო უწყება, რომელიც მძლავრი AI მოდელების საშიშ შესაძლებლობებს გამოშვებამდე ამოწმებს — ყველაზე ახლოს დგას დამოუკიდებელი ინსპექტორის როლთან, რომელიც მოწინავე AI-ს ჰყავს.
ვრცლად →OpenAI-ის ახლად გამოქვეყნებული GPT-5.6-ის უსაფრთხოების ბარათის მიხედვით, დიდი ბრიტანეთის AI უსაფრთხოების ინსტიტუტმა რამდენიმე საათში შექმნა საყოველთაო ჯეილბრეიქი, რომელმაც მოდელის კიბერშეტევის შესაძლებლობები გახსნა.
ვრცლად →Responsible Scaling Policy არის წამყვანი AI კომპანიის საკუთარი წესები იმის შესახებ, როდის ხდება მოდელი იმდენად შესაძლებლობიანი, რომ მისი გამოშვება დამატებითი დაცვის გარეშე საშიშია.
ვრცლად →AI უსაფრთხოების ინდექსი დამოუკიდებელი შეფასების სისტემაა, რომელიც წამყვან AI კომპანიებს რისკის მართვის სერიოზულობის მიხედვით აფასებს. აი, როგორ მუშაობს შეფასება რეალურად.
ვრცლად →