კონსტიტუციური AI არის Anthropic-ის მეთოდი, რომლითაც მოდელი სწავლობს დაწერილი პრინციპების დაცვას იმ გზით, რომ თავად აკრიტიკებს და ასწორებს საკუთარ პასუხებს, ნაცვლად იმისა, რომ ძირითადად ადამიანის მიერ მონიშნულ მაგალითებს დაეყრდნოს. ეს ერთ-ერთი ტექნიკაა, რომელიც Claude-ს უფრო უსაფრთხოსა და პროგნოზირებადს ხდის. ეს გვერდი განმარტავს, როგორ მუშაობს ეს მიდგომა და რა ადგილი უჭირავს მას AI უსაფრთხოების მეთოდებს შორის.
კონსტიტუციური AI არის Anthropic-ის სავარჯიშო მეთოდი, რომლის დახმარებითაც Claude სწავლობს დაწერილი პრინციპების დაცვას საკუთარი პასუხების კრიტიკის გზით — ადამიანის მასობრივი მონიშვნის ნაცვლად.
ვრცლად →ICML 2026-ზე დაჯილდოებული ნაშრომის თანახმად, მოდელების უსაფრთხოებისთვის შექმნილი alignment-ის მეთოდები, RLHF და Constitutional AI-ის ჩათვლით, სახელმწიფო ცენზურის ინსტრუმენტადაც შეიძლება იქცეს.
ვრცლად →