Anthropic-ის Claude Fable 5 ბიოლოგიის საბაზისო კითხვების დაბლოკვის გამო კრიტიკის ქარცეცხლშია

Anthropic-მა სამშაბათს გამოუშვა Claude Fable 5, მისი პირველი საჯაროდ ხელმისაწვდომი Mythos-ის კლასის მოდელი, მაგრამ უსაფრთხოების კლასიფიკატორები მონიშნულ მოთხოვნებს ჩუმად ძველ Opus 4.8-ზე მიმართავენ.techcrunch
The Verge იტყობინება, რომ მოდელმა უარი თქვა თივის ცხელების, ანტიბიოტიკებისადმი რეზისტენტობისა და ასთმის მედიკამენტების ახსნაზე, ხოლო Reddit-ზე კიბოს მკვლევარმა განაცხადა, რომ ყველა მოთხოვნა დაიბლოკა.theverge
Anthropic-მა ფართო ფილტრებს უწოდა მიზანმიმართული კომპრომისი ბიოლოგიური იარაღის ბოროტად გამოყენების თავიდან ასაცილებლად და განაცხადა, რომ მუშაობს ცრუ დადებითი შედეგების შესამცირებლად.theverge

Claude Fable 5-ის უსაფრთხოების ბარიერები კრიტიკას იმსახურებს ჩვეულებრივი კითხვების დაბლოკვის გამო

Anthropic-მა სამშაბათს გამოუშვა Claude Fable 5, მისი პირველი საჯაროდ ხელმისაწვდომი Mythos-ის კლასის AI მოდელი, მაგრამ სისტემის ავტომატიზებული უსაფრთხოების კლასიფიკატორები უკვე აღიზიანებენ მომხმარებლებს, რომლებიც ამბობენ, რომ ბარიერები ბლოკავს რუტინულ კითხვებს ბიოლოგიის, მედიცინისა და კიბერუსაფრთხოების შესახებ — თემები, რომლებშიც მოდელი, როგორც მარკეტინგულად იყო გაცხადებული, განსაკუთრებით ძლიერი უნდა ყოფილიყო.

ფართო ფილტრები, ვიწრო წვდომა

Fable 5 იზიარებს თავის საბაზისო არქიტექტურას Claude Mythos 5-თან, შეზღუდულ მოდელთან, რომელიც მხოლოდ შემოწმებული პარტნიორებისთვისაა ხელმისაწვდომი. მთავარი განსხვავება არის კლასიფიკატორების ფენა, რომელიც აკონტროლებს მოთხოვნებს კიბერუსაფრთხოების, ბიოლოგიის, ქიმიისა და მოდელის დისტილაციის შესახებ. როდესაც ეს აქტიურდება, პასუხები ჩუმად მიემართება Claude Opus 4.8-ზე, Anthropic-ის წინა საუკეთესო მოდელზე. Anthropic აცხადებს, რომ ეს გადართვა საშუალოდ სესიების 5 პროცენტზე ნაკლებში ხდება.techcrunch

მაგრამ ეს საშუალო მაჩვენებელი ფარავს უფრო მწვავე პრობლემას. The Verge-მა ოთხშაბათს გაავრცელა ინფორმაცია, რომ Fable-მა უარი თქვა ბიოლოგიის ისეთი საბაზისო კითხვებზე პასუხის გაცემაზე, რომლებსაც საშუალო სკოლის მოსწავლეც გაუმკლავდებოდა, მათ შორის კითხვები თივის ცხელების, ანტიბიოტიკებისადმი რეზისტენტობისა და ასთმის მედიკამენტების მუშაობის შესახებ. Reddit-ზე კიბოს მკვლევარმა განაცხადა, რომ რადგან მათი ანგარიშის პროფილი მოიხსენიებს ტერმინებს, როგორიცაა „პროსტატის კიბოს უჯრედების ხაზები“, ყველა ერთადერთი მოთხოვნა — მათ შორის მისალმებები და ამინდის შესახებ კითხვები — გადამისამართდება Opus 4.8-ზე. Anthropic-ის სპიკერმა პარულ მაჰეშვარიმ The Verge-ს განუცხადა, რომ კომპანიამ „ეს კომპრომისი იმიტომ გააკეთა, რომ მომხმარებლებმა მოდელის შესაძლებლობებით უფრო ადრე ისარგებლონ რისკების გარეშე“.reddit

ინდუსტრიის რეაქცია

Business Insider-მა აღნიშნა, რომ შეზღუდვებმა ანალიტიკოსებისა და ადრეული მომხმარებლების კრიტიკა გამოიწვია. პატრიკ მურჰედმა, Moor Insights & Strategy-ის აღმასრულებელმა დირექტორმა, X-ზე დაწერა, რომ Fable 5-მა უარი თქვა დახმარებოდა მას შემოსავლების ანალიზის თეზისებსა და საბჭოს პრეზენტაციაში, რადგან მან ამოცანები „ზედმეტად საშიშად“ მიიჩნია. „ეს არის ის მოდელი, რომლისაც ყველას გვეშინია და რომელიც Anthropic-ს 1 ტრილიონი დოლარის ღირებულების ხდის?“ — წერს ის.businessinsider

ამასობაში, Microsoft, როგორც იტყობინებიან, ზღუდავს თანამშრომლების მიერ Fable 5-ის გამოყენებას Anthropic-ის სავალდებულო 30-დღიანი მონაცემთა შენახვის პოლიტიკის გამო, იტყობინება The Verge.usnews

მიზანმიმართული კომპრომისი

Anthropic-მა გამჭვირვალედ განაცხადა, რომ ბიოლოგიის ფილტრები განზრახ კონსერვატიულია. კომპანიამ თქვა, რომ Fable 5 არის პირველი Mythos-ის კლასის მოდელი, რომელსაც, მათი აზრით, „აქვს შესაძლებლობა, ცუდმა აქტორებმა გამოიყენონ მაღალი რისკის ბიოლოგიური კვლევებისთვის“ და რომ უსაფრთხო განლაგებისთვის აუცილებელი იყო ზედმეტად ფრთხილი მიდგომა. კომპანია აცხადებს, რომ მუშაობს ცრუ დადებითი შედეგების შესამცირებლად და გეგმავს Mythos 5-ზე შეუზღუდავი წვდომის გაფართოებას სიცოცხლის შემსწავლელი მეცნიერებების მკვლევრებისთვის სანდო წვდომის პროგრამის მეშვეობით.anthropic

22 ივნისამდე Fable 5 შედის Pro, Max, Team და საწარმოო გამოწერების ფასში დამატებითი საფასურის გარეშე. ამის შემდეგ, წვდომა მოითხოვს გამოყენების კრედიტებს.thenextweb