Anthropic-ი სასაზღვრო AI განვითარების გლობალური პაუზისკენ მოუწოდებს

Anthropic-ი AI განვითარების გლობალური გაყინვისკენ მოუწოდებს

Anthropic-მა, რომელიც ახლა მსოფლიოს ყველაზე ღირებული AI სტარტაპია, მოუწოდა სასაზღვრო AI განვითარების მსოფლიო პაუზისკენ და გააფრთხილა, რომ კაცობრიობა რისკავს ტექნოლოგიაზე კონტროლის დაკარგვას, რადგან სისტემები უახლოვდებიან ავტონომიურად გაუმჯობესების შესაძლებლობას.

მოწოდება, რომელიც გაკეთდა ხუთშაბათს Anthropic-ის კვლევის ხელმძღვანელის Marina Favaro-სა და პრეზიდენტის Jack Clark-ის მიერ გამოქვეყნებულ ესეში, მოჰყვა კომპანიის მიერ საჯარო განთავსებისთვის წინასწარი დოკუმენტების წარდგენიდან სულ რამდენიმე დღეში — რაც ხაზს უსვამს კომპანიის იდენტობის გულში არსებულ დაძაბულობას უსაფრთხოების ადვოკატირებასა და კომერციულ ამბიციებს შორის.

შენელებისკენ მოწოდება

„თუ შესაძლებელი იქნება ამ ტექნოლოგიის ევოლუციის ეფექტურად შენელება, რითაც ჩვენ დამატებით დროს მივიღებთ მისი ღრმა შედეგების მოსაგვარებლად, ჩვენ გვჯერა, რომ ეს სავარაუდოდ სასარგებლო იქნება“, — წერდნენ ხელმძღვანელები The Telegraph-ის თანახმად. მათ მძლავრი AI სისტემების განვითარება შეადარეს „შეიარაღების კონტროლის დილემას“ და გააფრთხილეს, რომ „რეკურსიულმა თვითგაუმჯობესებამ“ — სადაც AI სისტემები ავტონომიურად აუმჯობესებენ საკუთარ თავს — შეიძლება გამოიწვიოს შესაძლებლობების ზრდა ადამიანური ზედამხედველობის მიღმა.telegraph

„ჩვენ გვჯერა, რომ მსოფლიოსთვის კარგი იქნება, ჰქონდეს სასაზღვრო AI განვითარების შენელების ან დროებითი პაუზის ვარიანტი, რათა საზოგადოებრივმა სტრუქტურებმა და შესაბამისობის კვლევებმა შესაბამისად პროგრესირება შეძლონ“, — განაცხადა კომპანიამ.yahoo

თუმცა Anthropic-მა აღიარა ასეთი გაყინვის კოორდინაციის სირთულე, მოიყვანა რა აშშ-სა და ჩინეთს შორის არსებული ინტენსიური მეტოქეობა. „მნიშვნელოვანი შენელება ან პაუზა მოითხოვს მრავალ კარგად რესურსებით უზრუნველყოფილ ლაბორატორიას ზღვარზე ან მის მახლობლად, სხვადასხვა ქვეყნებში, რომლებიც თანხმდებიან შეჩერებაზე ერთიანი პირობებით“, — აღნიშნულია ესეში. „საწვრთნელი წვრთნების შენიღბვა გაცილებით ადვილია, ვიდრე სარაკეტო სილოსების.“telegraph

უსაფრთხოება და კომერცია დაძაბულობაში

განცხადების დრო კითხვებს ბადებს Anthropic-ის სტრატეგიულ პოზიციონირებასთან დაკავშირებით. 1 ივნისს კომპანიამ კონფიდენციალურად წარუდგინა S-1 რეგისტრაციის პროექტი ფასიანი ქაღალდებისა და ბირჟების კომისიას, რითაც გაუსწრო კონკურენტ OpenAI-ს საჯარო ბაზრებზე წვდომის რბოლაში. Reuters-ის ცნობით, IPO შესაძლოა უკვე ამ შემოდგომაზე მოხდეს, კომპანია კი, გავრცელებული ინფორმაციით, 900 მილიარდ დოლართან ახლოს შეფასებას ეძებს.reuters

კომპანიამ ცოტა ხნის წინ გაუსწრო OpenAI-ს, როგორც მსოფლიოს ყველაზე ღირებულმა AI ფირმამ, და მიაღწია 965 მილიარდი დოლარის შეფასებას. Anthropic-მა ასევე შეაჩერა თავისი ყველაზე მოწინავე მოდელის, Mythos-ის საჯარო გამოშვება იმ შეშფოთების გამო, რომ ის შეიძლება გამოყენებული ყოფილიყო კატასტროფული კიბერომისთვის.youtube

უსაფრთხოების ვალდებულებების ევოლუციის ნიმუში

გაყინვისკენ მოწოდება აღნიშნავს ცვლილებას Anthropic-ის ადრინდელ ნაბიჯებთან შედარებით. თებერვალში კომპანიამ უარი თქვა 2023 წლის თავის მნიშვნელოვან პირობაზე, შეეჩერებინა განვითარება, თუ უსაფრთხოების ზომები ვერ აუწყობდა ფეხს შესაძლებლობებს — ცვლილება, რამაც AI უსაფრთხოების საზოგადოების კრიტიკა გამოიწვია. CEO Dario Amodei-მ ცალკე შეაფასა 25-პროცენტიანი ალბათობა იმისა, რომ „საქმეები შეიძლება ძალიან, ძალიან ცუდად წავიდეს“ AI განვითარებასთან ერთად.time

ზოგიერთმა ანალიტიკოსმა გამოთქვა მოსაზრება, რომ Anthropic შესაძლოა აზვიადებდეს AI რისკებს, რათა მხარი დაუჭიროს რეგულაციებს, რომლებიც შესაძლოა აზარალებდეს ნაკლებად უსაფრთხოებაზე ორიენტირებულ კონკურენტებს. კომპანიის ესეში აღნიშნულია, რომ მისი გუნდი ახლა რვაჯერ მეტ კოდს აგენერირებს, ვიდრე 2021-დან 2025 წლამდე, ხოლო AI სულ უფრო მეტად არის უნარიანი, შესთავაზოს ახალი იდეები და დაგეგმოს კვლევა — განვითარება, რომელსაც ის განიხილავს, როგორც ნაბიჯებს თვითმშენებელი AI-სკენ.telegraph