OpenAI და Anthropic ითხოვენ ხელოვნური ინტელექტის გლობალურ ზედამხედველს

OpenAI-მ ორშაბათს კონფიდენციალურად შეიტანა განაცხადი IPO-ზე და გამოკვეთა თავისი „მესამე ფაზა“, მოუწოდა რა გლობალური ორგანიზაციის შექმნისკენ, რომელსაც შეეძლება საჭიროების შემთხვევაში შეანელოს ხელოვნური ინტელექტის განვითარება.cnbc
რამდენიმე დღით ადრე Anthropic-მა გააფრთხილა, რომ ხელოვნური ინტელექტის რეკურსიული თვითგანვითარება „შეიძლება უფრო ადრე მოვიდეს, ვიდრე ბევრი ორგანიზაცია მზად არის“ და მოუწოდა კოორდინირებული პაუზის ჩარჩოს შექმნისკენ.reuters
არცერთ კომპანიას არ აუღია ვალდებულება ცალმხრივ შეზღუდვებზე და Anthropic-მა აღიარა, რომ მარტოხელა პაუზა კონკურენტებს წინ გაუსწრებდა.yahoo

OpenAI და Anthropic ითხოვენ ხელოვნური ინტელექტის საერთაშორისო ზედამხედველს

OpenAI-ს აღმასრულებელმა დირექტორმა სემ ალტმანმა და მთავარმა მეცნიერმა იაკუბ პაჩოცკიმ ორშაბათს გამოაქვეყნეს ბლოგპოსტი, სადაც მოუწოდებენ საერთაშორისო ორგანიზაციის შექმნისკენ, რომელიც გააკონტროლებს ხელოვნური ინტელექტის განვითარებას, მათ შორის „საჭიროების შემთხვევაში“ პროგრესის შენელების შესაძლებლობით, რათა უსაფრთხოებამ და საზოგადოებრივმა მდგრადობამ ფეხი აუწყოს განვითარებას. მოწოდება გახდა OpenAI-ს „მესამე ფაზის“ ხედვის ნაწილი, რომელიც გამოქვეყნდა იმავე დღეს, როდესაც კომპანიამ დაადასტურა, რომ კონფიდენციალურად შეიტანა განაცხადი პირველადი საჯარო შეთავაზებისთვის (IPO) SEC-ში.businessinsider

იშვიათი თანხვედრა კონკურენტებს შორის

დრო აღსანიშნავია, რადგან ის მოჰყვება კონკურენტი Anthropic-ის მსგავს განცხადებას, რომელმაც 4 ივნისს გამოაქვეყნა ანგარიში, სადაც მოუწოდებს ხელოვნური ინტელექტის ლაბორატორიებს, შეიმუშაონ კოორდინირებული და გადამოწმებადი ჩარჩო განვითარების შეჩერებისთვის, თუ მოწინავე სისტემები დაიწყებენ საკუთარი თავის გაუმჯობესებას იმაზე სწრაფად, ვიდრე საზოგადოებას შეუძლია მათი კონტროლი. „ჩვენ გვჯერა, რომ მსოფლიოსთვის კარგი იქნება, ჰქონდეს შესაძლებლობა შეანელოს ან დროებით შეაჩეროს ხელოვნური ინტელექტის განვითარება, რათა საზოგადოებრივმა სტრუქტურებმა და კვლევებმა ფეხი აუწყონ პროცესს“, – წერს Anthropic.yahoo

Anthropic-მა გააფრთხილა, რომ „რეკურსიული თვითგანვითარება“ — სადაც ხელოვნური ინტელექტის სისტემები დამოუკიდებლად აპროექტებენ, აშენებენ და ავარჯიშებენ თავიანთ მემკვიდრეებს — „შეიძლება უფრო ადრე მოვიდეს, ვიდრე ბევრი ორგანიზაცია მზად არის“ და რომ ადეკვატური გარანტიების გარეშე, ამან შეიძლება გაართულოს ადამიანის მიერ ხელოვნური ინტელექტის განვითარების ზედამხედველობა. კომპანიამ განაცხადა, რომ ნებისმიერი მნიშვნელოვანი პაუზა მოითხოვს შეთანხმებას მრავალ წამყვან ლაბორატორიას შორის სხვადასხვა ქვეყანაში, განსაკუთრებით შეერთებულ შტატებსა და ჩინეთში, ვერიფიკაციის პროტოკოლებთან ერთად.reuters

კონკურენციიდან კოორდინაციამდე

ორ კომპანიას შორის დაახლოება გასაოცარია მათი ინტენსიური კომერციული მეტოქეობის გათვალისწინებით. ორივე ემზადება საჯარო შეთავაზებებისთვის, Anthropic-მა ივნისის დასაწყისში შეიტანა საკუთარი S-1, ხოლო OpenAI-ს ღირებულება 850 მილიარდ დოლარზე მეტია. მიუხედავად ამისა, ორივე საჯაროდ უჭერს მხარს იდეას, რომ გარე ორგანოს უნდა ჰქონდეს უფლებამოსილება, შეზღუდოს ყველაზე მძლავრი ხელოვნური ინტელექტის სისტემების განვითარება.vktr

OpenAI-ს მოწოდება საერთაშორისო მმართველობითი ორგანოს შექმნისკენ ახალი არ არის — ალტმანმა პირველად შესთავაზა „IAEA სუპერინტელექტისთვის“ 2023 წელს — მაგრამ უახლესი განცხადება უფრო კონკრეტულია თავის ფორმულირებაში. The Decoder-ის თანახმად, ალტმანმა და პაჩოცკიმ მოითხოვეს „საერთაშორისო ორგანო, რომელსაც საჭიროების შემთხვევაში შეუძლია შეანელოს განვითარება“. Business Insider-მა იტყობინება, რომ წყვილმა ხაზი გაუსვა „ეროვნული და საერთაშორისო თანამშრომლობის აუცილებლობას, გაიმეორა რა თავისი წინადადება გლობალური ორგანიზაციის შესახებ, რომელიც ეძღვნება ხელოვნურ ინტელექტთან დაკავშირებული რისკების შემცირებას, საჭიროების შემთხვევაში მოწინავე მოდელების განვითარების შენელების შესაძლებლობით“.nytimes

ჯერჯერობით უცნობია, გასცდება თუ არა ეს წინადადებები რიტორიკას. არცერთ კომპანიას არ აუღია ვალდებულება ცალმხრივ შეზღუდვებზე საკუთარ განვითარებაზე და Anthropic-მა აღიარა, რომ თუ მხოლოდ ერთი ფირმა შეჩერდებოდა, კონკურენტები წინ გაუსწრებდნენ. მთავარი კითხვა ახლა არის, მიიღებენ თუ არა მთავრობები ამ მოწვევას — და მიიღებენ თუ არა ლაბორატორიები ნამდვილ გარე ავტორიტეტს თავიანთ საქმიანობაზე.yahoo