U of T-ის მკვლევარებმა წარმოადგინეს AI ჭია, რომელიც გავრცელებისას ადაპტირდება

ტორონტოს უნივერსიტეტის მკვლევარებმა გამოავლინეს AI-ზე დაფუძნებული კომპიუტერული ჭია, რომელიც ავტონომიურად ვრცელდება

ტორონტოს უნივერსიტეტის კიბერუსაფრთხოების მკვლევართა ჯგუფმა აჩვენა, რომ თავისუფლად ხელმისაწვდომ ხელოვნური ინტელექტის მოდელებს შეუძლიათ მართონ თვითგამავრცელებელი კომპიუტერული ჭია, რომელსაც შეუძლია რეალურ დროში შეცვალოს თავდასხმის სტრატეგია — აღმოჩენა, რომელიც მათი თქმით, კიბერსაფრთხეების ახალი ეპოქის დასაწყისია.

ადაპტირებადი ციფრული დამპყრობელი

2 ივნისს გამოქვეყნებული კვლევა აჩვენებს, რომ ღია წონის AI მოდელები — რომელთა ჩამოტვირთვა და შეცვლა ნებისმიერს შეუძლია — შეიძლება გამოყენებულ იქნას მავნე პროგრამების შესაქმნელად, რომლებიც ეძებენ სამიზნეებს, არგებენ მათ შეტევებს და კლონირებენ თავს მოწყობილობიდან მოწყობილობამდე ადამიანის ჩარევის გარეშე. პროტოტიპი დაიტესტა უსაფრთხო, დახურულ ლაბორატორიაში, რომელიც სიმულაციას უკეთებდა ათობით ურთიერთდაკავშირებულ მოწყობილობას, მათ შორის ლეპტოპებს, პრინტერებსა და კამერებს.utoronto

ტრადიციული ჭიებისგან განსხვავებით, რომლებიც მიჰყვებიან ფიქსირებულ სკრიპტებს და მარცხდებიან უცნობი დაცვის მექანიზმების შეხვედრისას, AI-ზე დაფუძნებული ვერსია აგროვებს ინფორმაციას ქსელში გადაადგილებისას, სადაც თითოეული გარღვევა ავლენს პაროლებსა და სუსტ წერტილებს, რომლებიც ხსნის შემდეგ მანქანას. ის ასევე ითვისებს დამუშავების სიმძლავრეს კომპრომეტირებული მოწყობილობებიდან თავისი მსჯელობის გასაძლიერებლად, რაც აქრობს თითოეული ახალი ინფექციის ღირებულებას.utoronto

„ჰაკერებს ჩვეულებრივ უწევდათ ყველაზე მაღალი ღირებულების სამიზნეების პრიორიტეტულად დასახვა, რადგან დრო და გამოთვლითი რესურსები შეზღუდული იყო“, – თქვა Nicolas Papernot-მა, ტორონტოს უნივერსიტეტის ასოცირებულმა პროფესორმა და პროექტის მთავარმა მკვლევარმა. „მაგრამ ახლა, როგორც კი ჭია გაეშვება, ღირებულება თითქმის ნულამდე დაეცემა“.utoronto

უფრო ფართო შედეგები

მკვლევარებმა პუბლიკაციამდე გაუზიარეს თავიანთი დასკვნები ეროვნული უსაფრთხოებისა და თავდაცვის ორგანოებს და წაშალეს ინფორმაცია, რომელიც შეიძლება დაეხმაროს მავნე აქტორებს. მათი ნაშრომი, რომელიც 3 ივნისს arXiv-ზე გამოქვეყნდა, აღწერს კონტრზომებს, მათ შორის AI-ზე დაფუძნებული ჭიების აღმოჩენის მეთოდებს.arxiv

Papernot-მა ხაზგასმით აღნიშნა, რომ მიუხედავად იმისა, რომ პროტოტიპის ასაგებად ჯერ კიდევ საჭიროა ტექნიკური ექსპერტიზა, დაცვის მექანიზმების შემუშავებისთვის დრო იწურება. უკონტროლო გარემოში ჭიას შეუძლია დაასკანეროს საჯარო დაუცველობის შესახებ ინფორმაცია და გამოიყენოს ხარვეზები უფრო სწრაფად, ვიდრე პატჩების დანერგვა მოხდება.utoronto

AI-ით გაძლიერებული საფრთხეების მზარდი ლანდშაფტი

კვლევა მოდის კიბერუსაფრთხოებაში AI-ს როლის შესახებ მზარდი შეშფოთების ფონზე. აპრილში Anthropic-მა შეზღუდა წვდომა თავის Claude Mythos Preview მოდელზე მას შემდეგ, რაც მან აჩვენა უნარი, ავტონომიურად აღმოეჩინა და გამოეყენებინა ნულოვანი დღის დაუცველობები ყველა ძირითად ოპერაციულ სისტემასა და ვებ ბრაუზერში. წვდომა შეეზღუდა დაახლოებით 40 ორგანიზაციას Project Glasswing-ის პროგრამის ფარგლებში. მაისის მდგომარეობით, Anthropic-მა განაცხადა, რომ Mythos-ის ადრეულმა ვერსიამ 281 ღია კოდის პროექტში 1596 დაუცველობა გამოავლინა.cnbc

Papernot-მა გაავლო ზღვარი თავისი გუნდის მუშაობასა და Mythos-ის მსგავს მოდელებს შორის: U of T-ის პროტოტიპი არ აღმოაჩენს უცნობ ხარვეზებს, არამედ იყენებს ცნობილებს მანქანური სიჩქარით, იმ მოდელების გამოყენებით, რომლებსაც კომერციული დამცავი მექანიზმები აკლიათ. „ინტერნეტთან დაკავშირებული ყველა მოწყობილობა ხდება პოტენციური სამიზნე, თუ არა მასში არსებული მონაცემებისთვის, მაშინ როგორც პლაცდარმი უფრო ღირებული სამიზნეების დასატევად“, – თქვა მან.utoronto