Stanford-ის კვლევის თანახმად, პატარა დესკტოპის AI მოდელებს შეუძლიათ გაუწიონ კონკურენცია ღრუბლოვან სისტემებს

Stanford-ის კვლევის თანახმად, პატარა დესკტოპის AI მოდელები კონკურენციას უწევენ დიდ ღრუბლოვან სისტემებს

Stanford-ის უნივერსიტეტის კვლევა ახალ ყურადღებას იპყრობს იმ აღმოჩენით, რომ დესკტოპ კომპიუტერებზე გაშვებულ პატარა ენობრივ მოდელებს შეუძლიათ დავალებების უმეტესობაში გაუწიონ კონკურენცია დიდ ღრუბლოვან AI სისტემებს — გაცილებით ნაკლები ენერგიის მოხმარებით. კვლევა, რომელმაც შემოიტანა ახალი მეტრიკა „ინტელექტი ვატზე“, ამ კვირაში Reuters-ის სვეტში გააშუქა საინვესტიციო სტრატეგმა Joachim Klement-მა, რომელმაც განაცხადა, რომ ეს აღმოჩენები კითხვის ნიშნის ქვეშ აყენებს იმ კომპანიების გრძელვადიან მომგებიანობას, რომლებიც აშენებენ სულ უფრო დიდ AI მოდელებს.inkl

რა დაადგინა კვლევამ

Stanford-ის ნაშრომმა, რომლის ავტორები არიან Jon Saad-Falcon, Avanika Narayan და მათი კოლეგები Stanford-ის უნივერსიტეტიდან და Together AI-დან, გამოსცადა 20-ზე მეტი ადგილობრივი ენობრივი მოდელი 20 მილიარდამდე აქტიური პარამეტრით რვა აპარატურულ ამაჩქარებელზე და მილიონობით რეალურ ჩატისა და მსჯელობის კითხვაზე. მკვლევარებმა დაადგინეს, რომ ადგილობრივ მოდელებს შეუძლიათ კითხვების 88.7%-ს ზუსტად უპასუხონ, შემოქმედებით დავალებებში სიზუსტე 90%-ს აღემატება და ძლიერი რჩება გაყიდვების, მენეჯმენტისა და გასართობ აპლიკაციებში.letsdatascience

ყველაზე რთულ მსჯელობის დავალებებში პატარა მოდელები დიდ ენობრივ მოდელებს დაახლოებით 50% შემთხვევაში უტოლდებიან — რაც ორი წლის წინანდელი 8%-დან გაზრდილი მაჩვენებელია, Klement-ის ანალიზის მიხედვით. კვლევამ ასევე აჩვენა, რომ „ინტელექტი ვატზე“ 2023-დან 2025 წლამდე 5.3-ჯერ გაუმჯობესდა, რაც განპირობებულია მოდელის გაუმჯობესებით (3.1x) და აპარატურული მიღწევებით (1.7x).stanford

ენერგიისა და ხარჯების შედეგები

ეფექტურობის ზრდას პირდაპირი ეკონომიკური შედეგები მოჰყვება. Stanford-ის გუნდმა დაადგინა, რომ „ორაკულის“ მარშრუტიზაციის მიდგომამ — კითხვების ადგილობრივ მოდელებზე გადამისამართებამ, როდესაც ეს შესაძლებელია — შეიძლება შეამციროს ენერგიის მოხმარება 80.4%-ით და გამოთვლითი ხარჯები 73.8%-ით ღრუბლოვან გამოთვლებთან შედარებით. არასრულყოფილი მარშრუტიზატორიც კი, რომელიც 80%-იანი სიზუსტით მუშაობს, 60%-ზე მეტ ენერგიის დაზოგვას იძლევა.linkedin

კვლევის შედეგები მაშინ გამოქვეყნდა, როდესაც Nvidia, რომელიც მონაცემთა ცენტრების AI-ს ამარაგებს GPU-ებით, აწყდება კითხვებს იმის შესახებ, გაიზრდება თუ არა მოთხოვნა ცენტრალიზებულ გამოთვლებზე პროგნოზის მიხედვით. Klement-მა დაწერა, რომ თუ პატარა მოდელები გააგრძელებენ გაუმჯობესებას ამ ტემპით, ისეთ კომპანიებს, როგორიცაა Anthropic, OpenAI და xAI, „შეიძლება ჰქონდეთ შეშფოთების მიზეზი“, რადგან „AI-ს მომავალი შეიძლება იყოს უფრო პატარა, იაფი და გაცილებით ნაკლებად მომგებიანი, ვიდრე ინვესტორები მოელიან“.substack

იცვლება ლანდშაფტი

კვლევა ასახავს ინდუსტრიის უფრო ფართო ტენდენციას. IBM-ის მკვლევარებმა გამოსცადეს მოდელები, მათ შორის OpenAI-ს gpt-oss, Qwen3 და IBM-ის Granite 4.0 სამომხმარებლო აპარატურაზე და დაადგინეს, რომ მიმდინარე ადგილობრივი მოდელები აღწევენ უფრო მაღალ „ინტელექტს ვატზე“, ვიდრე წინა თაობის მოდელები სპეციალიზებულ აპარატურაზე. თავად Nvidia-მ გამოაქვეყნა 2026 წლის ნაშრომი, სადაც ამტკიცებს, რომ პატარა ენობრივი მოდელები „საკმარისად ძლიერი, თანდაყოლილი უფრო შესაფერისი და აუცილებლად უფრო ეკონომიურია“ აგენტური AI სისტემებისთვის.ibm

Stanford-ის ნაშრომი პირველად 2025 წლის ნოემბერში გამოქვეყნდა, ადგილობრივი კითხვების დაფარვით — რეალური სამყაროს კითხვების წილი, რომელთა დამუშავებაც ადგილობრივ მოდელებს შეუძლიათ — რომელიც 2023 წლის 23.2%-დან 2025 წელს 71.3%-მდე გაიზარდა.letsdatascience