FSB ფინანსურ სექტორში აგენტური AI-სთვის ადამიანური კონტროლის მექანიზმებს ითხოვს

FSB ფინანსურ სექტორში აგენტური AI-სთვის უფრო მკაცრ კონტროლს ითხოვს

ფინანსური სტაბილურობის საბჭომ (FSB) ოთხშაბათს გამოაქვეყნა საკონსულტაციო ანგარიში, რომელიც ფინანსურ ინსტიტუტებს მოუწოდებს, დანერგონ ახალი უსაფრთხოების ზომები აგენტური AI-ს რისკების წინააღმდეგ — ეს არის ავტონომიური სისტემები, რომლებსაც შეუძლიათ დაგეგმვა, მსჯელობა და დავალებების შესრულება შეზღუდული ადამიანური ზედამხედველობით — და აფრთხილებს, რომ ასეთმა ტექნოლოგიამ შესაძლოა გააძლიეროს საფრთხეები გლობალური ფინანსური სტაბილურობისთვის.fsb

რისკები, რომლებიც „ძალიან სწრაფად ხორციელდება“

FSB-მ განაცხადა, რომ ავტონომიური AI წარმოშობს რისკებს, რომლებიც შეიძლება „ძალიან სწრაფად განხორციელდეს“, მათ შორის არაავტორიზებული ან უკანონო ქმედებების, მონაცემთა დარღვევისა და ურთიერთდაკავშირებულ სისტემებში შეფერხებების შესაძლებლობას. გლობალურმა სტანდარტების დამდგენმა ორგანომ გააფრთხილა, რომ AI აგენტები „ადამიანური ზედამხედველობისთვის განსხვავებულ გამოწვევას წარმოადგენენ“ და აღნიშნა, რომ მათ შეუძლიათ განახორციელონ ისეთი ქმედებები, რომლებიც სცდება ფირმების განზრახვებს, ისე რომ პერსონალი ამის შესახებ ინფორმირებული არ იყოს ან სწრაფად ჩარევა არ შეეძლოს.globalbankingandfinance

ანგარიში, სახელწოდებით „ხელოვნური ინტელექტის პასუხისმგებლიანი დანერგვის ჯანსაღი პრაქტიკა“, შემუშავდა აშშ-ის G20-ის თავმჯდომარეობის თხოვნით და მოჰყვა მაისის ბოლოს გამართულ FSB-ის პლენარულ სხდომას, სადაც წევრებმა განიხილეს გლობალურ ფინანსურ სისტემაში არსებული მოწყვლადობები, მათ შორის AI-სთან დაკავშირებული. FSB-ის თავმჯდომარემ და ინგლისის ბანკის გუბერნატორმა ენდრიუ ბეილიმ მაშინ განაცხადა, რომ არსებობს „მზარდი შეშფოთება გლობალური ფინანსური სტაბილურობის მიმართ ახალი მოწყვლადობების გამო“.fsb

სინთეტიკური თანამშრომლები და ადამიანური კონტროლის მექანიზმები

არასავალდებულო სახელმძღვანელო მითითებები გვთავაზობს, რომ ფირმებმა განსაზღვრონ მკაფიო საზღვრები იმის შესახებ, თუ რა შეუძლიათ AI აგენტებს და მოითხოვონ ადამიანის თანხმობა მაღალი რისკის ქმედებებზე, როგორიცაა გარკვეულ ზღვარს ზემოთ ფინანსური ტრანზაქციები. ფირმებს ასევე შეუძლიათ განიხილონ ადამიანური რესურსების კონტროლისა და პროცესების ადაპტირება AI აგენტებისთვის ისე, რომ ისინი „სინთეტიკურ თანამშრომლებად“ ჩაითვალონ, განაცხადა FSB-მ.economictimes

შემოთავაზებული ჯანსაღი პრაქტიკები საჯარო უკუკავშირისთვის 22 ივლისამდეა ღია, საბოლოო ანგარიში კი ოქტომბერშია მოსალოდნელი.globalbankingandfinance

უფრო ფართო მარეგულირებელი იმპულსი

ეს კონსულტაცია მაშინ ხდება, როდესაც მარეგულირებლებმა მთელ მსოფლიოში გააძლიერეს გაფრთხილებები ფინანსურ სექტორში AI-ს დანერგვის შესახებ. FSB-მ მანამდე, 2025 წლის ოქტომბერში, უკვე გამოაქვეყნა შემდგომი ნაბიჯები ხელისუფლებისთვის AI-ს მონიტორინგის შესახებ, რაც მათ მოუწოდებდა მონაცემთა ხარვეზების აღმოფხვრისა და მონიტორინგის უფრო მყარი მიდგომების შემუშავებისკენ. დიდი ბრიტანეთის პარლამენტის ხაზინის კომიტეტმა ასევე შეისწავლა AI ფინანსურ მომსახურებაში მიმდინარე წელს.fsb

ანგარიშში აღნიშნულია, რომ მარეგულირებლები და გლობალური სტანდარტების დამდგენი ორგანოები უფრო ხმამაღლა საუბრობენ AI-ს რისკებზე მას შემდეგ, რაც გამოჩნდა უფრო მეტად განვითარებული მოდელები, რომლებსაც ექსპერტები საბანკო ინდუსტრიისთვის კიბერუსაფრთხოების გამოწვევების შემქმნელად მიიჩნევენ.globalbankingandfinance