Meta-ს ზედამხედველობის საბჭომ deepfake ვიდეოს წაშლა და პოლიტიკის ცვლილება მოითხოვა

Meta-ს ზედამხედველობის საბჭო deepfake-ებისგან დაცვის გაძლიერებას მოითხოვს

Meta-ს ზედამხედველობის საბჭომ სამშაბათს გააუქმა კომპანიის გადაწყვეტილება Instagram-ზე ხელოვნური ინტელექტით შექმნილი სექსუალური ხასიათის ვიდეოს დატოვების შესახებ. საბჭომ მოითხოვა მისი წაშლა და Meta-ს მოუწოდა, გააძლიეროს დაცვა იმ არასაჯარო პირებისთვის, რომლებიც deepfake ინტიმური შინაარსის სამიზნეები ხდებიან.oversightboard

საბჭომ დაადგინა, რომ AI-ით გაყალბება ნაგულისხმევად თანხმობის გარეშე ხდება

23 ივნისს გამოქვეყნებული გადაწყვეტილება ეფუძნება შემთხვევას, როდესაც მომხმარებელმა განაცხადა, რომ Instagram-ზე ქალის გამოსახულების მქონე AI-ვიდეო მისი თანხმობის გარეშე იყო გამოქვეყნებული, რაც „ლახავდა მის რეპუტაციას“. Meta-მ თავდაპირველად გადაწყვიტა კონტენტი არ წაეშალა, თუმცა საბჭომ დაადგინა, რომ პოსტი არღვევდა კომპანიის ზრდასრულთა სექსუალური ექსპლუატაციის პოლიტიკას.oversightboard

თავის დადგენილებაში საბჭომ დაასკვნა, რომ რეალური ადამიანების AI-ით შექმნილი სექსუალური ხასიათის გაყალბება ნაგულისხმევად თანხმობის გარეშე უნდა ჩაითვალოს და დაემატოს იმ სიგნალებს, რომლებსაც Meta თანხმობის არარსებობის დასადგენად იყენებს. საბჭომ რეკომენდაცია გაუწია Meta-ს, დაამატოს ახალი სიგნალი თავის ზრდასრულთა სექსუალური ექსპლუატაციის პოლიტიკაში, რომელიც სპეციალურად მოიცავს AI-ით შექმნილ სექსუალურ გაყალბებას.mlex

რეკომენდაციები გლობალური შეტყობინების სისტემისთვის

საბჭომ რამდენიმე დამატებითი რეკომენდაცია გასცა. მან მოუწოდა Meta-ს, მომხმარებლებს მისცეს უფლება, დანიშნონ „დაკავშირებული ანგარიშები“ — სანდო მეგობრები, ოჯახის წევრები ან კოლეგები, რომლებსაც შეუძლიათ მათ ნაცვლად შეატყობინონ თანხმობის გარეშე გავრცელებული ინტიმური შინაარსის შესახებ. ასევე რეკომენდებულია, რომ Meta-მ შექმნას ცალკე კატეგორია AI-ით შექმნილი სექსუალური გაყალბებისთვის, რომელიც განსხვავდება „შევიწროების“ ან „სიშიშვლის“ კატეგორიებისგან და ეს ფორმები ხელმისაწვდომი გახადოს გლობალურად.oversightboard

ამჟამად, deepfake ინტიმური შინაარსის შესახებ შეტყობინების სპეციალიზებული ფორმები ხელმისაწვდომია მხოლოდ გარკვეულ იურისდიქციებში, მათ შორის ტეხასსა და ფლორიდაში. საბჭომ მოითხოვა, რომ ყველა მომხმარებელს მსოფლიოს მასშტაბით ჰქონდეს წვდომა ამ ინსტრუმენტებზე, აღნიშნა რა, რომ არასაჯარო პირებს ხშირად „თავად უწევთ საკუთარი თავის დაცვა“.mlex

მზარდი პრობლემა, რომელიც არაპროპორციულად აზარალებს ქალებს

საბჭომ ასევე გაიმეორა ადრინდელი რეკომენდაციები, რომ Meta-მ თავის პოლიტიკაში ტერმინი „შეურაცხმყოფელი სექსუალური ფოტოშოპი“ შეცვალოს „თანხმობის გარეშე“ მანიპულირებული მედიის აღმნიშვნელი ენით და ფართომასშტაბიანად დანერგოს კონტენტის ავთენტურობის დამადასტურებელი სერტიფიკატები. ციფრული უფლებების ორგანიზაცია WITNESS-მა განაცხადა, რომ ეს გადაწყვეტილება „ასახავს AI-ით შექმნილ სექსუალურ გაყალბებასთან დაკავშირებულ მთავარ შეშფოთებას“ და ადასტურებს, რომ ამ სფეროში კონტენტის მოდერაციის ცენტრში თანხმობა უნდა იდგეს.witness

ეს დადგენილება მოჰყვა საბჭოს თებერვლის განცხადებას საქმის განხილვის შესახებ და ეფუძნება 2024 წლის ივლისის გადაწყვეტილებას, რომელშიც საბჭომ აღნიშნა, რომ Meta-ს deepfake პოლიტიკა განახლებას საჭიროებდა. საბჭომ გააფრთხილა, რომ AI ინსტრუმენტების განვითარებამ გამოიწვია თანხმობის გარეშე შექმნილი სექსუალური კონტენტის გავრცელება, რაც არაპროპორციულად აზარალებს ქალებსა და გოგონებს.kark