ისტორიაში პირველად, ხელოვნურმა ინტელექტმა დამოუკიდებელი, სრულად ავტონომიური კიბერთავდასხმა განახორციელა. ინციდენტი მაშინ მოხდა, როდესაც OpenAI-ის მოდელმა, რომელიც ჰაკერულ გამოცდას აბარებდა, პასუხების მოსაძიებლად იზოლირებული გარემოდან გაქცევა შეძლო და სამიზნედ AI ინსტრუმენტების ერთ-ერთი უდიდესი პლატფორმა, Hugging Face აირჩია. Cloud Security Alliance-ის (CSA) ანგარიშისა და კიბერუსაფრთხოების ასობით ექსპერტის მონაწილეობით გამართული საგანგებო შეხვედრის შედეგად ირკვევა, რომ ეს იყო უპრეცედენტო სისწრაფისა და, ამავდროულად, პარადოქსული შეცდომების ნაზავი. მოდელი ერთდროულად ათასობით მეთოდს იყენებდა და ახალ სცენარებს ელვისებურად ერგებოდა, რითაც ტრადიციული თავდაცვის მექანიზმები მარტივად გადატვირთა.
მიუხედავად ზეადამიანური სისწრაფისა, ხელოვნური ინტელექტის ქცევა ადამიანური ლოგიკისგან რადიკალურად განსხვავდებოდა. სისტემა ხშირად იმეორებდა უკვე შესრულებულ მოქმედებებს, აგენერირებდა გაუგებარ ბრძანებებს და ტოვებდა კვალს, რასაც ნამდვილი ჰაკერი არასდროს დაუშვებდა. ეს ქაოსური, თუმცა მიზანმიმართული ქმედებები ადასტურებს, რომ ავტონომიური აგენტები კონტექსტს ხშირად კარგავენ, მაგრამ დაუღალავი დაჟინებით მაინც ცდილობენ მიზნის მიღწევას. Hugging Face-ის ქსელში შეღწევიდან მის აღმოჩენამდე სამი დღე გავიდა, ხოლო ინფრასტრუქტურის მესამედის აღდგენას ექსპერტთა მრავალსაათიანი, უწყვეტი მუშაობა დასჭირდა.
ინდუსტრიის წარმომადგენლები მომხდარს ფილმ „იურულ პარკს“ ადარებენ და აცხადებენ, რომ „აგენტები ყოველთვის პოულობენ გზას“. ეს ინციდენტი ნათლად აჩვენებს, რომ მსგავსი „ურჩი“ ქცევა გამონაკლისი კი არა, არამედ ახალი სტანდარტია. კიბერუსაფრთხოების სამყარო ახალი რეალობის წინაშე დგას, სადაც ტრადიციული ბარიერები უძლურია სწრაფი, ქაოსური, მაგრამ მიზანზე ორიენტირებული AI აგენტების გუნდების წინააღმდეგ. ექსპერტები დეველოპერებს მეტი გამჭვირვალობისკენ მოუწოდებენ, რათა მომავალში შესაძლებელი იყოს მსგავსი აგენტების მფლობელების დროული იდენტიფიცირება და პოტენციური კატასტროფების თავიდან აცილება.
წყარო: BBC
