Claude AI-ის მომხმარებლები მოულოდნელი პრობლემის წინაშე აღმოჩნდნენ, როდესაც მათი გაზიარებული მიმოწერების ბმულები Google-ის ძიების შედეგებში გამოჩნდა. ეს ინციდენტი არა Anthropic-ის სისტემებზე კიბერთავდასხმის, არამედ მოდელის გაზიარების ფუნქციის სპეციფიკის შედეგი იყო. კერძოდ, საჯარო ბმულის გენერირებისას, საძიებო სისტემებს შეეძლოთ ამ გვერდების წაკითხვა და ინდექსირება ისევე, როგორც ნებისმიერი სხვა ვებსაიტის შემთხვევაში, თუ ეს პროცესი სპეციალურად არ იყო დაბლოკილი. შედეგად, ინფორმაცია გაცილებით დიდი აუდიტორიისთვის გახდა ხილული, ვიდრე ამას მომხმარებლები თავდაპირველად ვარაუდობდნენ.
უსაფრთხოების მკვლევრებმა აღმოაჩინეს, რომ ინდექსირებულ ჩატებში ხშირად ისეთი კონფიდენციალური მონაცემები ინახებოდა, რომლებიც საჯაროდ არასდროს უნდა გამოჩენილიყო. გაჟონილ ინფორმაციას შორის იყო API გასაღებები, ავთენტიფიკაციის მონაცემები, შიდა კოდები, პერსონალური იდენტიფიკატორები და ბიზნესისთვის სენსიტიური სხვა დეტალები. Anthropic-მა პრობლემის მოსაგვარებლად მალევე იმოქმედა – უკვე ინდექსირებული მიმოწერების ბმულებზე ახლა ცარიელი გვერდები ან შეცდომის შეტყობინებები ჩანს, ხოლო ახლად გაზიარებული ჩატები Google-ის ძიებაში საერთოდ აღარ ხვდება.
მიუხედავად დროული რეაგირებისა, ეს გამოსავალი უკვე დაინდექსებული მონაცემების სრულად წაშლის გარანტიას არ იძლევა. საძიებო სისტემებმა შესაძლოა დროებით მაინც შეინარჩუნონ ქეშირებული ასლები, თანაც უცნობია, მოასწრეს თუ არა მესამე პირებმა ამ ღია გვერდებიდან ინფორმაციის შენახვა, სანამ მასზე წვდომა შეიზღუდებოდა. აღნიშნულმა შემთხვევამ კიდევ ერთხელ წამოჭრა ხელოვნური ინტელექტის კონფიდენციალურობის საკითხი და მომხმარებლებს შეახსენა, რომ გაზიარების მარტივი და მოსახერხებელი ფუნქციების გამოყენებისას განსაკუთრებული სიფრთხილეა საჭირო, რათა სენსიტიური ინფორმაცია შემთხვევით საჯარო სივრცეში არ მოხვდეს.
წყარო: Design Taxi
