Kaspersky Digital Footprint Intelligence-ის გუნდმა წარმოადგინა მოხსენება „ჩრდილოვანი ინოვაცია: როგორ ექსპერიმენტებს ატარებენ კიბერკრიმინალები AI-ით ბნელ ქსელში“, რომელშიც სპეციალისტებმა გააანალიზეს შეტყობინებები დარკნეტში ChatGPT-ის და სხვა მსგავსი გადაწყვეტილებების გამოყენების შესახებ თავდამსხმელების მიერ დიდი ენობრივი მოდელების საფუძველზე. „კასპერსკის ლაბორატორია“ იტყობინება, რომ 2023 წელს, ჩრდილოვან ფორუმებსა და სპეციალიზებულ Telegram-ის არხებზე ნაპოვნი იქნა 2890 პოსტი, რომლებიც განიხილავდნენ ნეირონულ ქსელებზე დაფუძნებულ ჩეტბოტებს. პიკი იყო აპრილში, როცა ექსპერტებმა 509 შეტყობინება დააფიქსირეს. ექსპერტებმა მოახდინეს ამ პოსტების კლასიფიკაცია მიმართულებების მიხედვით.
ჯეილბრეიკები. იმისათვის, რომ ენის მოდელმა უზრუნველყოს პასუხები უკანონო აქტივობასთან დაკავშირებით, თავდამსხმელები იყენებენ სპეციალურ ბრძანებებს. მათ შეუძლიათ დამატებითი ფუნქციების გახსნა ChatGPT -ში და მსგავს სერვისებში. ასეთ კომპლექტებს ჯეილბრეიკები ეწოდება. 2023 წელს „კასპერსკის ლაბორატორიის“ ექსპერტებმა აღმოაჩინეს 249 წინადადება ასეთი ბრძანებების განაწილებისა და გაყიდვის შესახებ. აღსანიშნავია, რომ jailbreak-ის გამოყენება ასევე შესაძლებელია ენის მოდელებზე დაფუძნებული ლეგიტიმური სერვისების მუშაობის გასაუმჯობესებლად.
მავნე პროგრამა. ჩრდილოვანი ფორუმების მონაწილეებმა აქტიურად მოახერხეს ენობრივი მოდელების გამოყენების ვარიანტების ურთიერთგაცვლა მავნე პროგრამების გასაუმჯობესებლად და ზოგადად კიბერშეტევების ეფექტურობის გაზრდის მიზნით. მაგალითად, ექსპერტებმა აღმოაჩინეს შეტყობინება, რომელშიც აღწერილია პროგრამული უზრუნველყოფა მავნე პროგრამის ოპერატორებისთვის, რომლებიც იყენებდნენ ნეირონულ ქსელებს ოპერატორის უსაფრთხოების უზრუნველსაყოფად და გამოყენებული საფარის დომენების ავტომატურად გადასართავად. სხვა დისკუსიებში პოსტების ავტორები სთავაზობდნენ ChatGPT პოლიმორფული მავნე კოდის გენერირებისთვის, რომლის აღმოჩენა და ანალიზი ძალიან რთულია.
Open Source და pentest პროგრამები (შეღწევადობის ტესტი). მსხვილ ენობრივ მოდელებზე დაფუძნებული გადაწყვეტილებები იქმნება ღია კოდის პროგრამული უზრუნველყოფის შემქმნელების მიერ, მათ შორის პროგრამები ინფორმაციული უსაფრთხოების სპეციალისტებისთვის. თუმცა, თავდამსხმელებიც აქცევენ ყურადღებას ასეთ პროექტებს. მაგალითად, ინტერნეტში არის გარკვეული ღია კოდის პროგრამა, რომელიც თავისუფლად არის ხელმისაწვდომი გენერაციული მოდელის საფუძველზე, რომელიც შექმნილია კოდის დაბინდვისთვის. დაბნელება საშუალებას გაძლევთ თავიდან აიცილოთ გამოვლენა მონიტორინგის სისტემებით და უსაფრთხოების გადაწყვეტილებებით. ასეთ უტილიტების გამოყენება შესაძლებელია როგორც პენტესტერის, ასევე თავდამსხმელის მიერ. „კასპერსკის ლაბორატორიის“ სპეციალისტებმა დარკნეტში იპოვეს პოსტი, რომელშიც ავტორები აზიარებენ ამ უტილიტას და ხსნიან, თუ როგორ შეიძლება მისი გამოყენება მავნე მიზნებისთვის.
ChatGPT-ის “ბოროტი” ანალოგები. ჭკვიანი ჩეთბოტების პოპულარობის ფონზე დიდი ინტერესი გამოიწვია სხვა პროექტებმაც: WormGPT, XXXGPT, FraudGPT. ეს არის ენის მოდელები, რომლებიც გამოიყენებიან ChatGPT-ის ალტერნატივად, დამატებითი ფუნქციონირებით და მოხსნილი შეზღუდვებით. მიუხედავად იმისა, რომ გადაწყვეტილებების უმეტესობა შეიძლება გამოყენებულ იქნას ლეგალურად, თავდამსხმელებს ასევე შეუძლიათ გამოიყენონ ისინი, მაგალითად, მავნე პროგრამების დასაწერად. თუმცა, ასეთი წინადადებებისადმი გაზრდილი ყურადღება მის შემქმნელებისთვის ყოველთვის ვერ არის ხელსაყრელი. 2023 წელში WormGPT დაიხურა საფრთხისადმი შიშის გამო. გარდა ამისა, „კასპერსკის ლაბორატორიის“ სპეციალისტების მიერ აღმოჩენილი მრავალი საიტი და რეკლამა, რომლებიც სთავაზობდნენ WormGPT-ზე წვდომის შეძენას, არსებითად თაღლითური იყო. საინტერესოა, რომ ამგვარი წინადადებების დიდმა რაოდენობამ აიძულა პროექტის ავტორები დახურვამდე წინასწარ გაფრთხილებინათ მომხმარებლები მოტყუების შესაძლებლობის შესახებ.
„არსებობს შეშფოთება, რომ დიდი ენობრივი მოდელების შემუშავება თავდამსხმელებს საშუალებას აძლევს გაამარტივონ თავიანთი საქმიანობა და ამავდროულად შეამცირონ მათთვის ინდუსტრიაში შესვლის ბარიერი. თუმცა, ამ დროისთვის ჩვენ ვერ ვხედავთ რეალურ ინციდენტს, რომლებშიც ასეთი გადაწყვეტილებები იქნა გამოყენებული. თუმცა, ტექნოლოგია სწრაფი ტემპით ვითარდება და სავარაუდოა, რომ ენობრივი მოდელების შესაძლებლობები მალე დახვეწილი შეტევების საშუალებას მისცემს, ამიტომ ამ სფეროს სჭირდება სერიოზული ყურადღების მიქცევა“, – ამბობს Kaspersky Digital Footprint Intelligence-ის ანალიტიკოსი ალისა კულიშენკო.
