Memotong sudut: Kampanye spam canggih yang memanfaatkan model bahasa besar Genai telah menargetkan puluhan ribu situs web, mengungkapkan sisi gelap LLMS. Menurut laporan terperinci oleh Sentinellabs, kerangka kerja di balik operasi ini, dijuluki Akirabot, telah berhasil melewati filter deteksi spam, mengirimkan pesan yang dihasilkan AI ke lebih dari 80.000 situs web hanya dalam empat bulan.
Akirabot adalah kerangka kerja berbasis Python yang mengeksploitasi formulir kontak situs web dan widget obrolan langsung, terutama menargetkan bisnis kecil dan menengah. Tujuannya adalah untuk mempromosikan layanan optimasi mesin pencari yang dipertanyakan di bawah merek “Akira” dan “ServiceWrap.”
Tidak seperti alat spam tradisional yang mengandalkan templat berulang, Akirabot menggunakan Openai's Chat API untuk menghasilkan pesan unik yang disesuaikan untuk setiap situs web yang ditargetkan. Ini membuat konten yang dipersonalisasi menggunakan detail khusus situs yang dikikis dengan indah, membuat pesan lebih sulit untuk dideteksi filter spam.
Desain modular kerangka kerja meliputi mekanisme bypass captcha canggih dan teknik penghindaran jaringan. Ini menggunakan selenium webdriver untuk mensimulasikan perilaku penelusuran yang sah, bersama dengan skrip seperti inject.js untuk memanipulasi atribut browser seperti rendering grafis, font yang diinstal, dan profil memori sistem.
Modifikasi ini memungkinkan Akirabot untuk meniru perilaku pengguna nyata, mengalahkan sistem captcha seperti hcaptcha dan recaptcha. Selain itu, ini bergantung pada layanan proxy seperti SmartProxy untuk mendiversifikasi sumber lalu lintas dan menghindari pembatasan berbasis IP.
Sentinellabs mengungkap arsip yang berasal dari September 2024 yang mendokumentasikan evolusi Akirabot. Awalnya disebut sebagai “Shopbot,” kerangka kerja memperluas penargetannya dari situs web berbasis Shopify ke platform seperti GoDaddy, Wix, Squarespace, dan lainnya yang biasa digunakan oleh bisnis kecil.
Antarmuka pengguna grafis bot memungkinkan operator untuk memantau metrik keberhasilan dan menyesuaikan pengaturan untuk menargetkan beberapa situs web secara bersamaan. Log yang diperoleh oleh para peneliti mengungkapkan bahwa Akirabot berhasil mengirim lebih dari 80.000 domain sementara gagal pada sekitar 11.000 upaya. Secara total, lebih dari 420.000 domain unik ditargetkan.
Penggunaan konten yang dihasilkan AI dalam kampanye spam menandai perubahan taktik yang signifikan. Ini menyoroti sifat dual-digunakan dari model bahasa besar: sementara mereka memberi daya pada inovasi dalam otomatisasi dan komunikasi, mereka juga menyediakan alat untuk aktivitas jahat.
Openai merespons segera setelah diberitahu oleh Sentinellabs, menonaktifkan kunci API yang terkait dengan Akirabot dan menegaskan kembali komitmennya untuk mencegah penyalahgunaan. “Mendistribusikan output dari layanan kami untuk spam bertentangan dengan kebijakan kami,” kata Openai. “Kami menganggap serius penyalahgunaan dan terus meningkatkan sistem kami untuk mendeteksi penyalahgunaan.”
Meskipun demikian, Sentinellab memperingatkan bahwa operator Akirabot cenderung terus menyempurnakan teknik mereka karena penyedia hosting situs web memperkuat pertahanan. Ini mencatat bahwa ketergantungan kampanye pada Captcha melewati teknologi dan rotasi proxy menunjukkan tingkat kecanggihan dan tekad yang tinggi.