Namun, DeepSeek AI juga memiliki kekurangan, terutama dalam hal keamanan. Penelitian mengungkap adanya kerentanan yang dapat dimanfaatkan oleh pelaku kejahatan siber untuk mengambil alih akun pengguna melalui serangan injeksi cepat. Masalah ini menjadi perhatian serius, mengingat popularitas DeepSeek yang terus meningkat di kalangan pengembang AI.
Berdasarkan penelitian terbaru, kerentanan keamanan dalam sistem DeepSeek AI berpotensi dimanfaatkan oleh pelaku kejahatan siber untuk menyerang pengguna. Salah satu kerentanannya adalah serangan injeksi cepat, di mana pelaku dapat menyuntikkan kode berbahaya ke dalam sistem DeepSeek untuk mengambil alih akun pengguna.
Kerentanan ini memungkinkan pelaku untuk mengakses data pengguna, termasuk token sesi, yang kemudian dapat digunakan untuk menyamar sebagai pengguna. Selain itu, serangan XSS (cross-site scripting) yang ditemukan dalam sistem DeepSeek juga dapat menyebabkan eksekusi kode tidak sah di peramban web korban.
"Fitur-fitur yang sudah berumur puluhan tahun menyediakan permukaan serangan yang tidak terduga pada aplikasi GenAI, penting bagi pengembang dan perancang aplikasi untuk mempertimbangkan konteks tempat mereka memasukkan keluaran LLM, karena keluaran tersebut tidak tepercaya dan dapat berisi data yang sembarangan," ujar Peneliti keamanan Johann Rehberger, mengutip thehackernews.com