Selain itu, algoritme sering kali mengabaikan penyisipan karakter khusus atau digit ke dalam kata sandi. Sementara DeepSeek dan Llama terkadang menghasilkan kata sandi yang lebih pendek dari 12 karakter.
Mengetahui ketergantungan ini, penjahat siber dapat secara signifikan mempercepat serangan brute force kata sandi, daripada mencoba secara berurutan.
Pada tahun 2024, Antonov mengembangkan algoritme pembelajaran mesin untuk menguji kekuatan kata sandi dan menemukan bahwa hampir 60 persen kata sandi dapat dipecahkan dalam waktu kurang dari satu jam menggunakan GPU modern atau alat pembobolan berbasis cloud.
Ketika diterapkan pada kata sandi yang dihasilkan AI, hasilnya mengkhawatirkan, kata sandi tersebut jauh kurang aman daripada yang terlihat di mana 88 persen kata sandi yang dihasilkan DeepSeek dan 87 persen Llama tidak cukup kuat untuk menahan serangan dari penjahat siber yang canggih. Sementara ChatGPT sedikit lebih baik dengan 33 persen kata sandi tidak cukup kuat untuk lulus uji Kaspersky.
“Masalahnya adalah LLM tidak menciptakan keacakan yang sebenarnya. Sebaliknya, mereka meniru pola dari data yang ada, membuat hasilnya dapat diprediksi oleh penyerang yang memahami cara kerja model ini," catat Antonov.