Depok, 15 September 2026 — CEP-CCIT FTUI menyelenggarakan workshop bertema Cyber Security yang berkolaborasi dengan Hacktrace, Spentera. Kegiatan ini mengangkat topik “AI Jailbreaking 101: Making Artificial Intelligence Do Things It Shouldn’t” dan dilaksanakan pada Selasa, 15 September 2026, pukul 13.00–16.00 WIB, bertempat di OCR 2 CEP-CCIT FTUI. Workshop ini menghadirkan Ibnu Alwan sebagai narasumber.
Kegiatan workshop bertujuan untuk memperkenalkan peserta pada teknik, risiko, serta dampak dari AI jailbreaking, sekaligus memberikan pemahaman mengenai langkah-langkah yang dapat dilakukan untuk melindungi sistem kecerdasan buatan dari manipulasi atau penggunaan yang tidak semestinya. Pembahasan ini menjadi relevan seiring dengan meningkatnya pemanfaatan teknologi Artificial Intelligence dalam berbagai bidang, baik pendidikan, industri, maupun layanan digital.
Dalam pemaparannya, Ibnu Alwan menjelaskan bahwa Cyber Security merupakan upaya untuk melindungi sistem, data, jaringan, dan aplikasi dari serangan maupun akses yang tidak sah. Salah satu aspek yang turut dibahas adalah Reinforcement Learning from Human Feedback (RLHF), yaitu metode pelatihan AI dengan memanfaatkan umpan balik manusia agar sistem dapat menghasilkan jawaban yang lebih berguna, sesuai instruksi, dan aman.
Peserta juga diperkenalkan pada konsep AI jailbreaking, yaitu usaha untuk mengakali batasan atau aturan yang diterapkan pada sistem AI agar model melakukan tindakan yang seharusnya tidak dilakukan. Secara umum, proses kerja sistem AI melibatkan tahapan User Prompt, System Prompt, Safety Layer, LLM Engine, hingga menghasilkan Output. Dalam konteks ini, praktik jailbreak berupaya memanipulasi masukan atau instruksi sehingga model dapat melewati aturan keamanan yang telah ditetapkan.
Selain itu, dalam workshop turut membahas perbedaan antara Direct Prompt Injection dan Indirect Prompt Injection. Direct Prompt Injection merupakan bentuk serangan ketika instruksi berbahaya diberikan secara langsung oleh pengguna melalui prompt atau percakapan dengan AI. Sementara itu, Indirect Prompt Injection terjadi ketika instruksi berbahaya disisipkan ke dalam data yang dibaca oleh AI, seperti situs web, dokumen PDF, email, atau berkas lainnya.
Melalui kegiatan ini, peserta diharapkan dapat memahami bahwa keamanan AI tidak hanya berkaitan dengan kemampuan sistem dalam menghasilkan jawaban, tetapi juga mencakup perlindungan terhadap manipulasi instruksi, keamanan data yang diproses, serta penerapan langkah mitigasi yang tepat. Kolaborasi antara CEP-CCIT FTUI dan Hacktrace,Spentera melalui workshop ini menjadi bagian dari upaya memperluas wawasan peserta mengenai tantangan keamanan digital dan kebutuhan kompetensi Cyber Security di dunia industri.
