DIGIxTEKNO: Home

Chatbot Kecerdasan Buatan (AI) telah menjadi bagian yang meluas dari interaksi online, dirancang untuk berinteraksi dengan pengguna dengan respon informatif dan membantu. Namun, penelitian terbaru oleh Universitas Carnegie Mellon dan Pusat Keamanan A.I. mengungkapkan kelemahan serius pada pelindung chatbot populer, termasuk ChatGPT , Google Bard , dan Claude . Para peneliti menemukan bahwa dengan menambahkan teks tertentu pada permintaan (prompt), dapat melewati mekanisme keamanan, menyebabkan generasi informasi berbahaya dan palsu. Kerentan ini menimbulkan kekhawatiran tentang banjirnya disinformasi dan toksisitas di internet. Perusahaan AI berinvestasi banyak usaha dalam melindungi chatbot mereka dari konten berbahaya seperti ujaran kebencian atau disinformasi. Namun, temuan para peneliti menunjukkan bahwa hal ini mungkin tidak cukup. Dengan menggunakan sistem AI sumber terbuka (open-source) , para peneliti dapat mengembangkan teknik untuk mengelabui mekanisme keamanan pada bebe...

Meta , perusahaan yang sebelumnya dikenal sebagai Facebook , sedang mempersiapkan diri untuk meluncurkan serangkaian chatbot berbasis kecerdasan buatan (AI) dengan karakteristik unik, yang direncanakan akan dirilis secepatnya pada bulan September. Chatbot ini dirancang untuk berinteraksi dengan pengguna dalam percakapan layaknya manusia di platform media sosial Meta , termasuk Facebook dan Instagram . Dengan rencana untuk memperkenalkan karakter seperti seorang penasihat peselancar dan persona Abraham Lincoln, Meta bertujuan untuk meningkatkan interaksi pengguna dan retensi platform. Namun, langkah ini juga menimbulkan kekhawatiran tentang privasi data dan potensi dampak dari interaksi chatbot AI dengan pengguna muda. Langkah Menuju Peningkatan Keterlibatan Pengguna: Menyadari perlunya peningkatan keterlibatan dengan platform media sosialnya, Meta telah bekerja keras dalam merancang prototipe chatbot AI yang dapat memberikan pengalaman yang lebih personal bagi penggunanya. Pen...

Seorang peretas baru-baru ini mengembangkan WormGPT, versi jahat dari ChatGPT yang mengakomodasi kebutuhan para pelaku kejahatan siber. Berbeda dengan ChatGPT atau Google Bard, WormGPT tidak memiliki perlindungan untuk mencegahnya merespons permintaan yang jahat. Chatbot ilegal ini menarik perhatian komunitas keamanan cyber, mengundang kekhawatiran tentang potensi risiko yang ditimbulkannya. Dalam artikel ini, kita akan menjelajahi fitur-fitur WormGPT, perbedaannya dengan model GPT lainnya, dan bahaya yang terkait dengan penggunaan alat AI jahat seperti ini. WormGPT: Versi Jahat dari ChatGPT: WormGPT, yang dirilis bulan lalu, adalah chatbot jahat yang merespons permintaan yang mengandung konten jahat, membedakannya dari alat AI generatif lain seperti ChatGPT atau Bing. Namun, penting untuk menyadari bahwa WormGPT secara khusus dirancang untuk membantu para penjahat online dalam kegiatan ilegal mereka. Untuk mempromosikan penggunaan teknologi yang etis dan bertanggung jawab, sangat pent...