Facebook sedang mensimulasikan perilaku buruk pengguna menggunakan AI

Insinyur Facebook telah mengembangkan metode baru untuk membantu mereka mengidentifikasi dan mencegah perilaku berbahaya seperti pengguna menyebarkan spam, menipu orang lain, atau membeli dan menjual senjata dan narkoba. Mereka sekarang dapat mensimulasikan tindakan aktor jahat menggunakan bot bertenaga AI dengan membiarkan mereka lepas pada versi paralel Facebook. Peneliti kemudian dapat mempelajari perilaku bot dalam simulasi dan bereksperimen dengan cara-cara baru untuk menghentikannya.

SIMULASI SPAM, SCAM, DAN PENJUALAN OBAT

Simulator ini dikenal sebagai WW, dilafalkan "Dub Dub," dan didasarkan pada basis kode nyata Facebook. Perusahaan menerbitkan sebuah makalah di WW (disebut karena simulator adalah versi terpotong WWW, world wide web) awal tahun ini, tetapi berbagi lebih banyak informasi tentang pekerjaan di meja bundar baru-baru ini.

Penelitian ini dipimpin oleh insinyur Facebook Mark Harman dan departemen AI perusahaan di London. Berbicara kepada wartawan, Harman mengatakan WW adalah alat yang sangat fleksibel yang dapat digunakan untuk membatasi berbagai perilaku berbahaya di situs, dan dia memberikan contoh menggunakan simulasi untuk mengembangkan pertahanan baru terhadap scammers.

Dalam kehidupan nyata, scammers sering memulai pekerjaan mereka dengan mencari-cari kelompok pertemanan pengguna untuk menemukan tanda potensial. Untuk memodelkan perilaku ini di WW, insinyur Facebook menciptakan sekelompok bot "tidak bersalah" untuk bertindak sebagai target dan melatih sejumlah bot "jahat" yang menjelajahi jaringan untuk mencoba menemukannya. Para insinyur kemudian mencoba berbagai cara untuk menghentikan bot buruk, memperkenalkan berbagai kendala, seperti membatasi jumlah pesan pribadi dan memposting bot yang bisa dikirim setiap menit, untuk melihat bagaimana ini mempengaruhi perilaku mereka.

Harman membandingkan pekerjaan itu dengan pekerjaan para perencana kota yang berusaha mengurangi kecepatan di jalan-jalan yang sibuk. Dalam hal itu, para insinyur memodelkan arus lalu lintas dalam simulator dan kemudian bereksperimen dengan memperkenalkan hal-hal seperti gundukan cepat di jalan-jalan tertentu untuk melihat efek apa yang mereka miliki. Simulasi WW memungkinkan Facebook untuk melakukan hal yang sama tetapi dengan pengguna Facebook.

Gesper666