Alex Popken sudah lama menjabat sebagai eksekutif kepercayaan dan keselamatan di Twitter yang berfokus pada moderasi konten sebelum keluar pada tahun 2023. Dia adalah karyawan pertama di sana yang berdedikasi untuk memoderasi bisnis periklanan Twitter ketika dia memulainya pada tahun 2013.
Kini, dia menjabat sebagai wakil presiden bidang kepercayaan dan keamanan di WebPurify, penyedia layanan moderasi konten yang bekerja sama dengan berbagai bisnis untuk membantu memastikan konten yang diposkan orang di situs mereka mengikuti aturan.
Platform media sosial bukan satu-satunya yang memerlukan pengawasan. Perusahaan mana pun yang berhubungan dengan konsumen—mulai dari pengecer, aplikasi kencan, hingga situs berita—membutuhkan seseorang untuk menyingkirkan konten yang tidak diinginkan, baik itu perkataan yang mendorong kebencian, pelecehan, atau apa pun yang ilegal. Perusahaan semakin banyak menggunakan kecerdasan buatan dalam upaya mereka, namun Popken mencatat bahwa manusia tetap penting dalam proses tersebut.
Popken baru-baru ini berbicara dengan The Associated Press. Percakapan telah diedit untuk kejelasan dan panjangnya.
PERTANYAAN: Bagaimana Anda melihat perubahan moderasi konten pada dekade Anda berada di Twitter?
JAWABAN: Saat saya bergabung dengan Twitter, moderasi konten masih dalam tahap awal. Saya pikir bahkan kepercayaan dan keamanan adalah konsep yang baru mulai dipahami dan digeluti oleh orang-orang. Kebutuhan akan moderasi konten semakin meningkat seiring dengan meningkatnya platform yang melihat konten tersebut dijadikan senjata dengan cara-cara baru. Saya dapat mengingat beberapa tonggak penting selama masa jabatan saya di Twitter. Misalnya saja, campur tangan Rusia dalam pemilu presiden AS tahun 2016, yang merupakan saat pertama kalinya kami menyadari, dengan penuh makna, bahwa tanpa moderasi konten, kita dapat melihat aktor-aktor jahat yang merusak demokrasi. Kebutuhan untuk berinvestasi di bidang ini menjadi semakin penting.
T: Banyak perusahaan, perusahaan media sosial yang lebih besar, mengandalkan AI untuk moderasi konten. Apakah menurut Anda AI masih bisa diandalkan?
J: Moderasi konten yang efektif adalah kombinasi antara manusia dan mesin. AI, yang telah digunakan secara moderat selama bertahun-tahun, memecahkan masalah skala. Jadi Anda memiliki model pembelajaran mesin yang dilatih tentang berbagai kebijakan dan dapat mendeteksi konten. Namun pada akhirnya, katakanlah Anda memiliki model pembelajaran mesin yang mendeteksi kata 'Nazi'. Ada banyak postingan yang mungkin mengkritik Nazi atau memberikan materi pendidikan tentang Nazi versus supremasi kulit putih. Oleh karena itu, hal ini tidak dapat memecahkan masalah nuansa dan konteks. Dan di situlah peran lapisan manusia.
Saya pikir kita mulai melihat kemajuan penting yang akan membuat pekerjaan manusia menjadi lebih mudah. Dan menurut saya AI generatif adalah contoh yang bagus, tidak seperti AI tradisional. Model AI, dapat memahami konteks dan nuansa lebih dari pendahulunya. Namun demikian, kami memiliki kasus penggunaan yang benar-benar baru untuk moderator manusia kami yang kini seputar memoderasi keluaran AI generatif. Oleh karena itu, menurut pendapat saya, kebutuhan akan sikap moderat akan tetap ada di masa mendatang.
T: Bisakah Anda menjelaskan sedikit tentang perusahaan non-media sosial tempat Anda bekerja dan jenis moderasi konten apa yang mereka gunakan?
A: Maksud saya, semuanya mulai dari kustomisasi produk ritel, lho, bayangkan Anda mengizinkan orang untuk menyesuaikan T-shirt, bukan? Tentu saja, Anda ingin menghindari kasus penggunaan di mana orang menyalahgunakannya dan menaruh hal-hal yang berbahaya dan penuh kebencian pada T-shirt.
Sungguh, apa pun yang memiliki konten buatan pengguna, hingga kencan online—di sana, Anda mencari hal-hal seperti memancing ikan lele dan penipuan dan memastikan bahwa orang-orang adalah seperti yang mereka katakan dan mencegah orang mengunggah foto yang tidak pantas misalnya. Itu mencakup banyak industri.
T: Bagaimana dengan isu yang Anda moderasi, apakah ada perubahan?
J: Moderasi konten adalah lanskap yang terus berkembang. Dan itu dipengaruhi oleh apa yang terjadi di dunia. Hal ini dipengaruhi oleh teknologi baru dan berkembang. Hal ini dipengaruhi oleh pihak-pihak jahat yang berusaha memasuki platform ini dengan cara baru dan inovatif. Jadi sebagai tim moderasi konten, Anda berusaha untuk tetap selangkah lebih maju dan mengantisipasi risiko baru.
Saya pikir ada sedikit pemikiran bencana dalam peran ini di mana Anda memikirkan skenario terburuk apa yang bisa terjadi di sini. Dan tentu saja mereka berevolusi. Saya pikir misinformasi adalah contoh bagus di mana ada begitu banyak aspek dari misinformasi dan sulit untuk dimoderasi. Ini seperti merebus lautan. Maksud saya, Anda tidak bisa memeriksa fakta setiap hal yang dikatakan seseorang, bukan? Dan biasanya platform harus fokus pada misinformasi agar tidak menimbulkan kerugian yang paling nyata. Dan itu juga selalu berkembang.
T: Dalam kaitannya dengan AI generatif, ada orang yang berpikir bahwa AI akan merusak internet, dan hanya berisi, Anda tahu, AI palsu di dalamnya. Apakah Anda merasa hal itu mungkin terjadi?
J: Saya mempunyai kekhawatiran terhadap misinformasi yang disebabkan oleh AI, terutama pada musim pemilu yang sangat penting secara global. Anda tahu, kita secara aktif melihat lebih banyak deepfake (pemalsuan mendalam) dan media sintetis dan manipulasi yang berbahaya di internet, dan hal ini mengkhawatirkan karena menurut saya rata-rata orang mungkin mengalami kesulitan. membedakan akurat versus tidak.
Saya pikir dalam jangka menengah dan panjang, jika saya bisa diatur dengan baik dan jika ada pagar pembatas yang tepat di sekitarnya, saya juga berpikir bahwa hal ini dapat menciptakan peluang bagi kepercayaan dan praktisi keselamatan kita. Saya bersedia. Bayangkan sebuah dunia di mana AI merupakan alat penting dalam peran moderasi konten, untuk hal-hal seperti intelijen ancaman. Anda tahu, menurut saya ini akan menjadi alat yang sangat berguna, namun juga akan disalahgunakan. Dan kami sudah melihatnya.