Alex Popken ialah eksekutif amanah dan keselamatan lama di Twitter yang memfokuskan pada penyederhanaan kandungan sebelum meninggalkannya pada tahun 2023. Dia merupakan pekerja pertama di sana yang berdedikasi untuk menyederhanakan perniagaan pengiklanan Twitter apabila dia bermula pada tahun 2013.
Kini, dia ialah naib presiden amanah dan keselamatan di WebPurify, penyedia perkhidmatan penyederhanaan kandungan yang bekerjasama dengan perniagaan untuk membantu memastikan kandungan yang disiarkan oleh orang di tapak mereka mematuhi peraturan.
Platform media sosial bukan satu-satunya yang memerlukan kepolisan. Mana-mana syarikat yang berhadapan dengan pengguna—daripada peruncit hingga apl dating ke tapak berita—memerlukan seseorang untuk menyingkirkan kandungan yang tidak diingini, sama ada ucapan benci, gangguan atau apa-apa yang menyalahi undang-undang. Syarikat semakin menggunakan kecerdasan buatan dalam usaha mereka, tetapi Popken menyatakan bahawa manusia tetap penting untuk proses tersebut.
Popken bercakap baru-baru ini dengan The Associated Press. Perbualan telah diedit untuk kejelasan dan panjang.
SOALAN: Bagaimanakah anda melihat perubahan penyederhanaan kandungan dalam dekad anda berada di Twitter?
JAWAPAN: Apabila saya menyertai Twitter, penyederhanaan kandungan berada di peringkat permulaannya. Saya fikir walaupun kepercayaan dan keselamatan adalah konsep ini yang orang baru mula faham dan bergelut. Keperluan untuk penyederhanaan kandungan meningkat apabila kami, kerana platform melihat mereka dipersenjatai dengan cara baharu. Saya boleh mengingati beberapa peristiwa penting dalam tempoh saya di Twitter. Sebagai contoh, campur tangan Rusia dalam pilihan raya presiden AS 2016, di mana kita menyedari buat kali pertama, menyedari dengan cara yang bermakna, bahawa tanpa penyederhanaan kandungan kita boleh mempunyai aktor jahat yang menjejaskan demokrasi. Keperluan untuk melabur dalam bidang ini menjadi semakin penting.
S: Banyak syarikat, syarikat media sosial yang lebih besar bergantung pada AI untuk penyederhanaan kandungan. Adakah anda fikir AI berada di tempat yang mungkin untuk bergantung padanya?
J: Penyederhanaan kandungan yang berkesan ialah gabungan manusia dan mesin. AI, yang telah digunakan secara sederhana selama bertahun-tahun, menyelesaikan skala. Oleh itu, anda mempunyai model pembelajaran mesin yang dilatih mengenai dasar yang berbeza dan boleh mengesan kandungan. Tetapi akhirnya, katakan anda mempunyai model pembelajaran mesin yang mengesan perkataan 'Nazi.' Terdapat banyak siaran yang mungkin mengkritik Nazi atau menyediakan bahan pendidikan tentang Nazi berbanding seperti, ketuanan kulit putih. Oleh itu, ia tidak dapat menyelesaikan nuansa dan konteks. Dan di situlah sebenarnya lapisan manusia masuk.
Saya fikir kita mula melihat kemajuan yang sangat penting yang akan memudahkan kerja manusia. Dan saya fikir AI generatif adalah contoh yang bagus, di mana, tidak seperti tradisional. Model AI, ia boleh memahami konteks dan nuansa lebih daripada pendahulunya. Namun begitu, kami mempunyai kes penggunaan yang sama sekali baharu untuk penyederhana manusia kami sekarang di sekitar menyederhanakan output AI generatif. Oleh itu, keperluan untuk kesederhanaan manusia akan kekal untuk masa hadapan, pada pendapat saya.
S: Bolehkah anda bercakap sedikit tentang syarikat media bukan sosial yang anda bekerjasama dan jenis penyederhanaan kandungan yang mereka gunakan?
J: Maksud saya, segala-galanya seperti penyesuaian produk runcit, anda tahu, bayangkan anda membenarkan orang ramai menyesuaikan baju-T, bukan? Jelas sekali, anda ingin mengelakkan kes penggunaan di mana orang menyalahgunakannya dan meletakkan perkara yang berbahaya dan kebencian pada baju-T.
Sebenarnya, apa-apa sahaja yang mempunyai kandungan yang dijana pengguna, sehinggalah ke temu janji dalam talian—di sana, anda sedang mencari perkara seperti memancing keli dan penipuan serta memastikan orang lain adalah seperti yang mereka katakan dan menghalang orang daripada memuat naik foto yang tidak sesuai contohnya. Ia merangkumi pelbagai industri.
S: Bagaimana pula dengan isu yang anda sedang menyederhanakan, adakah itu berubah?
J: Penyederhanaan kandungan ialah landskap yang sentiasa berkembang. Dan ia dipengaruhi oleh apa yang berlaku di dunia. Ia dipengaruhi oleh teknologi baharu dan berkembang. Ia dipengaruhi oleh pelakon jahat yang akan cuba menggunakan platform ini dengan cara baharu dan inovatif. Oleh itu, sebagai pasukan penyederhana kandungan, anda cuba untuk kekal selangkah ke hadapan dan menjangkakan risiko baharu.
Saya berpendapat bahawa terdapat sedikit pemikiran malapetaka dalam peranan ini yang anda fikirkan seperti, apakah senario kes terburuk yang boleh berlaku di sini. Dan sudah tentu mereka berkembang. Saya fikir maklumat salah ialah contoh yang bagus di mana terdapat banyak aspek kepada maklumat salah dan ia adalah perkara yang sukar untuk disederhanakan. Ia seperti mendidih lautan. Maksud saya, anda tidak boleh menyemak fakta setiap perkara yang seseorang katakan, bukan? Oleh itu, biasanya platform perlu menumpukan pada maklumat yang salah untuk tidak menyebabkan kemudaratan dunia yang paling nyata. Dan itu juga sentiasa berkembang.
S: Dari segi AI generatif ada beberapa hari kiamat berfikir bahawa ia akan merosakkan internet, bahawa ia hanya akan, anda tahu, barangan AI palsu padanya. Adakah anda rasa seperti itu mungkin berlaku?
J: Saya mempunyai kebimbangan mengenai maklumat salah yang dijana oleh AI, terutamanya semasa musim pilihan raya yang sangat penting di seluruh dunia. Anda tahu, kami secara aktif melihat lebih banyak pemalsuan mendalam dan media sintetik dan dimanipulasi yang berbahaya dalam talian, yang membimbangkan kerana saya fikir orang biasa mungkin mengalami masa yang sukar. membezakan tepat berbanding tidak.
Saya fikir jangka sederhana hingga panjang, jika saya boleh dikawal dengan betul dan jika terdapat pagar yang sesuai di sekelilingnya, saya juga berpendapat ia boleh mewujudkan peluang kepada pengamal amanah dan keselamatan kami. Saya sudi. Bayangkan dunia di mana AI merupakan alat penting dalam tali pinggang alat penyederhanaan kandungan, untuk perkara seperti perisikan ancaman. Anda tahu, saya fikir ia akan menjadi alat yang sangat membantu, tetapi ia juga akan disalahgunakan. Dan kami sudah pun melihatnya.