Alex Popken เป็นผู้บริหารด้านความไว้วางใจและความปลอดภัยของ Twitter มายาวนาน โดยมุ่งเน้นที่การกลั่นกรองเนื้อหาก่อนลาออกในปี 2023 เธอเป็นพนักงานคนแรกที่รับผิดชอบดูแลธุรกิจโฆษณาของ Twitter เมื่อเธอเริ่มทำงานในปี 2013
ปัจจุบัน เธอเป็นรองประธานฝ่ายความไว้วางใจและความปลอดภัยของ WebPurify ซึ่งเป็นผู้ให้บริการตรวจสอบเนื้อหาที่ทำงานร่วมกับธุรกิจต่างๆ เพื่อช่วยให้แน่ใจว่าเนื้อหาที่ผู้คนโพสต์บนเว็บไซต์ของตนเป็นไปตามกฎเกณฑ์
แพลตฟอร์มโซเชียลมีเดียไม่ใช่แพลตฟอร์มเดียวที่ต้องได้รับการตรวจสอบ บริษัทที่พบปะกับผู้บริโภค ตั้งแต่ผู้ค้าปลีก แอปหาคู่ ไปจนถึงเว็บไซต์ข่าว ต้องการใครสักคนเพื่อคัดแยกเนื้อหาที่ไม่พึงประสงค์ ไม่ว่าจะเป็นคำพูดแสดงความเกลียดชัง การล่วงละเมิด หรือสิ่งผิดกฎหมาย บริษัทต่างๆ หันมาใช้ปัญญาประดิษฐ์มากขึ้นในความพยายามของตน แต่ Popken ตั้งข้อสังเกตว่ามนุษย์ยังคงมีความสำคัญต่อกระบวนการนี้
Popken ได้พูดคุยกับ The Associated Press เมื่อเร็ว ๆ นี้ บทสนทนาได้รับการแก้ไขเพื่อความชัดเจนและความยาว
คำถาม: คุณเห็นการเปลี่ยนแปลงการกลั่นกรองเนื้อหาในทศวรรษที่คุณอยู่ที่ Twitter อย่างไร
คำตอบ: เมื่อฉันเข้าร่วม Twitter การกลั่นกรองเนื้อหายังอยู่ในช่วงเริ่มต้น ฉันคิดว่าแม้แต่ความไว้วางใจและความปลอดภัยก็เป็นแนวคิดนี้ที่ผู้คนเพิ่งเริ่มเข้าใจและต่อสู้ด้วย ความจำเป็นในการกลั่นกรองเนื้อหาเพิ่มมากขึ้นในขณะที่เรา เนื่องจากแพลตฟอร์มต่างๆ มองว่าพวกมันถูกติดอาวุธในรูปแบบใหม่ ฉันจำเหตุการณ์สำคัญบางอย่างของการดำรงตำแหน่งที่ Twitter ได้ ตัวอย่างเช่น การแทรกแซงของรัสเซียในการเลือกตั้งประธานาธิบดีสหรัฐฯ ปี 2016 ซึ่งเราตระหนักเป็นครั้งแรก ได้รับการตระหนักอย่างมีความหมายว่า หากปราศจากการกลั่นกรองเนื้อหา เราก็อาจมีผู้กระทำไม่ดีที่บ่อนทำลายประชาธิปไตยได้ ความจำเป็นในการลงทุนในพื้นที่นี้มีความสำคัญมากขึ้นเรื่อย ๆ
ถาม: บริษัทจำนวนมาก รวมถึงบริษัทโซเชียลมีเดียรายใหญ่ต่างก็อาศัย AI ในการกลั่นกรองเนื้อหา คุณคิดว่า AI อยู่ในจุดที่สามารถพึ่งพาได้หรือไม่ เพราะเหตุใด
ตอบ: การกลั่นกรองเนื้อหาที่มีประสิทธิผลเป็นการผสมผสานระหว่างมนุษย์และเครื่องจักร AI ซึ่งถูกนำมาใช้อย่างพอประมาณมานานหลายปี สามารถแก้ปัญหาในระดับใหญ่ได้ คุณจึงมีโมเดลแมชชีนเลิร์นนิงที่ได้รับการฝึกฝนเกี่ยวกับนโยบายที่แตกต่างกันและสามารถตรวจจับเนื้อหาได้ แต่ท้ายที่สุดแล้ว สมมติว่าคุณมีโมเดลแมชชีนเลิร์นนิงที่ตรวจจับคำว่า "นาซี" มีโพสต์จำนวนมากที่อาจวิพากษ์วิจารณ์พวกนาซีหรือให้ความรู้เกี่ยวกับพวกนาซีเมื่อเทียบกับการมีอำนาจสูงสุดของคนผิวขาว ดังนั้นจึงไม่สามารถแก้ปัญหาความแตกต่างและบริบทได้ และนั่นคือจุดที่ชั้นมนุษย์เข้ามา
ฉันคิดว่าเราเริ่มเห็นความก้าวหน้าที่สำคัญจริงๆ ซึ่งจะทำให้งานของมนุษย์ง่ายขึ้น และฉันคิดว่า generative AI เป็นตัวอย่างที่ดี ซึ่งต่างจากแบบดั้งเดิม โมเดล AI สามารถเข้าใจบริบทและความแตกต่างมากกว่ารุ่นก่อนมาก แต่ถึงกระนั้น เราก็มีกรณีการใช้งานใหม่ทั้งหมดสำหรับผู้ตรวจสอบที่เป็นมนุษย์ของเราในขณะนี้ เกี่ยวกับการกลั่นกรองเอาต์พุต AI ที่สร้าง ดังนั้นความจำเป็นในการกลั่นกรองของมนุษย์จะยังคงอยู่ต่อไปในอนาคตอันใกล้ในความคิดของฉัน
ถาม: คุณช่วยเล่าเกี่ยวกับบริษัทที่ไม่ใช่โซเชียลมีเดียที่คุณทำงานด้วยให้ฟังหน่อยได้ไหม และพวกเขาใช้การกลั่นกรองเนื้อหาประเภทใด
A: ฉันหมายถึง ทุกอย่างตั้งแต่การปรับแต่งผลิตภัณฑ์ขายปลีก ลองจินตนาการว่าคุณอนุญาตให้ผู้คนปรับแต่งเสื้อยืดใช่ไหม แน่นอนว่าคุณต้องการหลีกเลี่ยงกรณีการใช้งานที่ผู้คนใช้สิ่งนั้นในทางที่ผิดและใส่สิ่งที่เป็นอันตรายและแสดงความเกลียดชังลงบนเสื้อยืด
จริงๆ แล้ว สิ่งใดก็ตามที่มีเนื้อหาที่ผู้ใช้สร้างขึ้น ไปจนถึงการหาคู่ออนไลน์ ที่นั่นคุณกำลังมองหาสิ่งต่างๆ เช่น การตกปลาดุกและการหลอกลวง และสร้างความมั่นใจว่าผู้คนเป็นอย่างที่พวกเขาพูด และป้องกันไม่ให้ผู้อื่นอัปโหลดภาพที่ไม่เหมาะสม เป็นต้น มันครอบคลุมหลายอุตสาหกรรม
ถาม: แล้วปัญหาที่คุณกำลังกลั่นกรองนั้นมีการเปลี่ยนแปลงหรือไม่
ตอบ: การกลั่นกรองเนื้อหาเป็นภูมิทัศน์ที่มีการพัฒนาอยู่ตลอดเวลา และได้รับอิทธิพลจากสิ่งที่เกิดขึ้นในโลก ได้รับอิทธิพลจากเทคโนโลยีใหม่ๆ ที่กำลังพัฒนา มันได้รับอิทธิพลจากนักแสดงที่ไม่ดีซึ่งจะพยายามเข้าสู่แพลตฟอร์มเหล่านี้ด้วยวิธีใหม่และสร้างสรรค์ ในฐานะทีมตรวจสอบเนื้อหา คุณกำลังพยายามก้าวนำหน้าหนึ่งก้าวและคาดการณ์ความเสี่ยงใหม่ๆ
ฉันคิดว่ามีความคิดที่เลวร้ายเล็กน้อยในบทบาทนี้ โดยที่คุณคิดประมาณว่า อะไรคือสถานการณ์ที่เลวร้ายที่สุดที่สามารถเกิดขึ้นได้ที่นี่ และแน่นอนว่าพวกมันมีวิวัฒนาการ ฉันคิดว่าข้อมูลที่ผิดเป็นตัวอย่างที่ดีที่มีการให้ข้อมูลผิดๆ มากมายและเป็นเรื่องยากที่จะกลั่นกรอง มันเหมือนกับการเดือดของมหาสมุทร ฉันหมายความว่าคุณไม่สามารถตรวจสอบทุกสิ่งที่ใครบางคนพูดได้จริงใช่ไหม? โดยทั่วไปแล้วแพลตฟอร์มต่างๆ จะต้องมุ่งเน้นไปที่ข้อมูลที่ไม่ถูกต้องเพื่อไม่ให้เกิดอันตรายในโลกแห่งความเป็นจริง และนั่นก็มีการพัฒนาอยู่เสมอ
ถาม: ในแง่ของ generative AI มีวันโลกาวินาศที่คิดว่ามันจะทำลายอินเทอร์เน็ต และมันจะเป็นแค่ AI ปลอมๆ อยู่บนนั้น คุณรู้สึกว่าสิ่งนั้นจะเกิดขึ้นหรือไม่?
ตอบ: ฉันมีความกังวลเกี่ยวกับข้อมูลที่ผิดจาก AI โดยเฉพาะอย่างยิ่งในช่วงฤดูการเลือกตั้งที่สำคัญอย่างยิ่งทั่วโลก คุณรู้ไหมว่าเรากำลังเห็นสื่อสังเคราะห์และสื่อบิดเบือนที่เป็นอันตรายเพิ่มมากขึ้นทางออนไลน์ ซึ่งเป็นเรื่องที่น่ากังวลเพราะฉันคิดว่าคนทั่วไปคงมีช่วงเวลาที่ยากลำบาก แยกแยะถูกต้องกับไม่
ฉันคิดว่าระยะกลางถึงระยะยาว หากฉันสามารถควบคุมได้อย่างเหมาะสม และหากมีรั้วที่เหมาะสม ฉันก็คิดว่ามันสามารถสร้างโอกาสให้กับผู้ปฏิบัติงานด้านความไว้วางใจและความปลอดภัยของเราได้ ฉันทำ. ลองจินตนาการถึงโลกที่ AI เป็นเครื่องมือสำคัญในแถบเครื่องมือในการกลั่นกรองเนื้อหา สำหรับสิ่งต่างๆ เช่น ข้อมูลภัยคุกคาม คุณรู้ไหม ฉันคิดว่ามันจะเป็นเครื่องมือที่มีประโยชน์อย่างยิ่ง แต่ก็จะถูกนำไปใช้ในทางที่ผิดเช่นกัน และเราได้เห็นสิ่งนั้นแล้ว