ข้อผิดพลาด: ภาพที่ไม่มีอะไรผิด แต่ถูกตัดสินว่าผิด
Discord ได้เปิดเผยเมื่อเร็วๆ นี้ว่า ข้อบกพร่องในระบบการตรวจสอบอัตโนมัติของแพลตฟอร์ม ได้ทำให้บัญชีมากกว่า 8,000 บัญชีถูกระงับอย่างผิดพลาดในช่วงสองเดือนที่ผ่านมา ภาพที่ทำให้ระบบทำงานผิดพลาดนั้นไม่มีอันตรายเลย — เช่น สเปรดชีต กระดานหมากรุก ไฟล์เท็กซ์เจอร์จากเกม และแม้กระทั่งพื้นหลังสีขาวหรือสีเทาธรรมดา — แต่กลับถูกระบุว่าเป็นอันตรายและนำไปสู่การแบนทันที ข้อผิดพลาดนี้เกิดขึ้นตั้งแต่เดือนพฤษภาคม และมีบัญชีอีกประมาณ 200 บัญชีที่ได้รับผลกระทบในช่วงสุดสัปดาห์ ก่อนที่วิศวกรจะค้นพบและแก้ไขปัญหา
บริษัทระบุว่าบัญชีที่ได้รับผลกระทบกำลังถูกกู้คืนในขณะนี้ แต่สำหรับผู้ที่สูญเสียสิทธิ์การเข้าถึง ประสบการณ์ดังกล่าวเกิดขึ้นอย่างกะทันหันและน่าตกใจ ผู้คนพึ่งพา Discord สำหรับการสนทนาในการทำงาน กลุ่มเกม และมิตรภาพระยะไกล ดังนั้นการถูกระงับบัญชีอย่างไม่คาดคิดจึงอาจมากกว่าความรำคาญเล็กน้อย
AI เกิดความสับสนได้อย่างไร
ระบบของ Discord ตรวจสอบไฟล์ที่อัปโหลดโดยการเปรียบเทียบกับฐานข้อมูลของเนื้อหาที่ผิดกฎหมายหรือมีลักษณะล่วงละเมิดที่รู้จักกันดี วิธีการเปรียบเทียบความคล้ายคลึงนี้มีวัตถุประสงค์เพื่อตรวจจับเนื้อหาที่ไม่เหมาะสมในวงกว้าง แต่ไม่สมบูรณ์แบบ โดยปกติแล้ว เนื้อหาที่ถูกทำเครื่องหมายจะถูกส่งไปยังผู้ตรวจสอบมนุษย์ก่อนที่จะมีการดำเนินการที่รุนแรง แต่ในกรณีนี้ ข้อบกพร่องในระบบได้ทำให้ระบบความปลอดภัยนี้ทำงานผิดปกติ และก่อให้เกิดการแบนอัตโนมัติโดยไม่ผ่านขั้นตอนการตรวจสอบ
ผู้ใช้สังเกตเห็นรูปแบบในผลผิดพลาด: ภาพกริดสี่เหลี่ยมและภาพที่มีลักษณะคล้ายพื้นผิวเป็นหนึ่งในสาเหตุหลัก บางคนสันนิษฐานว่าระบบกลายเป็นไวต่อรูปแบบเหล่านี้เกินไป เนื่องจากผู้โจมตีมักใช้ภาพที่มีลักษณะคล้ายกริดเพื่อซ่อนหรือบิดเบือนเนื้อหาผิดกฎหมายเพื่อหลีกเลี่ยงระบบตรวจจับ ไม่ว่าเหตุผลจะเป็นอะไร ระบบการตรวจสอบได้ตัดสินว่าภาพที่ดูธรรมดาบางภาพนั้นน่าสงสัยพอที่จะดำเนินการ
ผลพวงและภาพรวม
ผลพวงของปัญหานี้แพร่กระจายไปทั่วเครือข่ายสังคมออนไลน์ ที่ผู้ใช้ที่ถูกแบนได้แบ่งปันความหงุดหงิดและคำร้องขอให้คืนบัญชี
ความคิดเห็นต่าง ๆ ได้ชี้ให้เห็นถึงผลที่ตามมาจริง ๆ ของความผิดพลาดอัตโนมัติ — การสูญเสียการเข้าถึงเซิร์ฟเวอร์สำคัญ ช่องทางการทำงาน หรือกลุ่มชุมชน สามารถก่อให้เกิดความวุ่นวายอย่างรุนแรง
นี่ไม่ใช่ปัญหาที่เกิดขึ้นเพียงครั้งเดียวในโลกเทคโนโลยี แพลตฟอร์มอื่น ๆ ก็เคยรายงานการระงับบัญชีที่อธิบายไม่ได้เช่นกัน
ความคิดเห็นต่าง ๆ ได้ชี้ให้เห็นถึงผลที่ตามมาจริง ๆ ของข้อผิดพลาดจากระบบอัตโนมัติ — การสูญเสียสิทธิ์เข้าถึงเซิร์ฟเวอร์สำคัญ ช่องทางการทำงาน หรือกลุ่มชุมชน สามารถก่อให้เกิดความขัดข้องอย่างรุนแรงได้
นี่ไม่ใช่ปัญหาที่เกิดขึ้นเพียงครั้งเดียวในโลกเทคโนโลยี แพลตฟอร์มอื่น ๆ ก็เคยรายงานกรณีการระงับบัญชีอย่างลึกลับ ซึ่งผู้ใช้มักให้เหตุผลว่าเป็นผลมาจากระบบอัตโนมัติที่ทำงานเกินความจำเป็น และเสียงเรียกร้องให้มีความโปร่งใสมากขึ้นก็กำลังเพิ่มขึ้นเรื่อย ๆ Discord ระบุว่ากำลังปรับปรุงระบบป้องกันเพื่อไม่ให้ข้อผิดพลาดแบบมวลชนเช่นนี้เกิดขึ้นอีก และกำลังดำเนินการคืนสิทธิ์การใช้งานบัญชีที่ได้รับผลกระทบจากข้อผิดพลาดนี้