Amazon ห้ามตำรวจใช้เทคโนโลยีจดจำใบหน้า

Amazon สั่งห้ามตำรวจใช้ซอฟต์แวร์จดจำใบหน้าเป็นเวลา 1 ปี

สำนักงานฯ ระบุว่า การระงับการใช้งาน Amazon Rekognition ได้รับการออกแบบมาเพื่อให้รัฐบาลมีโอกาสมากขึ้นในการออกกฎระเบียบและกรอบการทำงานเพื่อป้องกันการจดจำใบหน้าจากการมีส่วนทำให้เกิดการเลือกปฏิบัติในทุกรูปแบบ

ในระหว่างนี้ Amazon จะยังคงอนุญาตให้องค์กรที่ทุ่มเทให้กับการแก้ไขปัญหาเช่น การค้ามนุษย์และการลักพาตัวเด็กใช้เทคโนโลยีต่อไป

ประกาศดังกล่าวเป็นไปตามการเคลื่อนไหวที่คล้ายกันของ IBM ซึ่งได้หยุดกิจกรรมการวิจัยและพัฒนาทั้งหมดที่เกี่ยวข้องกับเทคโนโลยีที่มีข้อโต้แย้งเนื่องจากมีความเสี่ยงในการถูกนำไปใช้ในทางที่ผิด

อเมซอน การจดจำใบหน้า

แม้ว่าเทคโนโลยีการจดจำใบหน้าจะก้าวหน้าอย่างมากในช่วงไม่กี่ปีที่ผ่านมาและสามารถสนับสนุนการสืบสวนของตำรวจได้อย่างถูกต้อง แต่การนำไปใช้งานก็ยังคงมีข้อถกเถียงกันอยู่เสมอ

ความกังวลเกี่ยวกับความเป็นไปได้ในการเฝ้าระวังมวลชนและการให้คะแนนทางสังคมมีความซับซ้อนมากขึ้นจากปัญหาอคติที่เกี่ยวข้องกับ AI ซึ่งอาจนำไปสู่การเลือกปฏิบัติต่อผู้คนโดยพิจารณาจากคุณลักษณะทางกายภาพของพวกเขา

วิธีการตรวจสอบชุดข้อมูลที่อยู่ภายใต้โมเดล AI (รวมถึงซอฟต์แวร์การจดจำใบหน้า) เพื่อหาอคติยังคงไม่สอดคล้องกันและไม่มีการควบคุม ทำให้เกิดความเป็นไปได้ที่เทคโนโลยีอาจสร้างความเสียหายต่อกลุ่มประชากรส่วนน้อยมากขึ้น

Amazon Rekognition เองก็เคยเผชิญกับอคติทางเชื้อชาติมาแล้ว โดยมีงานวิจัยในปี 2019 ที่มีนักวิจัย Joy Buolamwini และ Deborah Raji ร่วมเขียน อ้างว่าซอฟต์แวร์ดังกล่าวไม่สามารถระบุบุคคลที่มีผิวคล้ำได้อย่างถูกต้อง และยังเข้าใจผิดว่าผู้หญิงที่มีผิวคล้ำเป็นผู้ชายอีกด้วย การศึกษาพบว่าระบบของ Amazon สามารถประเมินภาพของบุคคลผิวขาวได้ด้วยความแม่นยำเกือบสมบูรณ์แบบ

จากนั้นผลลัพธ์ดังกล่าวได้รับการยืนยันโดยกลุ่มนักวิจัย AI ซึ่งสะท้อนความกังวลที่ Buolamwini แสดงไว้ว่าไม่ควรใช้เทคโนโลยีนี้ในบริบทของการบังคับใช้กฎหมาย

ดูเหมือนว่า Amazon จะได้ข้อสรุปเดียวกัน แม้ว่าจะไม่เคยยอมรับข้อกล่าวหาที่ว่าซอฟต์แวร์ Rekognition มีอคติทางเชื้อชาติก็ตาม

“เรากำลังดำเนินการระงับการใช้เทคโนโลยีจดจำใบหน้าของ Amazon ของหน่วยงานบังคับใช้กฎหมายเป็นเวลา 1 ปี” บริษัทระบุในแถลงการณ์

"เราได้เรียกร้องให้รัฐบาลกำหนดกฎระเบียบที่เข้มงวดยิ่งขึ้นเพื่อควบคุมการใช้เทคโนโลยีการจดจำใบหน้าอย่างถูกต้องตามจริยธรรม และในช่วงไม่กี่วันที่ผ่านมา รัฐสภาก็ดูเหมือนจะพร้อมที่จะรับมือกับความท้าทายนี้"

“เราหวังว่าการเลื่อนการชำระหนี้ชั่วคราวหนึ่งปีนี้จะช่วยให้รัฐสภามีเวลาเพียงพอในการดำเนินการตามกฎที่เหมาะสม และเราพร้อมที่จะช่วยเหลือหากมีการร้องขอ”

ไม่เป็นที่ทราบแน่ชัดว่าหน่วยงานบังคับใช้กฎหมายกี่แห่งที่ใช้ Amazon Rekognition ก่อนที่จะมีการห้าม แต่การเปลี่ยนแปลงครั้งนี้ถือเป็นการเปลี่ยนแปลงนโยบายครั้งใหญ่เมื่อปี 2018 เมื่อ Andy Jassy ซีอีโอของ AWS บอกกับพนักงานว่าเขารู้สึกพอใจกับคุณค่าที่บริการนี้มอบให้กับลูกค้าทุกคน รวมถึงหน่วยงานบังคับใช้กฎหมายด้วย

ผ่านทาง Verge