เมื่อต้นเดือนที่ผ่านมา Google ตัดสินใจเพิ่มการฝึกอบรม deepfake ในรายการโครงการต้องห้ามในบริการ Colaboratory การเปลี่ยนแปลงนี้เกิดขึ้นครั้งแรกโดยผู้พัฒนา DFL บน Discord ในชื่อ "chervonij" เมื่อเขาพยายามฝึกโมเดลของปลอมบนแพลตฟอร์ม เขาได้รับข้อความแสดงข้อผิดพลาดว่า
"คุณอาจใช้รหัสที่ไม่ได้รับอนุญาต ซึ่งอาจจำกัดความสามารถในการใช้ Colab ในอนาคต โปรดสังเกตการกระทำต้องห้ามที่ระบุไว้ในคำถามที่พบบ่อยของเรา
ดูเหมือนว่า Google จะทำการเปลี่ยนแปลงภายใต้เรดาร์ และยังคงนิ่งเงียบในเรื่องนี้ตั้งแต่นั้นเป็นต้นมา ในขณะที่จริยธรรมเป็นทฤษฎีที่เป็นไปได้ประการแรกที่เข้ามาในหัว เหตุผลที่แท้จริงอาจนำไปปฏิบัติได้จริงกว่าเล็กน้อย
การใช้ทรัพยากรฟรีในทางที่ผิด
Deepfakes คือวิดีโอ "Photoshopped": วิดีโอปลอมที่แสดงให้ผู้คนพูดในสิ่งที่พวกเขาไม่เคยพูดจริงๆ ผู้สร้างใช้ประโยชน์จากปัญญาประดิษฐ์ (AI) และเทคโนโลยีแมชชีนเลิร์นนิง (ML) เพื่อสร้างวิดีโอที่ดึงดูดใจอย่างยิ่ง ซึ่งยากต่อการแยกแยะความแตกต่างจากเนื้อหาที่ถูกต้องตามกฎหมาย
อย่างไรก็ตาม เพื่อให้มีความน่าเชื่อถือ Deepfakes นั้นต้องการพลังการประมวลผลที่มาก เช่นเดียวกับที่บริการ Colab นำเสนอ โครงการ Google นี้อนุญาตให้ผู้ใช้เรียกใช้ Python ในเบราว์เซอร์ในขณะที่ใช้ทรัพยากรการคำนวณฟรี
เนื่องจาก Deepfake มักถูกใช้เพื่อแกล้งกัน สร้างข่าวปลอม หรือเผยแพร่ภาพอนาจารปลอมๆ เกี่ยวกับการแก้แค้น จึงเป็นเรื่องง่ายที่จะคิดว่าจริยธรรมอยู่เบื้องหลังการตัดสินใจของ Google อย่างไรก็ตาม อาจเป็นไปได้ว่ามีคนจำนวนมากเกินไปที่ใช้ Colab เพื่อสร้างวิดีโอปลอมเล็กๆ ที่ดูตลก ทำให้นักวิจัยคนอื่นไม่สามารถทำงานที่ "จริงจัง" มากกว่านี้ได้ ท้ายที่สุดทรัพยากรคอมพิวเตอร์นั้นใช้งานได้ฟรี
นอกเหนือจาก Deepfakes แล้ว Google ไม่อนุญาตให้ใช้ Colab สำหรับโครงการต่างๆ เช่น การขุดสกุลเงินดิจิทัล การโจมตีแบบปฏิเสธการให้บริการ การถอดรหัสรหัสผ่าน การใช้หลายบัญชีเพื่อเลี่ยงการเข้าถึงหรือข้อจำกัดการใช้ทรัพยากร การใช้เดสก์ท็อประยะไกลหรือ SSH หรือ การเชื่อมต่อ. ไปยังเซิร์ฟเวอร์พร็อกซีระยะไกล
ผ่าน: BleepingComputer (เปิดในแท็บใหม่)