มาเปิดกล่องดำเฟสบุ๊คกันเถอะ

มีเหตุผลที่ดีอย่างยิ่งที่จะเปิดเผยความลับของยักษ์ใหญ่ในโซเชียลมีเดีย ในช่วงทศวรรษที่ผ่านมา รัฐบาลต่างเฝ้าดูอย่างช่วยไม่ได้ เนื่องจากกระบวนการประชาธิปไตยของพวกเขาถูกขัดขวางโดยข้อมูลที่ผิดและคำพูดแสดงความเกลียดชังบนเว็บไซต์ต่างๆ เช่น Facebook ของ Meta Platforms Inc, YouTube ของ Alphabet Inc และ Twitter Inc. ตอนนี้รัฐบาลบางแห่งกำลังเตรียมพร้อมสำหรับการกลับมา

ในอีก 2 ปีข้างหน้า ยุโรปและสหราชอาณาจักรกำลังเตรียมกฎหมายที่จะควบคุมเนื้อหาที่เป็นปัญหาซึ่งบริษัทโซเชียลมีเดียอนุญาตให้แพร่ระบาด มีความสงสัยอย่างมากเกี่ยวกับความสามารถในการดูถูกบริษัทอย่าง Facebook หน่วยงานกำกับดูแลขาดความเชี่ยวชาญด้านเทคนิค กำลังคน และเงินเดือนที่ Big Tech ภูมิใจนำเสนอ และยังมีอุปสรรคทางเทคนิคอีกประการหนึ่ง: บริษัทเทคโนโลยีระบบปัญญาประดิษฐ์ที่ใช้นั้นยากต่อการถอดรหัสฉาวโฉ่

AI ขับเคลื่อนการดำเนินการส่วนใหญ่ที่เราเห็นบน Facebook หรือ YouTube โดยเฉพาะอย่างยิ่ง ระบบแนะนำที่เรียงโพสต์ลงในฟีดข่าวของคุณ หรือวิดีโอใดที่คุณควรดูต่อไป ทั้งหมดนี้เพื่อให้คุณเลื่อนดู ข้อมูลหลายล้านชิ้นถูกใช้เพื่อฝึกซอฟต์แวร์ AI ทำให้สามารถคาดการณ์ได้แบบหลวมๆ คล้ายกับของมนุษย์ ส่วนที่ยากสำหรับวิศวกรคือการทำความเข้าใจว่า AI ตัดสินใจอย่างไรตั้งแต่แรก ดังนั้นแนวคิดกล่องดำ

พิจารณาภาพสองภาพต่อไปนี้:

คุณสามารถบอกได้ภายในไม่กี่วินาทีว่าสัตว์ตัวใดเป็นสุนัขจิ้งจอกและตัวใดคือสุนัข แต่ช่วยอธิบายหน่อยได้ไหมว่าคุณรู้ได้อย่างไร? คนส่วนใหญ่พบว่ามันยากที่จะพูดได้ว่าจมูก หู หรือรูปร่างของศีรษะบอกอะไรกับพวกเขาว่าอันไหน แต่พวกเขารู้แน่ชัดว่าภาพใดแสดงให้เห็นสุนัขจิ้งจอก

ความขัดแย้งที่คล้ายคลึงกันส่งผลกระทบต่อโมเดลการเรียนรู้ของเครื่อง มันมักจะให้คำตอบที่ถูกต้อง แต่นักออกแบบมักไม่สามารถอธิบายได้ว่าทำไม นั่นไม่ได้ทำให้พวกเขาไม่สามารถเข้าใจได้อย่างสมบูรณ์ อุตสาหกรรมขนาดเล็กแต่กำลังเติบโตกำลังเกิดขึ้นที่เฝ้าติดตามว่าระบบเหล่านี้ทำงานอย่างไร งานยอดนิยมของพวกเขา: ปรับปรุงประสิทธิภาพของโมเดล AI

นี่คือตัวอย่างวิธีการทำงานของสตาร์ทอัพเหล่านี้ บริษัทการเงินแห่งหนึ่งได้ใช้ Aporia สตาร์ทอัพสัญชาติอิสราเอลเพื่อตรวจสอบว่าแคมเปญเพื่อดึงดูดนักศึกษาได้ผลหรือไม่ Aporia ซึ่งใช้ทั้งซอฟต์แวร์และผู้ตรวจสอบบัญชีที่เป็นมนุษย์ พบว่าระบบ AI ของบริษัทนั้นสร้างข้อผิดพลาด ให้เงินกู้ยืมแก่คนหนุ่มสาวบางคนที่ไม่ควรมี หรือระงับเงินกู้จากผู้อื่นโดยไม่จำเป็น เมื่อ Aporia มองเข้าไปใกล้ ๆ ก็พบว่าทำไม: นักเรียนทำขึ้นน้อยกว่า 1% ของข้อมูลที่ AI ของบริษัทได้รับการฝึกอบรม

Liran Hosan ประธานเจ้าหน้าที่บริหารของ Aporia กล่าวว่าในหลาย ๆ ด้านชื่อเสียงของกล่องดำที่ไม่สามารถเข้าถึงได้ของ AI นั้นเกินจริง ด้วยเทคโนโลยีที่เหมาะสม คุณยังสามารถเลือกรูปแบบภาษาที่ซับซ้อนเป็นพิเศษซึ่งสนับสนุนบริษัทโซเชียลมีเดีย ส่วนหนึ่งเนื่องจากในการคำนวณ ภาษาสามารถแสดงด้วยรหัสตัวเลขได้ การค้นหาว่าอัลกอริธึมสามารถเผยแพร่คำพูดแสดงความเกลียดชังหรือไม่สามารถแก้ไขปัญหาได้อย่างไร เป็นเรื่องยาก แต่ก็เป็นไปได้ และหน่วยงานกำกับดูแลของยุโรปจะพยายาม

โฆษกของคณะกรรมาธิการยุโรปกล่าวว่าพระราชบัญญัติบริการดิจิทัลที่กำลังจะมีขึ้นจะกำหนดให้แพลตฟอร์มออนไลน์ต้องได้รับการตรวจสอบปีละครั้งเพื่อประเมินว่าอัลกอริธึมของพวกเขา “เสี่ยง” ต่อพลเมืองอย่างไร

แต่สมมุติว่าหน่วยเฝ้าระวังของยุโรปไม่สามารถเจาะลึกโค้ด Facebook หรือ YouTube ได้ สมมติว่าพวกเขาไม่สามารถตรวจสอบอัลกอริธึมที่ตัดสินใจว่าจะแนะนำวิดีโอหรือโพสต์ใด ยังมีอะไรอีกมากที่พวกเขาสามารถทำได้

Manoel Ribeiro นักศึกษาระดับปริญญาเอกที่ Swiss Federal Institute of Technology ในเมืองโลซานน์ ประเทศสวิตเซอร์แลนด์ ตีพิมพ์ผลการศึกษาในปี 2019 ซึ่งเขาและผู้เขียนร่วมติดตามว่าผู้เยี่ยมชม YouTube บางคนถูกทำให้รุนแรงขึ้นด้วยเนื้อหาทางขวาจัดอย่างไร เขาไม่จำเป็นต้องเข้าถึงรหัสใด ๆ ของ YouTube เพื่อทำสิ่งนี้ นักวิจัยเพียงแค่ดูที่ความคิดเห็นในเว็บไซต์เพื่อดูว่าผู้ใช้ไปที่ช่องใดเมื่อเวลาผ่านไป มันเหมือนกับการติดตามรอยเท้าดิจิทัล – การทำงานที่อุตสาหะ แต่ในที่สุดมันก็เผยให้เห็นว่าผู้ใช้ YouTube บางส่วนถูกล่อให้เข้ามาในช่องสีขาว-supremacist โดยผู้มีอิทธิพลที่ทำตัวเหมือนยาเสพติดเกตเวย์

การศึกษาของ Ribeiro เป็นส่วนหนึ่งของการวิจัยในวงกว้างที่ติดตามผลข้างเคียงทางจิตวิทยาของ Facebook หรือ YouTube โดยไม่จำเป็นต้องเข้าใจอัลกอริทึม ในขณะที่เสนอมุมมองที่ค่อนข้างผิวเผินว่าแพลตฟอร์มโซเชียลมีเดียทำงานอย่างไร พวกเขายังคงสามารถช่วยให้หน่วยงานกำกับดูแลกำหนดภาระหน้าที่ที่กว้างขึ้นบนแพลตฟอร์มได้

สิ่งเหล่านี้อาจมีตั้งแต่การจ้างเจ้าหน้าที่กำกับดูแลการปฏิบัติตามกฎระเบียบ เพื่อให้แน่ใจว่าบริษัทปฏิบัติตามกฎเกณฑ์ หรือสุ่มตัวอย่างที่ถูกต้องและแม่นยำแก่ผู้ตรวจสอบเกี่ยวกับประเภทของเนื้อหาที่ผู้คนกำลังถูกผลักดัน©2022 Bloomberg