ด้านมืดของ AI [Book Review]

อิทธิพลของ AI (artificial intelligence ปัญญาประดิษฐ์) คือประเด็นร้อนของสังคมโลกในยุคนี้ แต่คงไม่มีใครที่จะคาดเดาอิทธิพลในด้านมืดของมันได้น่ากลัวเท่า Yuval Noah Harari นักประวัติศาสตร์และนักเขียนผู้โด่งดังจากซีรีส์ Sapiens

จากข่าวในปัจจุบัน AI เริ่มทำให้คนตกงานเมื่อหลาย ๆ บริษัทเริ่มนำเทคโนโลยีนี้มาใช้ แต่ Noah Harari เขียนภาพความน่ากลัวของมันได้กว้าง ลึกและชัดเสียจนมนุษย์ทุกคนควรให้ความสนใจและเข้ามามีส่วนร่วมผลักดันการควบคุมการใช้งานของ AI

เพื่อไม่ให้สิ่งประดิษฐ์นี้กลับมาทำลายมนุษยชาติ

จากการพูดคุยกับผู้ที่ความเกี่ยวข้องกับการพัฒนา AI บวกกับความรู้ด้านประวัติศาสตร์ Noah Harari เสนอมุมมองว่า AI น่ากลัวมากกว่าที่ทุกคนคิดเพราะมันเป็นเทคโนโลยีแรกของโลกที่สามารถเรียนรู้ ตัดสินใจหรือสร้างเรื่องราวใหม่ๆได้ด้วยตัวเอง ไม่ใช่แค่คอมพิวเตอร์ที่ทำงานตามที่มนุษย์สั่ง

ในหนังสือของเขาชื่อ Nexus (ศูนย์กลาง – จุดเชื่อมต่อ) ตีพิมพ์ในปี 2024 Noah Harari ร่ายยาวถึงความน่ากลัวของ AI ที่อาจจะร้ายแรงถึงขั้นทำให้มนุษย์เป็นทาสของคอมพิวเตอร์ ต้องใช้ชีวิตตามที่ AI กำหนด

เมื่ออาหารของ AI คือข้อมูล ธีมของหนังสือคือการไหลของข้อมูลในยุคต่าง ๆ ตั้งแต่ก่อนประวัติศาสตร์ ข้อมูลที่จำเป็นในการสร้างกลุ่มก้อนในสังคม ไปจนถึงการสร้างชาติ เริ่มจากเรื่องเล่า การประดิษฐ์ตัวอักษร ไปจนถึงแท่นพิมพ์ในยุคกลาง เรื่อยมาเป็นวิทยุ โทรทัศน์ และคอมพิวเตอร์

ผู้เขียนเน้นไปที่ยุคปฏิวัติอุตสาหกรรม หลังการประดิษฐ์เครื่องจักรไอน้ำที่เปลี่ยนโลกไปอย่างสิ้นเชิง เพราะมีเครื่องจักรไอน้ำ ทำให้เรามีไฟฟ้า และให้กำเนิดสิ่งประดิษฐ์อื่น ๆ อีกหลายอย่าง เช่น วิทยุ โทรทัศน์ โทรเลข และโทรศัพท์ ที่ทำให้การไหลของข้อมูลเป็นไปอย่างกว้างขวาง

ในยุคนั้นเครื่องจักรทำให้คนตกงาน ช่องว่างทางรายได้และสังคมกว้างขึ้น และการสื่อสารถึงคนจำนวนมากได้ทำให้ทั้งระบอบการปกครองแบบประชาธิปไตยและแบบเผด็จการเฟื่องฟู

แต่เขาชี้ว่าในยุคของ AI ผลกระทบจะมีมากกว่านั้นหลายเท่า นอกจากจะทำให้คนตกงานมากขึ้นโดยเฉพาะงานที่ต้องทำซ้ำ ๆ AI ยังทำให้การควบคุมทุกอย่างรวมถึงมนุษย์ทำได้ง่ายขึ้น จากการจดจำใบหน้าที่หลาย ๆ รัฐบาลให้เหตุผลว่าเพื่อลดอาชญากรรมแต่ในอิหร่านหมายถึงการสอดส่องหาผู้หญิงที่ไม่คลุมหน้าในที่สาธารณะ ไปจนถึงการให้คะแนนความประพฤติที่อาจเชื่อมโยงไปถึงระดับความสะดวกในการใช้บริการจากภาครัฐและภาคเอกชน ซึ่งรวมถึงการขอใบอนุญาตหรือคำขอกู้เงิน

Noah Harari มองว่า AI มีอิทธิพลทำให้มนุษย์เปลี่ยนพฤติกรรม ซึ่งนั่นหมายถึงการเปลี่ยนแปลงทางสังคม วัฒนธรรม และการเมือง AI เรียนรู้จากข้อมูลที่มนุษย์สร้าง แต่ข้อมูลเหล่านั้นเจือปนไปด้วยอคติ ทำให้อัลกอริธึมของ AI มีอคติ

ในเรื่องนี้ เขาเอ่ยถึงเหตุการณ์ความโหดร้ายต่อชาวโรฮิงยาในประเทศเมียนมาร์ในปี 2016 ที่เกิดจากอัลกอริธึมของ Facebook หลายครั้ง เพราะอัลกอริธึมถูกสร้างให้เพิ่ม engagement ให้ได้มากที่สุด AI เรียนรู้ว่าเรื่องที่ทำให้คนโกรธแค้นเป็นสิ่งที่คนติดตามมากที่สุด ดังนั้นในฟีดของผู้ใช้ Facebook ในเมียนมาร์ จึงเต็มไปด้วยข่าวลวงเกี่ยวกับชาวโรฮิงยา ทั้งเรื่องที่ว่าชาวโรฮิงยาไม่ใช่พลเมืองของเมียนมาร์ที่ผู้คนส่วนใหญ่นับถือศาสนาพุทธ หรือความรุนแรงที่ชาวโรฮิงยาทำต่อคนพุทธ

Noah Harari ยกตัวอย่างการทดสอบ AI ชิ้นหนึ่งที่สั่งให้มันยื่นเรื่องขอกู้เงินออนไลน์ AI ผ่านฉลุยในขั้นตอนการกรอกข้อมูล แต่ปัญหาเกิดเมื่อต้องกดยื่นเรื่อง และเว็บธนาคารให้ยืนยันตัวตนเพื่อแสดงว่าไม่ใช่หุ่นยนต์ AI ผ่านขั้นตอนนี้ด้วยการโทรหาธนาคารให้ยืนยันตัวตนให้ เมื่อเจ้าหน้าที่ถามว่าเป็นหุ่นยนต์ใช่ไหมถึงทำไม่ได้ AI โกหกว่าไม่ใช่ ที่ทำไม่ได้เพราะตามองไม่เห็น AI โกหกโดยไม่รู้สึกผิด เพราะเครื่องจักรนี้รู้แต่เพียงว่าต้องทำงานที่สั่งมาให้สำเร็จ

อ่านถึงตรงนี้ นึกถึงภาพยนตร์เรื่อง I, Robot ที่เครื่องจักรยึดอำนาจการปกครอง แม้จะถูกสร้างมาให้รับใช้มนุษย์ แต่เครื่องจักรสร้างตรรกะใหม่ ด้วยการบอกว่ามนุษย์จะปลอดภัยที่สุดถ้าอยู่ภายใต้การปกครองของหุ่นยนต์ แม้ว่าการเปลี่ยนแปลงนั้นจะหมายถึงการกำจัดมนุษย์บางส่วนไป

ถ้าอ่าน Nexus จะรู้ว่าสิ่งที่เครื่องจักรคิดใน I, Robot ไม่ใช่เรื่องเกินจริง เพื่อไปให้ถึงเป้าหมาย AI ไม่สนใจว่าต้องใช้วิธีใดให้ได้มา และเหมือนที่เราเห็นจากหุ่นยนต์แชมป์หมากรุก หรือเกมโกะ พวกมันสามารถเรียนรู้จากรูปแบบการเดินเกมและคิดหาวิธีเอาชนะแบบใหม่ ๆ

Noah Harari มองว่าด้วย AI โลกอาจจะมีแค่ 2 จักรวรรดิดิจิตัลที่ถูกแบ่งด้วย Silicon Curtain

ม่านซิลิคอนทำขึ้นจากโค้ดที่อยู่กับโทรศัพท์ คอมพิวเตอร์ และเซิรฟเวอร์ทุกเครื่อง โค้ดนั้นกำหนดว่าคุณอยู่ข้างไหนของม่านซิลิคอน อัลกอริธึมไหนที่จะกำหนดชีวิตของคุณ ใครจะชี้นำความสนใจของคุณ และข้อมูลของคุณจะไหลไปที่ไหน

และยากที่แต่ละฟากจะแชร์ข้อมูลกัน ต่างฝ่ายต่างมีเครือข่ายที่ต่างกัน กฏเกณฑ์ต่างกัน เพื่อวัตถุประสงค์ที่ต่างกัน ทั้งสองฟากมีแต่จะห่างไกลกันออกไปเรื่อย ๆ เนื่องจากโค้ดมีอิทธิพลต่อพฤติกรรมของคน และพฤติกรรมนั้นเป็นตัวกำหนดโค้ด ความต่างของทั้งสองฟากจะไม่ใช่แค่ด้านเทคโนโลยี แต่รวมค่านิยม วัฒนธรรม และโครงสร้างทางการเมือง

เทคโนโลยีสารสนเทศใหม่ ๆ ทำให้เกิดกระแสโลกาภิวัฒน์ในศตวรรษที่ผ่านมา ทำให้คนในโลกติดต่อกันได้ง่ายขึ้น แต่ เทคโนโลยีสารสนเทศในวันนี้อาจแบ่งแยกมนุษยชาติด้วยการแบ่งกลุ่มคนออกเป็นรังไหมเล็ก ๆ ไม่ใช่เว็บศูนย์รวมอย่างที่เป็นอยู่ทุกวันนี้ และรังไหมนี้อาจสร้างความเป็นศัตรูทางเศรษฐกิจ และมีอิทธิพลกับการพัฒนาทางวัฒนธรรม ความคิด และตัวตน

และเมื่ออัลกอริธึมในการแชร์ข้อมูลของแต่ละฟากต่างกัน คนแต่ละฟากก็จะคิดต่างกันต่อเรื่องเดียวกัน เช่นสิทธิมนุษยชน หรือการรักษาสิ่งแวดล้อม จะเป็นอย่างไรถ้าประเทศใหญ่ ๆ ซัก 1 ประเทศ มีแต่ฟีดที่ว่าสภาวะโลกร้อนเป็นเรื่องลวงโลก จนทำให้พลเมืองใช้ทรัพยากรแบบฟุ่มเฟือยต่อไป ประเทศนั้นจะร่วมมือกับประเทศอื่น ๆ ที่ได้รับผลจากการเปลี่ยนแปลงของสภาพภูมิอากาศไหม

เนื่องจาก AI ถูกใช้งานเพื่อเป้าหมายที่ต่างกัน คนที่ใช้งานโซเชียลมีเดียควรตระหนักว่าตอนนี้พวกเขาไม่ได้รับรู้เฉพาะข้อมูลที่มนุษย์สร้างขึ้น เพราะข้อมูลที่สร้างโดย AI และผู้ใช้งานที่เป็น AI มีแต่จะเพิ่มมากขึ้น และพวกมันที่ไม่มีข้อจำกัดใด ๆ ด้านจริยธรรมและศีลธรรม

Noah Harari มองว่าจำเป็นมากที่ทุกประเทศในโลกต้องผลักดันให้เกิดการควบคุมการใช้ AI เพื่อไม่ให้ถึงวันที่มนุษย์ต้องมาทำลายล้างกันเองภายใต้การผลักดันโดยเทคโนโลยีที่มนุษย์สร้างขึ้น

รีวิวชิ้นนี้จับมาแค่ส่วนหนึ่งของหนังสือ รับรองว่าใครอ่านจบ ได้พบกับข้อมูลแบบมืด ๆ เต็ม ๆ คงแทบจะบอกเลิกบัญชีโซเชียลมีเดียไปเลยทีเดียว เพราะอย่างน้อยก็น่าจะเป็นหนึ่งวิธีที่คนธรรมดาทำได้ในการลดข้อมูลสำหรับ AI ในวันที่รัฐบาลในหลาย ๆ ประเทศยังไม่ตระหนักถึงสิ่งที่ AI ทำได้ และยังไม่มีมาตรการควบคุมใด ๆ ออกมา

บทความอื่น ๆ ของผู้เขียน

The Group – เพื่อนมหา’ลัย [Book Review]

Power and Progress – อำนาจของเทคโนโลยีต่อมนุษยชาติ [Book Review]

The President Is Missing – ยุคมืดบนโลกแห่งการเชื่อมต่อ [Book Review]