TH | EN
TH | EN
หน้าแรก Technology วิศวะมหิดล - JAIST ชี้ Machine Learning ยังมีช่องโหว่และความเสี่ยงจากการโดนโจมตีที่จะสร้างความเสียหายได้

วิศวะมหิดล – JAIST ชี้ Machine Learning ยังมีช่องโหว่และความเสี่ยงจากการโดนโจมตีที่จะสร้างความเสียหายได้

โลกแห่งศตวรรษที่ 21 นั้น เทคโนโลยีปัญญาประดิษฐ์ (AI) และ Machine Learning ได้รับความนิยมเป็นซูเปอร์ฮิตดังแก้วสารพัดนึก แต่ยังมีคำถามว่าปลอดภัยไว้วางใจได้ 100% หรือไม่?

ทีมวิศวกรนักวิจัยไทย-ญี่ปุ่น โดย คณะวิศวกรรมศาสตร์ มหาวิทยาลัยมหิดล ร่วมกับ สถาบันวิทยาศาสตร์และเทคโนโลยีขั้นสูงแห่งประเทศญี่ปุ่น หรือ JAIST (Japan Advanced Institute of Science and Technology) เปิดผลวิจัยสุดเซอร์ไพรส์โดยได้รับการตีพิมพ์ในวารสารนานาชาติ เรื่อง ‘การโจมตีการเรียนรู้ของเครื่องผ่านรูปแบบตัวอย่างปฏิปักษ์ (Attacking Machine Learning With Adversarial Examples)’ ชี้ให้เห็นว่า Machine Learning ยังมีช่องโหว่ภัยความเสี่ยงจากการโดนโจมตีที่จะสร้างความเสียหายได้ ตอกย้ำว่าแม้เทคโนโลยีจะเลิศล้ำเพียงใด ยังจำเป็นต้องมีมนุษย์ตรวจสอบเพื่อยืนยันผลลัพธ์ที่เชื่อถือได้

รศ.ดร.จักรกฤษณ์ ศุทธากรณ์ คณบดีคณะวิศวกรรมศาสตร์ มหาวิทยาลัยมหิดล กล่าวว่า ปัจจุบันเทคโนโลยี AI และ Machine Learning (ML) มีบทบาทในวิถีชีวิตของประชาชน การทำงาน และหลายธุรกิจอุตสาหกรรม เช่น การแพทย์สุขภาพ ธุรกิจการค้า อีคอมเมิร์ซ ตลาดทุนการเงิน ยานยนต์ขนส่งโลจิสติกส์ โทรคมนาคม การผลิตในอุตสาหกรรม ความมั่นคงปลอดภัยจึงเป็นเรื่องสำคัญ

ผลงานวิจัย ‘การโจมตีการเรียนรู้ของเครื่องผ่านรูปแบบตัวอย่างปฏิปักษ์’ นี้ได้รับการตีพิมพ์ใน ‘วารสารนานาชาติ Journal of Imaging’ ได้รับความสนใจจากประชาคมโลก เนื่องจากเป็นครั้งแรกที่มีการออกแบบการโจมตี ML Model ในรูปแบบของ QR Code ซึ่งจะเป็นประโยชน์ต่อความมั่นคงปลอดภัยของบริการที่เข้าถึงประชาชนและองค์กรในวงการต่างๆ สำหรับทีมนักวิจัยไทย-ญี่ปุ่น 3 คน มาจากการผนึกความร่วมมือระหว่างคณะวิศวกรรมศาสตร์ มหาวิทยาลัยมหิดล และสถาบันวิทยาศาสตร์และเทคโนโลยีขั้นสูงแห่งประเทศญี่ปุ่น (JAIST) ประกอบด้วย ดร. กรินทร์ สุมังคะโยธิน อาจารย์ภาควิชาวิศวกรรมคอมพิวเตอร์ คณะวิศวะมหิดล ศ. โคตานิ คาซุโนริ และ ผศ. ปริญญา ศิริธนวันต์ จากสถาบัน JAIST

ดร. กรินทร์ สุมังคะโยธิน อาจารย์ภาควิชาวิศวกรรมคอมพิวเตอร์ คณะวิศวกรรมศาสตร์ มหาวิทยาลัยมหิดล กล่าวถึงที่มาของงานวิจัย ว่า AI ปัญญาประดิษฐ์เป็นการทำให้คอมพิวเตอร์หรือเครื่องจักรฉลาด ส่วน Machine Learning (ML) เป็นหนึ่งในกระบวนการเรียนรู้ของ AI โดยการนำเข้าข้อมูลสู่อัลกอริทึม เพื่อสร้างโครงข่ายการตัดสินใจในการคาดคะเนแนวโน้มหรือทำนายผลลัพธ์ คล้ายคลึงกับการตัดสินใจของมนุษย์ เพื่อลดภาระงานหนักและความผิดพลาดจากความเหนื่อยล้า ตัดสินใจได้รวดเร็วกว่าเมื่อเทียบกับการทำงานของมนุษย์

อย่างไรก็ตาม ความเข้าใจถึงโครงสร้างการตัดสินใจของเน็ตเวิร์คโมเดลของ Machine Learning นั้นยังคงคลุมเครือ ทำให้ในปัจจุบัน Machine Learning สามารถถูกโจมตีผ่านความคลุมเครือดังกล่าวจากผู้ประสงค์ร้าย เพื่อใช้ประโยชน์จากผลลัพธ์ที่ผิดเพี้ยน ด้วยเหตุนี้ทีมนักวิจัยจึงทำการศึกษาวิจัยด้านการโจมตี ML โดยมี วัตถุประสงค์เพื่อศึกษารูปแบบการโจมตีโดยมุ่งเน้นการโจมตีที่สามารถหลบหลีกการสังเกตุจากมนุษย์ ซึ่งอาจจะสร้างความเสียหายหรือผลเสียได้อย่างมหาศาล ไม่ว่าจะเป็นแวดวงการเงิน การรักษาพยาบาล การสื่อสาร คมนาคมขนส่ง ระบบรักษาความปลอดภัยของข้อมูล ระบบการผลิต จนถึงระบบการป้องกันประเทศ

ทีมวิจัยวิศวะมหิดล – JAIST ใช้เวลาศึกษาวิจัยร่วมกันกว่า 3 ปี แม้จะมีอุปสรรคช่วงวิกฤติโควิด-19 แต่ก็สามารถทำงานผ่านระบบออนไลน์บนแพลตฟอร์มที่มีประสิทธิภาพระดับสูงของญี่ปุ่น เราได้ศึกษาวิเคราะห์และออกแบบ การโจมตีการเรียนรู้ของ ML ผ่านรูปแบบตัวอย่างปฏิปักษ์ บนสมมุติฐานโดยที่มีเป้าหมายในการโจมตี ML Model และสามารถหลบเลี่ยงการสังเกตจากมนุษย์ ทำให้ส่งผลกระทบต่อการตัดสินใจผิดพลาดของเครื่องจักร โดยการโจมตีนั้นสามารถมุ่งเป้าไปที่ผลลัพธ์ใดๆ ที่ถูกกำหนดไว้ล่วงหน้าได้ โดยเราได้กำหนดรูปแบบการโจมตีผ่านข้อมูลที่ถูกซ่อนใน‘รูปแบบ QR-Code’ สำหรับฟังก์ชั่นการทำงาน ของการโจมตีในรูปแบบ Adversarial Examples เป็นการหลอก AI ให้สับสน โดยการใส่ข้อมูลปนเปื้อนลงไปในข้อมูลเป้าหมาย อาทิ ข้อมูลภาพ, ข้อมูลเสียง, ข้อมูลสัญญาณ หรือ ข้อมูลประเภทอื่น ๆ โดยผลการโจมตีนั้นมีทั้งแบบการกำหนดผลลัพธ์จากการโจมตีไว้ล่วงหน้า หรือ ทำให้ผลลัพธ์คลาดเคลื่อนจากสิ่งที่ควรจะเป็นได้

สรุปผลการวิจัย สามารถบีบอัดให้ข้อมูลการโจมตีผ่านข้อมูลที่ถูกซ่อนใน QR-Code ที่สามารถสแกนได้ และยังคงความสามารถของการโจมตีแบบมุ่งเป้าหมายผลลัพธ์ได้เป็นอย่างดี นอกจากการใช้ในการทดสอบการโจมตี Machine Learning แล้ว งานวิจัยชิ้นนี้ยังสามารถนำมาใช้พัฒนา ระบบป้องกันและตรวจจับการโจมตีจากการวิเคราะห์โดย ML Model ในหลายๆ วัตถุประสงค์อีกด้วย เช่น ปกป้องความเป็นส่วนตัว ระบบป้องกันทางการทหาร อีกด้วย เป็นการพิสูจน์ให้เห็นว่าการตัดสินใจของ Machine Learning ควรใช้เป็นเพียงเครื่องมือและนวัตกรรมที่ช่วยลดภาระงานของมนุษย์เท่านั้น ท้ายสุดแล้วยังคงต้องได้รับการตรวจสอบจากมนุษย์ผู้เชี่ยวชาญเพื่อยืนยันผลลัพธ์เป็นขั้นตอนสุดท้าย

จากความสำเร็จของงานวิจัยชิ้นนี้ แผนในอนาคต ทีมวิจัยไทย-ญี่ปุ่น จะคิดค้นหาวิธีการที่สามารถโจมตีได้มีประสิทธิภาพในระดับสูงยิ่งขึ้นอีก เพื่อก้าวทันเทคโนโลยีใหม่ๆ ที่เปลี่ยนแปลงรวดเร็ว  และยังคงไว้ซึ่งความสามารถในการทำงานของรูปแบบข้อมูลดั้งเดิม (เช่น การโจมตีในรูปแบบ QR-Code ต้อง Scan ได้ เป็นต้น)

สำหรับวิธีป้องกันการโจมตี Adversarial Example Attackในอนาคต มี 2 แนวทาง ได้แก่ 1) ใช้การโจมตี Adversarial Example เพื่อปกป้องข้อมูลจากการถูกตรวจสอบที่ไม่ได้รับอนุญาต 2) ใช้ข้อมูลที่ได้จากการโจมตี Adversarial Example นำกลับมาเพื่อวิเคราะห์ถึงการโจมตี และออกแบบ Machine Learning โมเดลที่ทนทานต่อการโจมตีมากยิ่งขึ้น

ข้อแนะนำในการใช้ Machine Learning อย่างปลอดภัย 

พึงระวังเสมอว่า ข้อมูลนำเข้าอาจถูกปนเปื้อนการโจมตีมุ่งเป้าในรูปแบบต่าง ๆ เช่น Adversarial Example หรืออาจพ่วงมากับมัลแวร์ ดังนั้นการใช้ Machine Learning เพื่อการทำงานที่มั่นคงและปลอดภัย มีความจำเป็นต้องมีวาง ระบบการตรวจสอบผลลัพธ์สุดท้ายโดยผู้เชี่ยวชาญ เพื่อความถูกต้องที่เชื่อถือได้อีกครั้ง อย่าปล่อยให้ Machine ทำงาน 100%

ในปัจจุบัน AI และ Machine Learning ยังมีข้อจำกัดและจะเป็นตัวช่วยที่ดีได้ก็ต่อเมื่อทั้งคนและเครื่องจักรมีการคิดและทำงานประสานกันอย่างสมดุล ไม่อ้างอิงฝ่ายใดฝ่ายหนึ่งมากจนเกินไป

ข่าวอื่น ๆ ที่น่าสนใจ

DMT ร่วมกับ NOSTRA จัดทำแผนที่แสดงข้อมูลสถานีชาร์จรถ EV อำนวยความสะดวกผู้ใช้ทาง

ประโยชน์ของแพลตฟอร์ม Low-Code ที่องค์กรธุรกิจอาจไม่รู้

STAY CONNECTED

0แฟนคลับชอบ
0ผู้ติดตามติดตาม

Lastest News

KATALYST STARTUP LAUNCHPAD 2022 เหลาคมแนวคิด “ธุรกิจสตาร์ทอัพ” จากต้นตำรับ Silicon Valley

ปิดโครงการปีที่ 3 ของ KATALYST STARTUP LAUNCHPAD 2022 เป็นที่เรียบร้อยแล้ว โดยมี “Project EV” สตาร์ทอัพที่มีรูปแบบธุรกิจที่ชัดเจน สร้างผลกกระทบต่ออุตสาหกรรม เป็นผู้ชนะการประกวดแนวคิดและแผนธุรกิจ

AWS แนะวิธียกระดับในภูมิภาคเอเชียแปซิฟิกให้สามารถแข่งขันได้ในเศรษฐกิจดิจิทัล

นับตั้งแต่ปี 2560 ผู้คนกว่าห้าล้านคนจากทั่วทั้งภูมิภาคได้รับการฝึกอบรมทักษะด้านระบบคลาวด์จาก AWS การเปลี่ยนแปลงทางดิจิทัลที่เกิดขึ้นทั่วภูมิภาคเอเชียแปซิฟิก (APAC) เป็นเรื่องน่าตื่นเต้นที่เกิดขึ้นและน่าสนับสนุนในเวลาเดียวกัน

‘เมล่อน เมดิคอล’ คลีนิคออนไลน์จากทีมหมอที่เข้าใจกระบวนการรักษาทั้งระบบ

เมล่อน เมดิคอล แพลตฟอร์มแพทย์ทางไกล ตรวจรักษาคนไข้ทางออนไลน์พัฒนาโดยทีมแพทย์คนไทย ที่เข้าใจเรื่องการกระบวนการรักษาทั้งระบบ ต่อยอดการช่วยเหลือคนไทยในช่วงสถานการณ์ระบาดของโควิด-19

เตือนภัยรถ 6 แสนคัน เปลี่ยนด่วน ‘ถุงลมนิรภัย’ ชี้เสี่ยงระเบิดรุนแรงจากสารแอมโมเนียมไนเตรท

ผู้เชี่ยวชาญ คณะวิศวกรรมศาสตร์ มหาวิทยาลัยมหิดล เตือนภัยจากเหตุไม่คาดฝัน หนุ่มวัย 46 ปี บาดเจ็บสาหัสเฉียดตาย ถูกแอร์แบค หรือถุงลมนิรภัยรถยนต์ระเบิดใส่ ชิ้นส่วนฝังเข้าบริเวณอกและท้อง

เปิดตัว ‘Motorist’ แอปจัดการรถยนต์ครบวงจร สำหรับเจ้าของรถ

Motorist เป็นแพลตฟอร์มชั้นนำจากประเทศสิงคโปร์ที่ให้บริการผู้ขับขี่รถยนต์ที่ครบวงจร ไม่ใช่เพียงแค่การซื้อ-ขายเท่านั้น แต่รวมทุกอย่างที่เจ้าของรถต้องการ

10 ข้อควรรู้เกี่ยวกับที่มา และ ตลาดคาร์บอนเครดิต

คาร์บอนเครดิต เป็นเรื่องที่กำลังได้รับความสนใจในวงกว้าง โดยเฉพาะภาคธุรกิจที่เห็นว่า ในกรอบความร่วมมือระหว่างประเทศได้กำหนดให้มีการใช้กลไกทางตลาดในการลดปริมาณการปล่อยก๊าซเรือนกระจก

รถยนต์ไฮโดรเจน FCEV อีกทางเลือกของยุคพลังงานสะอาด

หนึ่งในแนวทางที่จะช่วยชะลอไม่ให้อุณหภูมิของโลกสูงขึ้นก็คือ การพัฒนายานยนต์ที่ไม่ใช้น้ำมันเป็นเชื้อเพลิง หรือที่เรารู้จักกันดีในชื่อที่เรียกกันสั้น ๆ ว่า EV หรือ Electric Vehicle

การทางพิเศษฯ จับมือ หัวเว่ย วางโครงการสร้างทางพิเศษอัจฉริยะแห่งแรกในประเทศไทย

การทางพิเศษแห่งประเทศไทย (กทพ.) ร่วมกับ บริษัท หัวเว่ย เทคโนโลยี่ (ประเทศไทย) จํากัด ลงนามในบันทึกความเข้าใจ (MOU) เพื่อสร้างความร่วมมือร่วมมือในโครงการสร้างทางพิเศษอัจฉริยะ (Smart Expressway) ของประเทศไทย

5 ประโยชน์และความคุ้มค่า เมื่อปรับบ้านให้เป็นแหล่งผลิตไฟฟ้า ด้วยหลังคา SCG SOLAR ROOF

ปฏิเสธไม่ได้ว่า ปัจจุบันการใช้พลังงานแสงอาทิตย์กำลังเป็นที่นิยมอย่างแพร่หลายในทั่วโลกและในประเทศไทย ทั้งในภาคอุตสาหกรรมและครัวเรือน โดยเฉพาะหลังจากสถานการณ์การแพร่ระบาดของโควิด-19 ที่ผ่านมา

เปิดใจไรเดอร์พิการ สู้ชีวิตส่งเสียตัวเองจบปริญญา ก้าวสู่เสาหลักครอบครัว

3 ธันวาคมของทุกปี คือ “วันคนพิการสากล” ซึ่งถูกกำหนดโดยองค์การสหประชาชาติ เพื่อให้คนทั่วโลกสนับสนุนศักยภาพและเปิดโอกาสให้คนพิการได้ประกอบอาชีพด้วยการพึ่งพาตัวเองได้อย่างเท่าเทียมกับคนทั่วไป

MUST READ

7 บริษัทเทคโนโลยีชั้นนำ ผนึก TECH GROUP โชว์โซลูชันเพื่อความยั่งยืน ภายในงาน SX2022

เมื่อเร็ว ๆ นี้ บริษัท ที.ซี.ซี. เทคโนโลยี จำกัด (TCCtech) ได้ร่วมมือกับ บริษัท ทีสเปซ ดิจิตอล จำกัด (TSPACE) และ บริษัท เอสทีที จีดีซี (ประเทศไทย) จำกัด (STT GDC) พร้อมทั้งพันธมิตรทางเทคโนโลยี

GWM ส่งจดหมายชี้แจง กรณี ORA GOOD CAT แผงครอบแบตเตอรี่ใต้ท้องรถได้รับความเสียหาย

เกรท วอลล์ มอเตอร์ (ประเทศไทย) หรือ GWM ส่งจดหมายชี้แจงสื่อมวลชน กรณีรถไฟฟ้า ORA GOOD CAT กำลังเป็นประเด็นบนโลกโซเชียล เรื่องค่าใช้จ่ายในการเปลี่ยนแบตเตอรี่หลังรถเกิดอุบัติเหตุ

โรเบิร์ต วอลเทอร์ส เผย 73% ของพนักงานพร้อมหางานใหม่ หากเงินเดือนที่ปรับขึ้นต่ำกว่าอัตราเงินเฟ้อ

โรเบิร์ต วอลเทอร์ส ที่ปรึกษาด้านการจัดหางานระดับโลกได้เปิดเผยผลสำรวจอัตราเงินเดือนประจำปี 2566 ซึ่งจัดทำขึ้นเป็นครั้งที่ 24 ซึ่งมีการวิเคราะห์ที่เชื่อถือได้และมีข้อมูลเทียบเคียงเกี่ยวกับแนวโน้มเงินเดือนในตลาดแรงงาน

การฟื้นตัวของ “ท่องเที่ยว” และ “บทเรียนที่ถูกลืม”​

คาดหมายกันว่า ผลจากการประชุมเอเปค ที่ปิดฉากไปหมาด ๆ จะส่งผลแรงต่อ ภาคท่องเที่ยว จากข่าวสารที่สื่อนานาประเทศเผยแพร่ออกไปทั่วโลก ทั้งผลการประชุมจากเวทีผู้นำ 21 เขตเศรษฐกิจเอเปค

MAT จัดงาน “Thailand Marketing Day 2022 : The Game Changer” เผยทิศทางการตลาดแห่งอนาคต

สมาคมการตลาดแห่งประเทศไทย จัดงานวันนักการตลาด “Thailand Marketing Day 2022 : The Game Changer” สุดยอดฟอรั่มการตลาดแห่งปีที่รวมหลากเรื่องราวของความเปลี่ยนแปลงในโลก Post-Pandemic
Newsletter

สนใจรับข่าวสารจาก The Story Thailand อัพเดตก่อนใคร สมัคร Newsletter กับเราเพียงกรอกอีเมลเท่านั้น