เมื่อ AI Agent เขียนโค้ด ตรวจงาน และส่งต่อให้ Agent อีกตัวดำเนินการได้มากขึ้น องค์กรต้องตอบให้ชัดว่า งานใดควรปล่อยให้ระบบตัดสินใจเอง และใครต้องรับผิดชอบหากเกิดข้อผิดพลาด การมีคนกดอนุมัติก่อนนำไปใช้อาจช่วยได้ไม่มาก หากผู้อนุมัติไม่เข้าใจสิ่งที่ระบบทำ หรือไม่มีข้อมูลเพียงพอจะพิจารณาว่าผลงานนั้นเชื่อถือได้จริงหรือไม่ ความท้าทายจึงอยู่ทั้งการกำหนดขอบเขตให้ AI และการทำให้คนยังตรวจสอบงานได้ทันกับความเร็วที่เพิ่มขึ้น
Omise, Microsoft และ OpenAI ร่วมแลกเปลี่ยนแนวทางกำหนดขอบเขตการทำงานของ AI Agent ในวงเสวนา “When Agents Decide: Control, Risk and Accountability” ภายในงาน “จากผู้ช่วย AI สู่ AI Agent: การเปลี่ยนแปลงครั้งสำคัญของวิศวกรรมซอฟต์แวร์” ที่ Agoda จัดขึ้นเร็ว ๆ นี้ ณ สำนักงานแห่งใหม่ที่ One Bangkok ผู้ร่วมเสวนาประกอบด้วย Sylvain Dormieu, Director of Engineering, Omise, Harley Young, Head of High-Tech Pod, ASEAN Enterprise, Microsoft และ Kevin Chan, AI Deployment Engineer Manager, OpenAI โดยมี Royee Goldberg, VP of Engineering, Agoda เป็นผู้ดำเนินรายการ ทั้ง 3 บริษัทแบ่งปันประสบการณ์ตั้งแต่การเลือกงานที่ให้ Agent ตัดสินใจเองได้ ไปจนถึงการตรวจสอบและความรับผิดชอบเมื่อเกิดข้อผิดพลาด
Omise จำกัดขอบเขต AI ก่อนให้ตอบลูกค้าเอง
สำหรับ Omise การให้ Agent ตอบอีเมลลูกค้าเป็นตัวอย่างที่ทำให้เห็นความแตกต่างระหว่างการช่วยร่างกับการลงมือทำแทนคน Sylvain เล่าว่า ผู้ส่งอีเมลอาจเป็นทั้งลูกค้าปัจจุบัน ผู้สนใจใช้บริการ หรือผู้ที่กำลังไม่พอใจ หาก AI ตอบด้วยข้อมูลที่แต่งขึ้นย่อมกระทบความเชื่อมั่น ช่วงแรกทีมทดลองส่งอีเมลให้ Agent พร้อมเครื่องมือสำหรับตอบกลับโดยตรง แต่พบว่าคำตอบยังไม่แม่นยำพอ จึงเปลี่ยนมาแบ่งการตัดสินใจออกเป็นขั้นตอนที่กำหนดไว้ชัดเจน
ระบบเริ่มจากตรวจว่าอีเมลมีประเด็นเดียวหรือหลายประเด็น หากมีหลายประเด็นจะไม่ตอบอัตโนมัติ จากนั้นตรวจว่าอยู่ในหัวข้อที่อนุญาตหรือไม่ โดยเริ่มจากคำถามง่ายที่มีคำตอบชัดเจน เช่น ราคาและวิธีเริ่มใช้บริการ สำหรับอีเมลที่ผ่านเงื่อนไข Agent จะเลือกคำตอบจากรูปแบบที่ทีมบริการลูกค้าจัดเตรียมไว้ แล้วปรับเฉพาะรายละเอียดที่อนุญาต เช่น ชื่อลูกค้า แทนการเขียนคำตอบใหม่ทั้งหมด
แนวทางนี้ทำให้ Omise ตอบอีเมลอัตโนมัติได้ประมาณ 10% และตอบกลับภายในหนึ่งนาทีได้ตลอดวัน Sylvain มองว่าประโยชน์อยู่ทั้งความถูกต้องและความรวดเร็ว โดยทีมเริ่มจากงานที่มั่นใจก่อนพิจารณาขยายไปยังหัวข้ออื่น ส่วนงานพัฒนาซอฟต์แวร์ บริษัทใช้ Agent ช่วยกำหนดรายละเอียด เขียนโค้ด และทดสอบ แต่การตัดสินใจสำคัญด้านการออกแบบระบบยังอยู่กับคน เพราะต้องพิจารณาทั้งโครงสร้างข้อมูล การตั้งค่า และการดูแลรักษาในระยะยาว
Microsoft แนะวัดความเสี่ยงก่อนให้อิสระ AI
Harley เสนอให้พิจารณาสองเรื่องควบคู่กันก่อนให้อิสระแก่ Agent คือหากทำผิดแล้วจะเกิดผลกระทบมากเพียงใด และการกระทำนั้นย้อนกลับได้ยากแค่ไหน งานที่ผลกระทบต่ำและแก้คืนได้ง่ายเปิดให้ Agent ดำเนินการเองได้มากกว่า ส่วนงานที่ผลกระทบสูงหรือย้อนกลับได้ยากต้องมีคนเข้ามาพิจารณา หลักคิดนี้ช่วยให้องค์กรกำหนดระดับการควบคุมตามความเสี่ยงของงาน แทนการใช้เงื่อนไขเดียวกันกับทุกการกระทำ
วิธีตรวจงานก็ต้องปรับตามความสามารถในการสร้างงานของ AI ด้วย Harley มองว่าการกำหนดให้คนอ่านโค้ดทุกบรรทัดอาจไม่สอดคล้องกับปริมาณงานที่เพิ่มขึ้น องค์กรจึงต้องทบทวนกระบวนการและใช้เครื่องมือช่วยค้นหาว่าส่วนใดมีความเสี่ยงหรือควรได้รับการพิจารณาเป็นพิเศษ พร้อมกำหนดว่างานแบบใดยังต้องตรวจด้วยคน เป้าหมายคือทำให้ผู้รับผิดชอบมีหลักฐานเพียงพอที่จะมั่นใจในผลงาน แม้ไม่ได้ตรวจทุกรายละเอียดด้วยตนเอง
อย่างไรก็ตาม การมอบหมายงานไม่ได้ทำให้ความรับผิดชอบขององค์กรลดลง Harley เชื่อมเรื่องนี้กับความไว้วางใจที่ลูกค้ามีต่อบริษัท หากระบบให้ราคาผิด บริษัทต้องตัดสินใจว่าจะรับมือกับผลที่เกิดขึ้นอย่างไร การอธิบายว่า Agent ทำผิดไม่อาจทดแทนความรับผิดชอบต่อผู้ใช้ได้ ภายในองค์กรจึงต้องแบ่งหน้าที่ให้ชัด ทั้งความรับผิดชอบของทีมพัฒนาต่อโค้ดที่ส่งมอบ และทีมทดสอบต่อการตรวจสอบที่ดำเนินการ
OpenAI ย้ำต้องตรวจสอบการทำงานของ Agent ได้
Kevin มองว่าระดับการตรวจสอบต้องสอดคล้องกับผลกระทบเช่นกัน การเปลี่ยนสีปุ่มกับการเปลี่ยนสกุลเงินหรือตำแหน่งทศนิยมของราคาไม่ควรได้รับการตรวจในระดับเดียวกัน เพราะความเสียหายต่างกันมาก แม้ Agent จะรับงานไปดำเนินการเองได้ ความรับผิดชอบยังอยู่กับคน ทั้งผู้มอบหมายงานและผู้ตรวจผลงาน การเลือกว่าจะให้ระบบทำอะไรได้เองจึงต้องพิจารณาลักษณะของการเปลี่ยนแปลงและผลที่อาจเกิดขึ้นตามมา
ขอบเขตการมอบหมายยังขึ้นอยู่กับว่า Agent มีข้อมูลครบเพียงใด Kevin เล่าว่าเขาใช้ AI ช่วยค้นหาเวลาประชุมที่เหมาะสม จัดนัดหมาย และหาห้องประชุมได้ แต่ยังไม่ค่อยให้ส่งข้อความแทนตนเองโดยอัตโนมัติ เพราะระบบอาจไม่รู้บริบทจากการพูดคุยที่เกิดขึ้นนอกช่องทางดิจิทัล ข้อความที่ร่างขึ้นจึงอาจขาดข้อมูลสำคัญ แม้จะอ่านแล้วดูเหมือนพร้อมส่งก็ตาม
เมื่อ Agent ทำงานได้มากขึ้น องค์กรต้องติดตามตรวจสอบได้ว่าระบบลงมือทำอะไรและใช้ข้อมูลจากไหน รวมถึงมีการแจ้งเตือนให้ผู้รับผิดชอบตอบสนองได้ Kevin ระบุว่าลูกค้าองค์กรให้ความสำคัญกับการตรวจสอบย้อนหลังและการติดตามการทำงานอย่างต่อเนื่อง ขณะที่เครื่องมือด้านนี้ยังพัฒนาอยู่ องค์กรเองก็ต้องรู้ว่าควรเฝ้าดูสัญญาณใด เพื่อให้เห็นความผิดปกติก่อนปัญหาลุกลาม แทนการรอจนระบบหยุดทำงานแล้วจึงเริ่มแก้ไข
มีคนอนุมัติ ต้องเข้าใจสิ่งที่กำลังรับรอง
เมื่อผู้ดำเนินรายการตั้งคำถามว่า การมีคนอยู่ในกระบวนการอาจเป็นเพียงการกดยืนยันโดยไม่เข้าใจงานหรือไม่ Sylvain ยอมรับว่า แม้แต่คำขอรวมโค้ดที่มีการเปลี่ยนแปลงหนึ่งพันบรรทัดก็ตรวจได้ยากอยู่แล้ว และ AI ทำให้ปริมาณงานเพิ่มขึ้นเร็วกว่าเดิม องค์กรจึงต้องออกแบบกระบวนการให้คนติดตามและทำความเข้าใจได้จริง ท่ามกลางแรงกดดันที่ต้องส่งมอบงานเร็วขึ้น โดยเขายอมรับว่ายังไม่มีคำตอบสำเร็จรูปสำหรับปัญหานี้
ในกรณีที่ Agent หลายตัวทำงานร่วมกันตั้งแต่กำหนดรายละเอียด เขียนโค้ด ไปจนถึงทดสอบ Sylvain เห็นว่าผู้จัดการฝ่ายวิศวกรรมต้องรับผิดชอบต่อกระบวนการที่ออกแบบขึ้นด้วย หากระบบสร้างข้อผิดพลาด สิ่งที่ต้องตรวจสอบจึงครอบคลุมทั้งตัวงานและวิธีที่จัดให้ Agent ทำงานร่วมกัน ขณะเดียวกัน เขายังมองว่าการคาดหวังให้ AI แก้เหตุขัดข้องทุกประเภทด้วยตนเองสูงเกินไป เพราะปัญหาในระบบจริงอาจมาจากโค้ด หน่วยความจำ ฐานข้อมูล หรือเหตุการณ์ที่คาดไม่ถึง
บางงานอาจกำหนดให้ดำเนินการอัตโนมัติได้ เช่น การย้อนระบบกลับไปยังสถานะเดิมที่ยอมรับได้ แต่เหตุการณ์ที่อยู่นอกขอบเขตที่เตรียมไว้ยังต้องอาศัยคน แนวทางนี้สอดคล้องกับการเลือกงานตอบอีเมลของ Omise ซึ่งเริ่มจากปัญหาที่ระบุเงื่อนไขได้ชัดเจน การขยายอิสระให้ Agent จึงต้องพิจารณาว่าองค์กรเข้าใจงานนั้นมากพอที่จะกำหนดวิธีตรวจสอบและรับมือเมื่อผิดพลาดหรือยัง
ทักษะวิศวกรยังสำคัญเมื่อ AI สร้างงานได้เร็วขึ้น
ความสามารถของคนที่จะตรวจและตัดสินใจเป็นอีกเรื่องที่ต้องพัฒนาควบคู่กัน Harley เตือนว่า การมอง AI เป็นเหตุให้ไม่ต้องพัฒนานักพัฒนารุ่นใหม่จะสร้างปัญหาในระยะยาว เพราะเมื่อวิศวกรอาวุโสเกษียณ องค์กรอาจขาดคนที่เข้าใจระบบ เขาเล่าว่า Microsoft มีแนวทางให้วิศวกรอาวุโสช่วยสอนนักศึกษาและผู้เริ่มทำงานใช้ AI เพื่อเร่งการเรียนรู้และพัฒนาความสามารถในการทำงาน แทนการปล่อยให้ผู้ใช้เพียงรับรองผลงานที่ตนเองไม่เข้าใจ
Kevin เห็นว่า AI เปิดโอกาสให้คนที่ไม่ใช่วิศวกรเริ่มสร้างสิ่งต่าง ๆ ได้ แต่ประสบการณ์ทางวิศวกรรมยังจำเป็นมากขึ้น เมื่อเครื่องมือสามารถสร้างงานที่ครอบคลุมหลายภาษาและหลายด้าน ความรู้จากการทำงานจริงช่วยให้คนพิจารณาข้อจำกัดและผลกระทบได้ การมีเครื่องมือที่เก่งขึ้นจึงต้องมาพร้อมผู้ใช้ที่มีทักษะเพียงพอจะตรวจสอบและรับผิดชอบต่อสิ่งที่นำไปใช้งาน
จากเขียนโค้ดสู่งานธุรกิจ AI Agent ต้องมีขอบเขตชัด
เมื่อมองไปข้างหน้า Sylvain เสนอให้ทีมพัฒนาขยายความสนใจจาก Agent เขียนโค้ดไปสู่งานธุรกิจ เช่น การรับลูกค้าใหม่ การบริการลูกค้า และการจัดการสินไหมในธุรกิจประกัน ส่วน Harley เห็นว่าการนำระบบอัตโนมัติเข้าไปทำงานได้ลึกขึ้นต้องอาศัยการออกแบบกระบวนการธุรกิจใหม่ ขณะที่ Kevin สะท้อนว่าการเปลี่ยนระบบเดิมในองค์กรที่มีการดำเนินงานขนาดใหญ่ต้องใช้เวลา เพราะเกี่ยวข้องกับหลายฝ่ายและมีผลต่อเนื่องถึงกัน
Kevin ยังพบว่าการใช้งานมักเริ่มจากคนคนหนึ่งที่ต้องการลดงานซ้ำ เมื่อสร้าง Agent ช่วยตนเองได้แล้วจึงเริ่มต้องการระบบที่ทำงานร่วมกับทีมอื่นได้ การขยายจากงานส่วนบุคคลไปสู่งานร่วมกันทำให้การกำหนดขอบเขตและความรับผิดชอบยิ่งสำคัญ องค์กรต้องระบุว่า Agent ตัดสินใจเรื่องใดได้เอง เมื่อใดต้องส่งต่อให้คน และผู้รับผิดชอบจะมีข้อมูลอะไรประกอบการพิจารณา เพื่อให้การอนุมัติแต่ละครั้งเป็นการตัดสินใจที่เข้าใจผลตามมาจริง
ข่าวอื่น ๆ ที่น่าสนใจ
องค์กรไทยเร่งใช้ AI แต่การกำกับดูแลยังตามไม่ทัน
Huawei เสนอ Sovereign AI ไทย ต่อยอดโมเดลเปิดสู่การใช้งานจริง
