Google ประกาศขยายพอร์ตโฟลิโอชิป TPU เจเนอเรชันที่ 8 เปิดตัวระบบประมวลผลเพิ่ม 2 รุ่น ได้แก่ TPU 8i Max และ TPU 8tx ออกแบบมาเพื่อรองรับงาน AI ที่ต้องการความปลอดภัยสูงและการประมวลผลข้อมูลที่มีบริบทซับซ้อน โดยนับเป็นครั้งแรกที่ Google เปิดตัว TPU รวม 4 รูปแบบภายในปีเดียว
โครงสร้างพื้นฐาน TPU ของ Google ถูกนำไปใช้งานหลากหลาย ทั้งการฝึกฝนและให้บริการโมเดล Gemini การรองรับระบบ Agent รวมถึงให้บริการลูกค้าผ่าน Google Cloud ควบคู่กับการเปิดให้ลูกค้านำ TPU ไปติดตั้งในดาต้าเซ็นเตอร์ของตนเอง ซึ่งปัจจุบันมีลูกค้าเกือบ 100 ราย ทั้งบริษัทวิจัย AI สถาบันการเงิน ธุรกิจค้าปลีก และมหาวิทยาลัย
การเปิดตัวครั้งนี้เป็นการต่อยอดจากชิป TPU 8t (เน้นการเทรนโมเดลขนาดใหญ่) และ TPU 8i (เน้นการประมวลผลผลลัพธ์หรือ Inference ความหน่วงต่ำ) ที่เปิดตัวไปเมื่อเดือนเมษายน โดย Google ได้พัฒนาระบบเพิ่มเติมเพื่อแก้โจทย์สำคัญ 2 ประการ ได้แก่ การรักษาความปลอดภัยข้อมูลในระดับฮาร์ดแวร์ และการรองรับบริบทการประมวลผลขนาดใหญ่ระดับล้านโทเคน
Amin Vahdat ประธานเจ้าหน้าที่ฝ่ายเทคโนโลยีและรองประธานอาวุโสฝ่าย AI และโครงสร้างพื้นฐานของ Google กล่าวว่า “เมื่อการประมวลผลกำลังเปลี่ยนจากการรองรับการทำงานของมนุษย์ไปสู่ยุคของ Agent ภาคธุรกิจจึงต้องการชิปประมวลผลความเร็วสูงที่สามารถรองรับการให้เหตุผลบนบริบทข้อมูลขนาดใหญ่ของโมเดล AI ได้อย่างมีประสิทธิภาพ ขณะเดียวกัน ลูกค้าบางกลุ่มในอุตสาหกรรมที่มีข้อกำหนดด้านกฎระเบียบสูงก็ต้องการเทคโนโลยีการเข้ารหัสเฉพาะทางเพื่อรองรับการใช้งานที่มีข้อกำหนดเฉพาะ ระบบ TPU รุ่นใหม่นี้พัฒนาขึ้นเพื่อตอบโจทย์ความต้องการดังกล่าว ควบคู่กับประกาศล่าสุดเกี่ยวกับ PyTorch ของเรา โดยมีเป้าหมายเพื่อให้นักพัฒนาและลูกค้าทุกกลุ่มเข้าถึง TPU ได้ง่ายยิ่งขึ้น การผสานชิปประมวลผลที่ออกแบบขึ้นเฉพาะและมีโครงสร้างแบบโมดูลาร์เข้ากับชุดซอฟต์แวร์แบบเปิดที่ใช้งานง่าย ช่วยให้เราสามารถพัฒนาฮาร์ดแวร์และรูปแบบระบบใหม่ ๆ ได้รวดเร็วทันต่อการเปลี่ยนแปลงของอุตสาหกรรม AI”
TPU 8tx ยกระดับความปลอดภัยขั้นสูง พร้อมเพิ่มขีดความสามารถการเทรนโมเดลขนาดเล็ก
TPU 8tx ออกแบบมาเพื่อรองรับองค์กรที่มีข้อกำหนดด้านกฎระเบียบสูงและหน่วยงานภาครัฐที่ใช้งานโมเดล AI ขั้นสูงหรือโมเดลเฉพาะขององค์กร รวมถึง Agent อัตโนมัติ ควบคู่กับการจัดการข้อมูลสำคัญที่ต้องได้รับการคุ้มครองเป็นพิเศษ
โดยทั่วไป ข้อมูลจะได้รับการเข้ารหัสทั้งในขณะจัดเก็บและระหว่างรับส่งผ่านเครือข่าย แต่จำเป็นต้องถอดรหัสในหน่วยความจำขณะที่ระบบกำลังประมวลผล TPU 8tx พัฒนาบนสถาปัตยกรรมชิปเดียวกับ TPU 8t และทำงานร่วมกับโฮสต์ CPU จาก AMD ที่ปรับแต่งเป็นพิเศษ โดยผสานระบบรักษาความปลอดภัยไว้ในระดับฮาร์ดแวร์ ช่วยปกป้องและแยกข้อมูลสำคัญ รวมถึงค่าน้ำหนักของโมเดล แม้ในระหว่างการประมวลผล นอกจากนี้ TPU 8tx ยังนำเครือข่าย Boardfly ที่มีความหน่วงต่ำ ซึ่งพัฒนาขึ้นเพื่อรองรับการให้เหตุผลแบบเรียลไทม์มาใช้งาน ทำให้ Agent ที่ทำงานหลายขั้นตอนประมวลผลได้อย่างต่อเนื่อง พร้อมลดความหน่วงลง 2 เท่า เมื่อเทียบกับ TPU 8t โดยแทบไม่ส่งผลกระทบต่อประสิทธิภาพโดยรวม
การผสานขีดความสามารถด้านการประมวลผลสำหรับการเทรนโมเดลเข้ากับโครงข่ายรับส่งข้อมูลความเร็วสูงสำหรับงานประมวลผล (Inference) ช่วยให้องค์กรสามารถใช้งานและปรับแต่งโมเดลได้พร้อมกันบนระบบเดียว โดย TPU 8tx รองรับทั้งการปรับแต่งโมเดลด้วยข้อมูลภายในองค์กร การถ่ายทอดความรู้จากโมเดลขนาดใหญ่ไปยังโมเดลขนาดเล็ก และการฝึก Agent ด้วยเทคนิคการเรียนรู้แบบเสริมกำลัง โดยไม่จำเป็นต้องย้ายข้อมูลสำคัญระหว่างคลัสเตอร์ที่แยกจากกัน
TPU 8i Max ทลายกำแพงข้อจำกัดด้านหน่วยความจำ
เมื่อ AI Agent หลายสิบตัวทำงานร่วมกันเพื่อจัดการโค้ดในระบบซอฟต์แวร์ขนาดใหญ่ หรือประมวลผลวิดีโอที่มีความยาวหลายชั่วโมงพร้อมกัน แบนด์วิดท์หน่วยความจำก็อาจกลายเป็นคอขวดที่ฉุดรั้งประสิทธิภาพการประมวลผลได้อย่างรวดเร็ว
TPU 8i Max เพิ่มขีดความสามารถด้านการประมวลผลและหน่วยความจำให้ทำงานสอดรับกัน โดยให้ประสิทธิภาพการประมวลผล หน่วยความจำ SRAM และแบนด์วิดท์ HBM เพิ่มขึ้นเป็น 2 เท่าเมื่อเทียบกับ TPU 8i ช่วยให้หน่วยประมวลผลเข้าถึงข้อมูลที่จำเป็นได้อย่างต่อเนื่อง รองรับการประมวลผลเวิร์กโหลดขนาดใหญ่แบบไม่สะดุด นอกจากนี้ TPU 8i Max ยังรองรับการติดตั้งชิปประมวลผลได้มากขึ้นถึง 2 เท่าภายในพื้นที่แร็กขนาดเดิม ช่วยให้ดาต้าเซ็นเตอร์เพิ่มขีดความสามารถในการประมวลผลได้มากขึ้นอย่างมีนัยสำคัญ โดยใช้พื้นที่ติดตั้งและพลังงานได้อย่างมีประสิทธิภาพยิ่งขึ้น
แม้ TPU แต่ละระบบจะรองรับเวิร์กโหลดได้หลากหลาย แต่เมื่อนำ TPU ทั้ง 4 ระบบจากเจเนอเรชันที่ 8 ของ Google มาใช้งานร่วมกัน จะช่วยให้ลูกค้ามีชิปประมวลผลความเร็วสูงที่ออกแบบมาเฉพาะสำหรับทุกขั้นตอนของการทำงานของ Agent โดย TPU 8t รองรับการเทรนโมเดลขนาดใหญ่ ส่วน TPU 8i เน้นการประมวลผลเพื่อการให้เหตุผลที่มีความหน่วงต่ำ ขณะที่ TPU 8tx รองรับการประมวลผลข้อมูลที่เป็นความลับ และ TPU 8i Max รองรับการประมวลผลข้อมูลที่มีบริบทขนาดใหญ่ พร้อมความหนาแน่นในการประมวลผลต่อแร็กสูงที่สุด
ข่าวอื่น ๆ ที่น่าสนใจ
เอกนิติ ผนึก 7 อุตสาหกรรม ดัน Reinvent Thailand ตั้งเป้าเพิ่มรายได้ 5.4 ล้านล้านบาท ในปี 2573
OpenAI เปิดตัว Images 2.6 เพิ่มฟีเจอร์สร้าง GIF อัปเกรดเร็วขึ้น 50%
