Samsung โชว์ LPDDR5X-PIM ที่ Hot Chips 2026 ยัดหน่วยคำนวณลงในชิปแรม ได้แบนด์วิดท์ภายใน 614 GB/s

ในงาน Hot Chips 2026 Samsung นำเสนอ LPDDR5X-PIM ซึ่งเป็นการฝังหน่วยคำนวณ multiply-accumulate (MAC) ลงไปในชิปหน่วยความจำโดยตรง โดยวาง PIM block ไว้ที่ทุก bank ของชิป 16-bank ทำให้คำนวณได้โดยไม่ต้องส่งข้อมูลผ่านบัสหน่วยความจำภายนอก

ตัวเลขประสิทธิภาพน่าสนใจมาก แบนด์วิดท์ภายในเมื่อใช้ทั้ง 16 bank พร้อมกันอยู่ที่ 614 GB/s เทียบกับ DRAM มาตรฐานที่เข้าถึงได้สูงสุดสอง bank ให้แค่ 76.8 GB/s ทรูพุตต่อชิปอยู่ที่ 1.2 TOPS สำหรับ INT8/FP8 และ 2.4 TOPS เมื่อใช้น้ำหนัก 4 บิต ถ้าใช้แปดชิปจะได้ราว 9.6 INT8 TOPS ซึ่งเทียบเคียงได้กับ NPU ของ Intel Meteor Lake

ฝั่งการออกแบบ ชิปยังคงเข้ากันได้กับโปรโตคอล LPDDR5X มาตรฐาน โดยใช้วิธีนำ row address พิเศษบางค่ามาทำหน้าที่เป็นสัญญาณควบคุม ซอฟต์แวร์สามารถสลับระหว่างโหมด single-bank (ใช้งานปกติ) กับ multi-bank (โหมดคำนวณ) ได้ พร้อมมี register file เฉพาะสำหรับคำสั่ง เวกเตอร์ activation และ scale factor

แต่ปัญหาใหญ่อยู่ที่ซอฟต์แวร์และระบบปฏิบัติการ การสลับโหมดหน่วยความจำทำให้ไม่สามารถใช้ PIM และการเข้าถึงหน่วยความจำปกติพร้อมกันข้ามเธรดได้ จึงต้องแยกพื้นที่หน่วยความจำออกจากกัน ยิ่งกว่านั้นการอ่านแบบ PIM มี side effect ต่อข้อมูล ทำให้ต้อง map หน่วยความจำเป็นแบบ uncacheable และปิด speculative execution ซึ่งบั่นทอนประสิทธิภาพลงอย่างมากเมื่อเทียบกับรูปแบบการเข้าถึงหน่วยความจำมาตรฐาน

นี่คือสาเหตุที่ PIM ยังไม่แพร่หลายทั้งที่แนวคิดมีมานาน — ฮาร์ดแวร์ทำได้แล้ว แต่โมเดลการเขียนโปรแกรมยังไม่ลงตัว