IBM ได้พัฒนาเทคโนโลยีออปติกใหม่ที่สามารถรองรับการฝึกอบรมโมเดล AI ได้ด้วย “ความเร็วแสง” พร้อมประหยัดพลังงานได้อย่างมาก IBM กล่าวว่าการนำความก้าวหน้าใหม่ๆ เหล่านี้ไปใช้กับศูนย์ข้อมูล จะทำให้สามารถประหยัดพลังงานในการฝึกโมเดล AI ทั่วไปได้เทียบเท่ากับการใช้พลังงานประจำปีของครัวเรือนในสหรัฐฯ กว่า 5,000 หลังคาเรือน
แม้ว่าศูนย์ข้อมูลจะเชื่อมต่อกับโลกภายนอกโดยใช้สายเคเบิลไฟเบอร์ออปติก แต่ภายในศูนย์ข้อมูลก็ยังคงใช้สายทองแดงเป็นวัสดุหลักตามที่ IBM ระบุ สายแกนทองแดงเหล่านี้ที่เชื่อมต่อตัวเร่งความเร็ว GPU ต้องใช้เวลาเป็นจำนวนมากในการรอข้อมูลจากอุปกรณ์อื่นในขณะที่ใช้พลังงาน ส่งผลให้ต้นทุนการดำเนินงานเพิ่มขึ้นอย่างมาก Dario Gil รองประธานอาวุโสและผู้อำนวยการฝ่ายวิจัยของ IBM แสดงความคิดเห็นเกี่ยวกับเทคโนโลยีการส่งข้อมูลด้วยแสงใหม่ว่า:
เนื่องจาก AI สร้างความต้องการพลังงานและพลังการประมวลผลมากขึ้น ศูนย์ข้อมูลจึงต้องมีการพัฒนา และเทคโนโลยีออปติกแบบแพ็คเกจทั่วไปสามารถช่วยให้ศูนย์ข้อมูลขนาดใหญ่ปรับตัวให้เข้ากับความต้องการในอนาคตได้ดีขึ้น ด้วยความก้าวหน้าครั้งนี้ โปรเซสเซอร์ของอนาคตจะสื่อสารในลักษณะเดียวกับสายเคเบิลใยแก้วนำแสงที่ส่งข้อมูลเข้าและออกจากศูนย์ข้อมูล นำไปสู่ยุคใหม่ของการสื่อสารที่รวดเร็วยิ่งขึ้นและยั่งยืนมากขึ้น ซึ่งสามารถจัดการกับเวิร์กโหลด AI จำนวนมากได้

IBM ได้สรุปต้นแบบเทคโนโลยีออปติกส์แบบแพ็คเกจร่วม (CPO) ใหม่ใน เอกสาร ทางเทคนิคโดยพื้นฐานแล้ว การเพิ่มแบนด์วิดท์ในศูนย์ข้อมูลอย่างมีนัยสำคัญจะช่วยลดเวลาหยุดทำงานของ GPU ได้ ทำให้การประมวลผล AI เร็วขึ้น
IBM มั่นใจอย่างยิ่งว่าเทคโนโลยีนี้จะช่วยลดระยะเวลาการฝึกอบรมสำหรับโมเดลภาษาขนาดใหญ่ (LLM) จากสามเดือนเหลือเพียงสามสัปดาห์ ในเวลาเดียวกัน การเพิ่มประสิทธิภาพด้านพลังงานจะช่วยลดการใช้พลังงานและลดต้นทุนที่เกี่ยวข้องกับการฝึกอบรม LLM