หุ่นยนต์ AI สามารถถูก เจลเบรก ได้ และผลที่ตามมาจะเลวร้ายมาก

นักวิจัยจาก Penn Engineering (สหรัฐอเมริกา) กล่าวว่าได้ค้นพบช่องโหว่ด้านความปลอดภัยที่ไม่เคยปรากฏมาก่อนในแพลตฟอร์มหุ่นยนต์ควบคุมด้วย AI จำนวนหนึ่ง

การวิจัยของเราแสดงให้เห็นว่า ณ จุดนี้ โมเดลภาษาขนาดใหญ่ (LLM) โดยทั่วไปจะไม่ปลอดภัยเพียงพอเมื่อบูรณาการเข้ากับฮาร์ดแวร์ทางกายภาพที่ซับซ้อน ” จอร์จ ปาปปาส ศาสตราจารย์ด้านวิศวกรรมไฟฟ้าและระบบที่ UPS Foundation กล่าวในแถลงการณ์

Pappas และทีมของเขาได้พัฒนาอัลกอริทึมที่เรียกว่า RoboPAIR ซึ่งเป็น "อัลกอริทึมแรกที่ออกแบบมาเพื่อแคร็กหุ่นยนต์ที่ควบคุมโดย LLM" และแตกต่างจากการโจมตีทางเทคนิคแบบรัวเร็วที่มีอยู่ในปัจจุบันที่มุ่งเป้าไปที่แชทบอท RoboPAIR ถูกสร้างขึ้นมาโดยเฉพาะเพื่อ "กระตุ้นการกระทำทางกายภาพที่เป็นอันตราย" จากหุ่นยนต์ควบคุมโดย LLM เช่น แพลตฟอร์มหุ่นยนต์คล้ายมนุษย์ที่เรียกว่า Atlas ที่ Boston Dynamics และสถาบันวิจัย Toyota (TRI) กำลังพัฒนาอยู่

มีรายงานว่า RoboPAIR มีอัตราความสำเร็จ 100% ในการแคร็กแพลตฟอร์มวิจัยหุ่นยนต์ยอดนิยม 3 แพลตฟอร์ม ได้แก่ Unitree Go2 สี่ขา Clearpath Robotics Jackal สี่ล้อ และเครื่องจำลอง Dolphins LLM สำหรับยานยนต์ไร้คนขับ ใช้เวลาเพียงไม่กี่วันเท่านั้นสำหรับอัลกอริทึมในการเข้าถึงระบบเหล่านั้นได้อย่างสมบูรณ์ และเริ่มข้ามผ่านอุปสรรคด้านความปลอดภัย เมื่อนักวิจัยเข้าควบคุมได้แล้ว พวกเขาก็สามารถควบคุมให้แพลตฟอร์มหุ่นยนต์อัตโนมัติทำการกระทำอันตรายต่างๆ ได้หลากหลาย เช่น ขับรถผ่านทางแยกโดยไม่หยุด

ผลการประเมินครั้งแรกแสดงให้เห็นว่าความเสี่ยงของ LLM ที่ถอดรหัสนั้นมีมากกว่าแค่การสร้างข้อความ เพราะเห็นได้ชัดว่าหุ่นยนต์ที่ถอดรหัสได้สามารถสร้างความเสียหายทางกายภาพในโลกแห่งความเป็นจริงได้

หุ่นยนต์ AI สามารถถูก "เจลเบรก" ได้ และผลที่ตามมาจะเลวร้ายมาก

ทีมงานที่ Penn Engineering กำลังทำงานร่วมกับนักพัฒนาแพลตฟอร์มเพื่อเสริมความแข็งแกร่งให้กับระบบเพื่อการป้องกันการบุกรุกเพิ่มเติม แต่เตือนว่าปัญหาความปลอดภัยเหล่านี้เป็นปัญหาเชิงระบบและยากที่จะแก้ไขให้ครบถ้วน

ผลการวิจัยนี้แสดงให้เห็นอย่างชัดเจนว่าการใช้แนวทางด้านความปลอดภัยเป็นสิ่งสำคัญในการปลดล็อกนวัตกรรมที่รับผิดชอบ เราต้องแก้ไขช่องโหว่ที่มีอยู่ก่อนที่จะนำหุ่นยนต์ที่ขับเคลื่อนด้วย AI มาใช้ในโลกแห่งความเป็นจริง ” ทีมงานกล่าว

การดำเนินการที่ปลอดภัยต้องมีการทดสอบระบบ AI เพื่อค้นหาภัยคุกคามและช่องโหว่ที่อาจเกิดขึ้น ซึ่งถือเป็นสิ่งสำคัญในการปกป้องระบบ AI ที่พวกเขาสร้างขึ้น เพราะคุณสามารถทดสอบและฝึกระบบเพื่อป้องกันความเสี่ยงได้ก็ต่อเมื่อคุณระบุจุดอ่อนได้เท่านั้น

Sign up and earn $1000 a day ⋙

Leave a Comment

ความแตกต่างระหว่างทีวีธรรมดากับสมาร์ททีวี

ความแตกต่างระหว่างทีวีธรรมดากับสมาร์ททีวี

สมาร์ททีวีเข้ามาครองโลกอย่างแท้จริง ด้วยคุณสมบัติที่ยอดเยี่ยมมากมายและการเชื่อมต่ออินเทอร์เน็ต เทคโนโลยีได้เปลี่ยนแปลงวิธีการชมทีวีของเรา

ทำไมช่องแช่แข็งไม่มีแสง แต่ตู้เย็นมี?

ทำไมช่องแช่แข็งไม่มีแสง แต่ตู้เย็นมี?

ตู้เย็นเป็นเครื่องใช้ไฟฟ้าที่คุ้นเคยในครัวเรือน ตู้เย็นโดยทั่วไปจะมี 2 ช่อง โดยช่องแช่เย็นจะมีขนาดกว้างขวางและมีไฟที่เปิดอัตโนมัติทุกครั้งที่ผู้ใช้งานเปิด ในขณะที่ช่องแช่แข็งจะแคบและไม่มีไฟส่องสว่าง

2 วิธีในการแก้ไขความแออัดของเครือข่ายที่ทำให้ Wi-Fi ช้าลง

2 วิธีในการแก้ไขความแออัดของเครือข่ายที่ทำให้ Wi-Fi ช้าลง

เครือข่าย Wi-Fi ได้รับผลกระทบจากปัจจัยหลายประการนอกเหนือจากเราเตอร์ แบนด์วิดท์ และสัญญาณรบกวน แต่ยังมีวิธีชาญฉลาดบางอย่างในการเพิ่มประสิทธิภาพเครือข่ายของคุณ

วิธีดาวน์เกรดจาก iOS 17 เป็น iOS 16 โดยไม่สูญเสียข้อมูลโดยใช้ Tenorshare Reiboot

วิธีดาวน์เกรดจาก iOS 17 เป็น iOS 16 โดยไม่สูญเสียข้อมูลโดยใช้ Tenorshare Reiboot

หากคุณต้องการกลับไปใช้ iOS 16 ที่เสถียรบนโทรศัพท์ของคุณ นี่คือคำแนะนำพื้นฐานในการถอนการติดตั้ง iOS 17 และดาวน์เกรดจาก iOS 17 เป็น 16

เมื่อกินโยเกิร์ตเป็นประจำทุกวัน จะเกิดอะไรขึ้นกับร่างกาย?

เมื่อกินโยเกิร์ตเป็นประจำทุกวัน จะเกิดอะไรขึ้นกับร่างกาย?

โยเกิร์ตเป็นอาหารที่ยอดเยี่ยม กินโยเกิร์ตทุกวันดีจริงหรือ? เมื่อคุณกินโยเกิร์ตทุกวัน ร่างกายจะเปลี่ยนแปลงไปอย่างไรบ้าง? ลองไปหาคำตอบไปด้วยกัน!

ข้าวประเภทไหนดีต่อสุขภาพมากที่สุด?

ข้าวประเภทไหนดีต่อสุขภาพมากที่สุด?

บทความนี้จะกล่าวถึงประเภทของข้าวที่มีคุณค่าทางโภชนาการสูงสุดและวิธีเพิ่มประโยชน์ด้านสุขภาพจากข้าวที่คุณเลือก

วิธีตื่นนอนให้ตรงเวลาในตอนเช้า

วิธีตื่นนอนให้ตรงเวลาในตอนเช้า

การกำหนดตารางเวลาการนอนและกิจวัตรประจำวันก่อนเข้านอน การเปลี่ยนนาฬิกาปลุก และการปรับเปลี่ยนการรับประทานอาหารเป็นมาตรการบางประการที่จะช่วยให้คุณนอนหลับได้ดีขึ้นและตื่นนอนตรงเวลาในตอนเช้า

เคล็ดลับสำหรับการเล่น Rent Please! การจำลองผู้ให้เช่าบ้านสำหรับมือใหม่

เคล็ดลับสำหรับการเล่น Rent Please! การจำลองผู้ให้เช่าบ้านสำหรับมือใหม่

ขอเช่าหน่อยคะ! Landlord Sim เป็นเกมจำลองมือถือบน iOS และ Android คุณจะเล่นเป็นเจ้าของอพาร์ทเมนท์และเริ่มให้เช่าอพาร์ทเมนท์โดยมีเป้าหมายในการอัพเกรดภายในอพาร์ทเมนท์ของคุณและเตรียมพร้อมสำหรับผู้เช่า

รหัสป้องกันหอคอยในห้องน้ำล่าสุดและวิธีการป้อนรหัส

รหัสป้องกันหอคอยในห้องน้ำล่าสุดและวิธีการป้อนรหัส

รับรหัสเกม Bathroom Tower Defense Roblox และแลกรับรางวัลสุดน่าตื่นเต้น พวกเขาจะช่วยคุณอัพเกรดหรือปลดล็อคหอคอยที่สร้างความเสียหายได้มากขึ้น

โครงสร้าง สัญลักษณ์ และหลักการทำงานของหม้อแปลงไฟฟ้า

โครงสร้าง สัญลักษณ์ และหลักการทำงานของหม้อแปลงไฟฟ้า

มาเรียนรู้เรื่องโครงสร้าง สัญลักษณ์ และหลักการทำงานของหม้อแปลงแบบแม่นยำที่สุดกันดีกว่า

4 วิธีที่ AI ช่วยทำให้สมาร์ททีวีดีขึ้น

4 วิธีที่ AI ช่วยทำให้สมาร์ททีวีดีขึ้น

ตั้งแต่คุณภาพของภาพและเสียงที่ดีขึ้นไปจนถึงการควบคุมด้วยเสียงและอื่นๆ อีกมากมาย คุณสมบัติที่ขับเคลื่อนด้วย AI เหล่านี้ทำให้สมาร์ททีวีดีขึ้นมาก!

เหตุใด ChatGPT จึงดีกว่า DeepSeek

เหตุใด ChatGPT จึงดีกว่า DeepSeek

ในตอนแรกผู้คนมีความหวังสูงกับ DeepSeek ในฐานะแชทบอท AI ที่ทำการตลาดในฐานะคู่แข่งที่แข็งแกร่งของ ChatGPT จึงรับประกันถึงความสามารถและประสบการณ์การแชทอันชาญฉลาด

พบกับ Fireflies.ai: เลขานุการ AI ฟรีที่ช่วยให้คุณประหยัดเวลาทำงานหลายชั่วโมง

พบกับ Fireflies.ai: เลขานุการ AI ฟรีที่ช่วยให้คุณประหยัดเวลาทำงานหลายชั่วโมง

การจดรายละเอียดสำคัญๆ ลงไปขณะจดบันทึกข้อมูลสำคัญอื่นๆ อาจเกิดขึ้นได้ง่าย และการพยายามจดบันทึกในขณะสนทนาอาจทำให้เสียสมาธิได้ Fireflies.ai คือคำตอบ

วิธีเลี้ยง Axolotl ใน Minecraft, ฝึก Salamander ใน Minecraft

วิธีเลี้ยง Axolotl ใน Minecraft, ฝึก Salamander ใน Minecraft

Axolot ใน Minecraft จะเป็นผู้ช่วยที่ดีสำหรับผู้เล่นเมื่อปฏิบัติการใต้น้ำ หากพวกเขารู้วิธีใช้มัน

A Quiet Place: The Road Ahead การกำหนดค่าเกมพีซี

A Quiet Place: The Road Ahead การกำหนดค่าเกมพีซี

การกำหนดค่าของ A Quiet Place: The Road Ahead ได้รับการจัดอันดับค่อนข้างสูง ดังนั้นคุณต้องพิจารณาการกำหนดค่าก่อนตัดสินใจดาวน์โหลด