ชุดราสเบอร์รี่ pi ai ทำงานอย่างไร
ชุด Raspberry Pi AI เปลี่ยน Pi 5 ของคุณให้เป็นแพลตฟอร์ม Edge AI ที่มีความสามารถโดยการรวม M.2 HAT เข้ากับชิปเร่งความเร็ว Hailo-8L พูดง่ายๆ ก็คือ มันทำงานโดยการลดภาระการคำนวณ AI จาก CPU ไปยังหน่วยประมวลผลประสาทโดยเฉพาะซึ่งมีการดำเนินการ 13 ล้านล้านรายการต่อวินาที (13 TOPS) ในขณะที่ใช้เพียง 1-2 วัตต์ระหว่างปริมาณงานทั่วไป (ที่มา: theregister.com, 2024) ในราคา 70 เหรียญสหรัฐ คุณจะได้รับการเร่งด้วยฮาร์ดแวร์ที่ทำให้การตรวจจับวัตถุแบบเรียลไทม์ การประมาณค่าท่าทาง และการจัดหมวดหมู่ภาพสามารถทำงานได้จริงบนคอมพิวเตอร์บอร์ดเดี่ยวราคา 60 เหรียญสหรัฐ
ฉันพบว่าสถาปัตยกรรมนี้ฉลาดเป็นพิเศษ แทนที่จะรอนานหลายปีกว่าที่ Raspberry Pi จะสร้าง NPU แบบบูรณาการ พวกเขาได้ร่วมมือกับ Hailo เพื่อสร้างโซลูชันแบบโมดูลาร์ที่ใช้งานได้ในปัจจุบันและอัปเกรดได้อย่างง่ายดายในวันพรุ่งนี้-AI HAT+ ที่มี 26 TOPS มีให้สำหรับผู้ที่ต้องการพลังงานมากขึ้นแล้ว (ที่มา: techcrunch.com, 2024)
สถาปัตยกรรมฮาร์ดแวร์: วิธีการเชื่อมต่อส่วนประกอบต่างๆ
AI Kit ประกอบด้วยชิ้นส่วนทางกายภาพสองชิ้นที่ทำงานเป็นระบบเดียว ขั้นแรก คุณมี Raspberry Pi M.2 HAT+ อย่างเป็นทางการ ซึ่งเป็นแผงวงจรที่เชื่อมต่อกับส่วนหัว GPIO 40- พินของ Pi 5 และมีช่อง M.2 2242 หรือ 2280 ประการที่สอง มีโมดูลเร่งความเร็ว AI Hailo-8L ซึ่งเป็นการ์ด M.2 ขนาดเล็กที่มีขนาดประมาณแท่งหมากฝรั่งที่เสียบเข้ากับช่องนั้น

สิ่งที่จะเกิดขึ้นเมื่อคุณเชื่อมต่อทุกอย่าง:
M.2 HAT ดึงพลังงานจากพิน GPIO ของ Pi 5 และสร้างการเชื่อมต่อ PCIe Gen 2 หรือ Gen 3 ผ่านอินเทอร์เฟซ PCIe ของบอร์ด โมดูล Hailo-8L ได้รับทั้งพลังงานและข้อมูลผ่านการเชื่อมต่อ M.2 เดียวนี้ CPU ของ Pi 5 ของคุณจะจัดการระบบปฏิบัติการ ตรรกะของแอปพลิเคชัน และการประมวลผลล่วงหน้า ในขณะที่ชิป Hailo จะเข้ามาแทนที่เมื่อจำเป็นต้องเกิดการอนุมานโครงข่ายประสาทเทียม
การเชื่อมต่อ PCIe ส่งผลกระทบต่อประสิทธิภาพ
ความเร็วในการเชื่อมต่อมีความสำคัญอย่างมากที่นี่ การทดสอบแสดงอัตราเฟรมเป็นสองเท่าเมื่อใช้ PCIe Gen 3 เทียบกับ Gen 2 ในรุ่น YOLOv8s เดียวกัน (ที่มา: forums.raspberrypi.com, 2024) Pi 5 รองรับ PCIe Gen 3 x1 ซึ่งให้แบนด์วิดท์ประมาณ 1 GB/s ระหว่าง CPU และตัวเร่งความเร็ว AI- เพียงพอสำหรับงานคอมพิวเตอร์วิทัศน์ส่วนใหญ่โดยไม่มีปัญหาคอขวด
Hailo-8L บรรลุประสิทธิภาพ 3-4 TOPS ต่อวัตต์ โดยวางไว้เคียงข้างอุปกรณ์ Jetson Orin ของ Nvidia ในแง่ของประสิทธิภาพต่อดอลลาร์และประสิทธิภาพต่อวัตต์ (ที่มา: jeffgeerling.com, 2024) เมื่อคุณคำนึงถึงการใช้พลังงานที่ไม่ได้ใช้งาน 3-4W ของ Pi 5 ทั้งระบบจะใช้พลังงานน้อยกว่าที่ชาร์จโทรศัพท์ในขณะที่ประมวลผลปริมาณงาน AI
ภายใน Hailo-8L: อธิบายการเร่งความเร็วของโครงข่ายประสาทเทียม
Hailo-8L ไม่ใช่-ตัวประมวลผลวัตถุประสงค์ทั่วไป- แต่เป็น ASIC (วงจรรวมเฉพาะแอปพลิเคชัน) ที่ออกแบบมาเพื่อการใช้งานโครงข่ายประสาทเทียมอย่างมีประสิทธิภาพโดยเฉพาะ ให้คิดว่ามันเหมือนกับกราฟิกการ์ด แต่แทนที่จะเรนเดอร์รูปสามเหลี่ยม กลับได้รับการปรับให้เหมาะสมสำหรับการคูณและการบิดเมทริกซ์ที่ขับเคลื่อนโมเดล AI
ชิปใช้สถาปัตยกรรมที่เป็นกรรมสิทธิ์ของ Hailo ที่เรียกว่า "Structured ASIC" ชิปมีหน่วยฮาร์ดแวร์เฉพาะสำหรับการทำงานของโครงข่ายประสาทเทียมที่แตกต่างกัน โดยที่ไม่ต้องเจาะลึกเข้าไปในการออกแบบซิลิคอนมากเกินไป เช่น เลเยอร์แบบหมุนวน ฟังก์ชันการเปิดใช้งาน การดำเนินการรวมกลุ่ม และเลเยอร์ที่เชื่อมต่อโดยสมบูรณ์ ล้วนได้รับเส้นทางการดำเนินการที่ได้รับการปรับปรุงของตัวเอง
การอนุมานเกิดขึ้นจริงได้อย่างไร
เมื่อคุณเรียกใช้โมเดลเช่น YOLOv8 สำหรับการตรวจจับวัตถุ ต่อไปนี้เป็นขั้นตอนการทำงานที่เรียบง่าย:
กล้องของคุณจับเฟรมและส่งไปที่ CPU ของ Pi CPU จัดการการประมวลผลภาพล่วงหน้า-โดยปรับขนาดตามขนาดอินพุตของโมเดล การแปลงปริภูมิสี การปรับค่าพิกเซลให้เป็นมาตรฐาน ข้อมูลที่ประมวลผลล่วงหน้านี้จะถูกส่งผ่านบัส PCIe ไปยัง Hailo-8L ตัวเร่งความเร็วจะรันโครงข่ายประสาทเทียม โดยแสดงผลการตรวจจับแบบดิบ (กล่องขอบเขต คะแนนความมั่นใจ การทำนายคลาส) CPU ได้รับผลลัพธ์เหล่านี้และจัดการกับ-การประมวลผล-การระงับที่ไม่สูงสุดเพื่อลบการตรวจจับที่ซ้ำกัน การวาดกล่องบนรูปภาพ การอัปเดต UI ของแอปพลิเคชันของคุณ
ความงดงามของการแบ่งงานด้านแรงงานนี้ปรากฏอยู่ในเกณฑ์มาตรฐาน การทดสอบแสดงให้เห็นถึงมือที่ใช้ AI Kit และการตรวจจับจุดสังเกตที่ 26-28 เฟรมต่อวินาที ซึ่งเร็วกว่าการใช้งานรุ่น TensorFlow Lite บน CPU ของ Pi 5 เพียงอย่างเดียวถึง 5.8 เท่า (ที่มา: raspberrypi.com, 2024)
รูปแบบโมเดลที่รองรับ
Hailo-8L ไม่ทำงานรุ่น TensorFlow หรือ PyTorch มาตรฐานโดยตรง คุณต้องแปลงโมเดลของคุณโดยใช้ Dataflow Compiler ของ Hailo ซึ่งจะปรับให้เหมาะสมกับสถาปัตยกรรมของชิป กระบวนการคอมไพล์จะนำโมเดลที่ผ่านการฝึกอบรมของคุณ (โดยปกติจะเป็นรูปแบบ ONNX) และแมปโมเดลกับฮาร์ดแวร์ Hailo โดยใช้การวัดปริมาณและการปรับแต่งอื่นๆ
โมเดลที่คอมไพล์ไว้ล่วงหน้า-สำหรับสถาปัตยกรรมทั่วไปมีจำหน่ายใน Hailo Model Zoo: ResNet-50 ทำงานที่ 500 FPS, YOLOv5, YOLOv8 หลากหลายขนาด, MobileNet สำหรับการจำแนกประเภทแบบน้ำหนักเบา และแบบจำลองการประมาณค่า Pose หากคุณกำลังทำงานกับโมเดลแบบกำหนดเอง เวิร์กโฟลว์การคอมไพล์จำเป็นต้องมีการเรียนรู้บางอย่าง แต่ต้องปฏิบัติตามแนวทางปฏิบัติในการปรับใช้ AI มาตรฐาน
การใช้พลังงานและการจัดการความร้อน
ข้อมูลจำเพาะที่น่าประทับใจที่สุดอย่างหนึ่งของ AI Kit คือประสิทธิภาพการใช้พลังงาน โดยทั่วไป Hailo-8L จะดึงพลังงาน 1-2 วัตต์ในระหว่างการอนุมานแบบแอ็คทีฟ โดยจะสูงสุดประมาณ 5 วัตต์ ขึ้นอยู่กับความซับซ้อนของรุ่นและอัตราเฟรม (ที่มา: theregister.com, 2024) เมื่อรวมกับการใช้พื้นฐานของ Pi 5 คุณจะเห็นกำลังไฟของระบบทั้งหมดประมาณ 5-9 วัตต์ภายใต้เวิร์กโหลด AI

โมดูล M.2 มีฮีทซิงค์ขนาดเล็ก และในการทำงานปกติ การระบายความร้อนแบบพาสซีฟก็เพียงพอแล้ว ฉันสังเกตเห็นว่าชิปยังคงเย็นพอที่จะควบคุมปริมาณความร้อนได้ไม่เป็นปัญหาสำหรับแอปพลิเคชันคอมพิวเตอร์วิทัศน์ทั่วไป สำหรับโปรเจ็กต์แบบปิดหรือสถานการณ์โหลดสูง-อย่างต่อเนื่อง การเพิ่มพัดลมให้กับเคส Pi 5 ของคุณจะช่วยให้ทั้งตัวเร่ง CPU และ AI รักษาประสิทธิภาพสูงสุดไว้
เมื่อเปรียบเทียบกับทางเลือกอื่นเผยให้เห็นคุณค่า: Nvidia Jetson Orin Nano เริ่มต้นที่ประมาณ 249 ดอลลาร์และดึง 7-15W ภายใต้การโหลด Coral USB accelerator ของ Google มีราคา 60 ดอลลาร์ แต่ให้เพียง 4 TOPS และต้องใช้แบนด์วิดท์ USB 3.0 Intel Neural Compute Stick 2 ถูกยกเลิกการผลิตแล้ว AI Kit พบกับราคา ประสิทธิภาพ และประสิทธิภาพการใช้พลังงานที่ไม่เคยมีมาก่อนปี 2024
Software Stack: จาก OS สู่ Application
AI Kit ต้องใช้ Raspberry Pi OS (64-บิต) Bookworm หรือใหม่กว่า Hailo จัดเตรียมชุดซอฟต์แวร์ที่ประกอบด้วยไดรเวอร์เคอร์เนลสำหรับการสื่อสาร PCIe ไลบรารีรันไทม์ที่จัดการการโหลดและการอนุมานโมเดล การเชื่อมโยง Python เพื่อการรวมที่ง่ายดาย และการบูรณาการแอป rpicam- สำหรับโปรเจ็กต์ที่ใช้กล้อง
การตั้งค่าแบบจำลองแรกของคุณ
การติดตั้งใช้เวลาประมาณ 15 นาที หากคุณปฏิบัติตามคำแนะนำอย่างเป็นทางการ หลังจากแฟลชระบบปฏิบัติการและเชื่อมต่อฮาร์ดแวร์แล้ว คุณจะเรียกใช้สคริปต์การติดตั้งของ Hailo ซึ่งจะเพิ่มโมดูลเคอร์เนลและไลบรารีที่จำเป็น แพ็คเกจแอป rpicam-ได้รับการอัปเดตเพื่อรวมการสนับสนุน Hailo ไว้ด้วย ทำให้คุณเรียกใช้โมเดล AI ได้โดยตรงจากไปป์ไลน์ของกล้อง
การทดสอบด้วยการสาธิตที่รวมมาจะแสดงให้เห็นว่าระบบใช้งานได้:
rpicam-สวัสดี --โพสต์-กระบวนการไฟล์ /usr/share/rpicam-assets/hailo_yolov8_pose.json
คำสั่งนี้จะจับภาพเฟรมของกล้อง รันผ่านโมเดลการประมาณท่าทางบนชิป Hailo และแสดงผลลัพธ์แบบเรียลไทม์- อัตราเฟรมขึ้นอยู่กับความซับซ้อนของโมเดล-โมเดลที่เบากว่า เช่น YOLOv8n ที่เข้าถึง 60+ FPS ในขณะที่เวอร์ชันที่หนักกว่า เช่น YOLOv8m อาจทำงานที่ 20-30 FPS
สำหรับการพัฒนา Python ขั้นตอนการทำงานจะดูเหมือนการโทรเฉพาะของ OpenCV มาตรฐานและ Hailo{0}}:
คุณนำเข้าไลบรารี HailoRT โหลดไฟล์โมเดลที่คอมไพล์แล้ว ป้อนเฟรมที่ประมวลผลล่วงหน้าให้กับโมเดล รับผลลัพธ์การอนุมาน และประมวลผลเอาต์พุตในตรรกะของแอปพลิเคชันของคุณ API สรุปความซับซ้อนมากที่สุด แม้ว่าการทำความเข้าใจรูปแบบเทนเซอร์อินพุต/เอาท์พุตจะต้องอ่านเอกสารประกอบของโมเดลก็ตาม
ตัวอย่างการใช้งานจริง-ทั่วโลก
หลายโครงการสาธิตการใช้งาน AI Kit ที่ใช้งานได้จริง ระบบการจัดการสินค้าคงคลังค้าปลีกใช้ AI Kit ที่ทำงานบน YOLOv8n เพื่อตรวจจับผลิตภัณฑ์บนชั้นวาง ในขณะที่ EfficientNet บน CPU จะตรวจสอบการบุกรุกคลังสินค้า (ที่มา: forums.raspberrypi.com, 2024) แนวทางโมเดลคู่-แสดงวิธีที่คุณสามารถรวมการอนุมานแบบเร่งเข้ากับโมเดลที่ใช้ CPU- เมื่อจำเป็น
แอปพลิเคชันความปลอดภัยจะได้รับประโยชน์จากความสามารถแบบเรียลไทม์-ของ Kit ระบบจดจำใบหน้าจะประมวลผลวิดีโอสตรีมที่ 25-30 FPS ช่วยให้สามารถควบคุมรายการหรือบันทึกผู้เยี่ยมชมได้โดยไม่ต้องพึ่งพาระบบคลาวด์ การประมาณท่าทางทำงานเร็วเพียงพอสำหรับแอปพลิเคชันฟิตเนสที่ติดตามรูปแบบการออกกำลังกายหรือการนับจำนวนครั้ง
โครงการเฝ้าติดตามสัตว์ป่าใช้ประโยชน์จากกล้องดักที่ใช้พลังงานต่ำ-พลังงานแสงอาทิตย์- โดยการตรวจจับท่าทางและวัตถุเพื่อระบุสัตว์และพฤติกรรมของพวกมันโดยไม่ต้องเปลี่ยนแบตเตอรี่บ่อยครั้ง การผสมผสานระหว่างความเก่งกาจของ Pi และฮาร์ดแวร์-AI ที่เร่งความเร็วของฮาร์ดแวร์ ทำให้การปรับใช้ Edge ที่ไม่สามารถทำได้ก่อนหน้านี้เป็นไปได้
[คำแนะนำองค์ประกอบภาพ: แทรกไดอะแกรมที่แสดงการไหลของข้อมูลจากกล้อง → Pi CPU (การประมวลผลล่วงหน้า) → PCIe → Hailo-8L (การอนุมาน) → Pi CPU (ผลลัพธ์) → จอแสดงผล/ที่เก็บข้อมูล]
ข้อจำกัดและเมื่อใดที่จะไม่ใช้ AI Kit
Kit ทำงานได้อย่างยอดเยี่ยมในการอนุมาน แต่จะไม่ช่วยในการฝึกโมเดล-ที่ยังคงต้องใช้ GPU หรือเวิร์กสเตชันบนระบบคลาวด์ 13 TOPS อาจฟังดูน่าประทับใจ แต่ก็ไม่ใกล้เคียงกับฮาร์ดแวร์ศูนย์ข้อมูลเลย โมเดลที่ซับซ้อนหรือสตรีมการอนุมานหลายรายการพร้อมกันสามารถครอบงำตัวเร่งความเร็วได้
ความเข้ากันได้ของโมเดลต้องได้รับการดูแล คุณถูกล็อกอยู่ในสถาปัตยกรรมที่คอมไพเลอร์ของ Hailo รองรับ โมเดลที่ล้ำหน้า-จากรายงานการวิจัยอาจไม่ทำงานจนกว่า Hailo จะเพิ่มการสนับสนุนหรือคุณลงทุนเวลาในการรวบรวมแบบกำหนดเอง Model Zoo ครอบคลุมกรณีการใช้งานทั่วไปส่วนใหญ่ แต่แอปพลิเคชันพิเศษอาจต้องมีวิธีแก้ไขปัญหาชั่วคราว
เวลาแฝงมีความสำคัญสำหรับบางแอปพลิเคชัน แม้ว่า Hailo-8L จะเร็ว แต่เวลาในการส่งข้อมูลไปกลับ-ผ่าน PCIe การอนุมานที่รันอยู่ และผลลัพธ์ที่ส่งคืนจะเพิ่มเวลาสองสามมิลลิวินาทีเมื่อเทียบกับ NPU ที่ผสานรวม สำหรับหุ่นยนต์หรือระบบควบคุมแบบเรียลไทม์ที่ทุกมิลลิวินาทีมีความสำคัญ ความล่าช้าไปป์ไลน์นี้อาจมีความสำคัญ
ข้อจำกัดด้านงบประมาณส่งผลต่อคุณค่าที่นำเสนอ หากคุณเป็นเจ้าของ Pi 5 อยู่แล้ว ชุด AI มูลค่า 70 ดอลลาร์ก็ไม่ใช่เรื่องง่าย- หากคุณเริ่มต้นใหม่ คุณจะใช้จ่าย $130+ สำหรับระบบทั้งหมด (Pi 5 + AI Kit + แหล่งจ่ายไฟ + ที่เก็บข้อมูล) ซึ่ง ณ จุดนี้คู่แข่งของ Jetson Nano จะเริ่มมองหาการแข่งขันโดยขึ้นอยู่กับความต้องการด้านประสิทธิภาพของคุณ
การเปรียบเทียบข้อมูลจำเพาะของฮาร์ดแวร์
| ข้อมูลจำเพาะ | ชุด Raspberry Pi AI | Raspberry Pi AI HAT+ (13 ตัวท็อป) | Raspberry Pi AI HAT+ (26 ตัวท็อป) |
|---|---|---|---|
| ชิปเร่งความเร็ว | ไฮโล-8L | ไฮโล-8L | ไฮโล-8 |
| ผลงาน | 13 ท็อป | 13 ท็อป | 26 ท็อป |
| ราคา | $70 | $70 | $110 |
| ดึงพลัง | โดยทั่วไป 1-2W, สูงสุด 5W | ทั่วไป 1-2W | ปกติ 2.5W |
| ฟอร์มแฟกเตอร์ | M.2 2242 | M.2 2242/2280 | M.2 2242/2280 |
| วันที่วางจำหน่าย | มิถุนายน 2024 | ตุลาคม 2024 | ตุลาคม 2024 |
ตัวแปร AI HAT+ ให้ความเข้ากันได้ดีกว่ากับเคสของ Pi 5 และการออกแบบกลไกที่ได้รับการปรับปรุง แต่ให้ประสิทธิภาพที่เหมือนกันกับ Kit ดั้งเดิมที่ระดับ 13 TOPS (ที่มา: electronicsweekly.com, 2025) เวอร์ชัน 26 TOPS เพิ่มปริมาณงานเป็นสองเท่าสำหรับแอปพลิเคชันที่ต้องประมวลผลอินพุตที่มีความละเอียดสูงกว่าหรือใช้งานโมเดลที่ซับซ้อนมากขึ้น
ปัญหาและวิธีแก้ไขการตั้งค่าทั่วไป
ตรวจไม่พบ AI Kit หลังการติดตั้ง
ซึ่งมักจะบ่งบอกถึงปัญหาการแจงนับ PCIe ตรวจสอบว่าคุณเปิดใช้งาน PCIe ในไฟล์ config.txt ของ Pi และ M.2 HAT ติดตั้งอย่างแน่นหนาบนพิน GPIO ทั้งหมด การรัน lspci ควรแสดงอุปกรณ์ Hailo หากการเชื่อมต่อใช้งานได้
โมเดลทำงานช้ากว่าที่คาดไว้
ตรวจสอบว่าคุณใช้ตัวเร่งความเร็ว Hailo จริงๆ และไม่ถอยกลับไปใช้การอนุมาน CPU ตรวจสอบบันทึกเพื่อหาข้อผิดพลาดระหว่างการโหลดโมเดล ตรวจสอบให้แน่ใจว่าโมเดลของคุณได้รับการคอมไพล์อย่างถูกต้องสำหรับสถาปัตยกรรม Hailo- การพยายามเรียกใช้โมเดลที่ไม่ได้แปลงจะล้มเหลวหรือตั้งค่าเริ่มต้นเป็นการทำงานของ CPU
ระบบล่มขณะโหลด
ปัญหาเกี่ยวกับแหล่งจ่ายไฟทำให้เกิดปัญหาด้านเสถียรภาพส่วนใหญ่ Pi 5 ต้องการพลังงานขั้นต่ำ 5V/5A (27W) และชุด AI จะเพิ่มเข้าไปในข้อกำหนดดังกล่าว ใช้แหล่งจ่ายไฟ Raspberry Pi 27W อย่างเป็นทางการหรือเทียบเท่า กำลังไฟฟ้าที่ไม่เพียงพอทำให้เกิดแรงดันไฟฟ้าตกซึ่งทำให้ระบบเสียหายระหว่างการอนุมานระดับสูงสุด
การรวมกล้องไม่ทำงาน
แอป rpicam-การผสานรวม Hailo ต้องใช้เวอร์ชัน rpicam ที่เฉพาะเจาะจง อัปเดตทุกอย่างด้วยการอัปเดต sudo apt และอัปเกรด sudo apt ก่อนที่จะแก้ไขปัญหาเพิ่มเติม โมดูลกล้องบางตัวจำเป็นต้องเปลี่ยนแปลงการกำหนดค่าใน /boot/config.txt เพื่อให้ทำงานกับไปป์ไลน์ AI ได้อย่างเหมาะสมที่สุด
อนาคต-พิสูจน์การลงทุนของคุณ
การออกแบบโมดูลาร์หมายความว่าคุณสามารถอัพเกรดได้อย่างอิสระ ตอนนี้ คุณอาจใช้ชุด AI Kit มูลค่า 70 ดอลลาร์พร้อม 13 TOPS ในปีหน้า หากแอปพลิเคชันของคุณต้องการประสิทธิภาพที่มากขึ้น ให้สลับ 26 TOPS AI HAT+ ในราคา 110 ดอลลาร์โดยไม่ต้องเปลี่ยน Pi 5 สแต็กซอฟต์แวร์ยังคงใช้งานได้กับชิป Hailo-8L และ Hailo-8
Hailo ยังคงขยายสวนสัตว์จำลองและปรับปรุงการรองรับคอมไพเลอร์ต่อไป โมเดลที่ต้องเพิ่มประสิทธิภาพด้วยตนเองในเดือนมิถุนายน 2024 ขณะนี้มี-เวอร์ชันที่คอมไพล์แล้ว แนวโน้มนี้จะเพิ่มขึ้นอย่างรวดเร็วเมื่อแพลตฟอร์มเติบโตขึ้น ระบบนิเวศรอบโครงการ AI ที่ใช้ Pi- เติบโตอย่างรวดเร็ว-ฟอรัม บทช่วยสอน และเครื่องมือของบุคคลที่สาม- ทำให้การใช้งานง่ายขึ้นทุกเดือน
การอัปเดตซอฟต์แวร์นำมาซึ่งการปรับปรุงประสิทธิภาพด้วย การวัดประสิทธิภาพในช่วงแรกพบบางรุ่นที่ทำงานที่ X FPS; ไดรเวอร์และการอัปเดตเฟิร์มแวร์ที่ได้รับการปรับปรุงได้เพิ่มตัวเลขเหล่านั้นได้ 10-20% โดยไม่ต้องเปลี่ยนฮาร์ดแวร์ การอัพเดตระบบปฏิบัติการและแพ็คเกจ Hailo อยู่เสมอจะช่วยเพิ่มขีดความสามารถของ Kit ของคุณให้สูงสุด
คำถามที่พบบ่อย
Raspberry Pi AI Kit ทำงานร่วมกับ Pi รุ่นเก่าได้หรือไม่
ไม่ AI Kit ต้องใช้ Raspberry Pi 5 การเชื่อมต่อ PCIe จำเป็นสำหรับการสื่อสารแบนด์วิธสูง-ที่จำเป็นระหว่าง CPU และตัวเร่งความเร็ว Pi รุ่นก่อนหน้าขาดการรองรับ PCIe ทำให้เข้ากันไม่ได้กับสถาปัตยกรรมนี้
ฉันสามารถรันโมเดล AI หลายตัวพร้อมกันได้หรือไม่
ใช่ แต่ประสิทธิภาพขึ้นอยู่กับความซับซ้อนของโมเดลและอัตราเฟรม Hailo-8L สามารถแบ่งเวลา-ระหว่างรุ่นต่างๆ ได้ แม้ว่าการใช้รุ่นจำนวนมากพร้อมกันจะลดอัตราเฟรมแต่ละรายการ โปรเจ็กต์เชิงปฏิบัติมักจะใช้โมเดลเร่งความเร็วหนึ่งโมเดลและโมเดลที่ใช้ CPU หนึ่งโมเดลหรือมากกว่านั้นพร้อมกัน
การรวบรวมโมเดลใช้เวลานานเท่าใด?
โมเดลง่ายๆ รวบรวมได้ภายใน 5-15 นาทีบนแล็ปท็อปที่เหมาะสม โมเดลที่ซับซ้อนที่มีหลายชั้นอาจใช้เวลา 30-60 นาที คุณคอมไพล์เพียงครั้งเดียวต่อโมเดล จากนั้นปรับใช้ไฟล์ .hef ที่คอมไพล์แล้วกับ Pi ของคุณ โมเดลที่คอมไพล์ไว้ล่วงหน้าจาก Model Zoo ไม่จำเป็นต้องคอมไพล์เลย
AI Kit ทำงานได้โดยไม่ต้องเชื่อมต่ออินเทอร์เน็ตหรือไม่
อย่างแน่นอน. เมื่อคุณติดตั้งซอฟต์แวร์และคอมไพล์โมเดลของคุณแล้ว ทุกอย่างจะทำงานภายในเครื่อง ทำให้ Kit เหมาะสำหรับการใช้งาน-แอปพลิเคชันที่มีความละเอียดอ่อนด้านความเป็นส่วนตัว การใช้งานระยะไกล หรือทุกที่ที่การเข้าถึงเครือข่ายไม่น่าเชื่อถือหรือไม่พร้อมใช้งาน
ฉันสามารถฝึกโมเดลได้โดยตรงบน AI Kit ได้หรือไม่
ไม่ Hailo-8L เป็นฮาร์ดแวร์เพื่อการอนุมานเท่านั้น การฝึกอบรมจำเป็นต้องมีการปรับแต่งฮาร์ดแวร์ให้เหมาะสมและใช้พลังงานมากขึ้นอย่างมาก ขั้นตอนการทำงานทั่วไปเกี่ยวข้องกับการฝึกอบรมบน GPU บนคลาวด์หรือเวิร์กสเตชันด้วย PyTorch/TensorFlow ซึ่งแปลงเป็นรูปแบบ ONNX คอมไพล์ด้วยเครื่องมือของ Hailo จากนั้นปรับใช้โมเดลที่คอมไพล์แล้วกับ Pi ของคุณ
AI Kit และ AI HAT+ แตกต่างกันอย่างไร
AI Kit ดั้งเดิมจะรวม M.2 HAT เข้ากับโมดูล Hailo-8L ในราคา 70 ดอลลาร์ AI HAT+ เป็นบอร์ดที่ได้รับการปรับปรุงใหม่ซึ่งมีความเข้ากันได้กับเคสที่ดีขึ้น โดยมีให้เลือกทั้ง 13 TOPS Hailo-8L ($70) หรือ 26 TOPS Hailo-8 ($110) ประสิทธิภาพจะเหมือนกันที่ระดับ 13 TOPS เลือกตามความพร้อมและไม่ว่าคุณจะต้องการการออกแบบทางกายภาพที่ได้รับการปรับปรุงหรือไม่
AI Kit จัดการกับความละเอียดของภาพที่แตกต่างกันอย่างไร
ตัวเร่งความเร็วจะประมวลผลความละเอียดใดก็ตามที่โมเดลของคุณได้รับการฝึกฝน-โดยทั่วไปคือ 640x640 หรือคล้ายกันสำหรับการตรวจจับวัตถุ CPU ของคุณจัดการปรับขนาดอินพุตกล้องเพื่อให้ตรงกับขนาดที่คาดหวังของโมเดล ความละเอียดอินพุตที่สูงขึ้นต้องใช้เวลาในการประมวลผลล่วงหน้ามากขึ้น แต่จะไม่ส่งผลโดยตรงต่อความเร็วในการอนุมาน Hailo เนื่องจากขนาดอินพุตโมเดลจะคงที่
Hailo-8L เข้ากันได้กับรุ่น TensorFlow Lite หรือไม่
ไม่ใช่โดยตรง. คุณต้องแปลงโมเดล TensorFlow Lite เป็นรูปแบบ ONNX จากนั้นคอมไพล์ด้วย Dataflow Compiler ของ Hailo รองรับสถาปัตยกรรม TensorFlow Lite ทั่วไปจำนวนมาก แต่กระบวนการแปลงอาจต้องมีการปรับเปลี่ยน ขึ้นอยู่กับความซับซ้อนของโมเดลและการดำเนินการที่ใช้
ก้าวแรกของคุณ
เริ่มต้นด้วย-การสาธิตที่คอมไพล์ไว้ล่วงหน้าเพื่อทำความเข้าใจคุณลักษณะด้านประสิทธิภาพก่อนที่จะเจาะลึกเข้าไปในโมเดลที่กำหนดเอง ตัวอย่างการตรวจจับวัตถุและการประมาณท่าทางแสดงให้เห็นถึงความสามารถของ Kit โดยไม่ต้องใช้ความรู้ในการรวบรวมแบบจำลอง เมื่อคุณคุ้นเคยกับฮาร์ดแวร์แล้ว ให้ทดลองใช้โมเดลต่างๆ จาก Hailo Model Zoo เพื่อค้นหาสมดุลระหว่างความแม่นยำและความเร็วสำหรับแอปพลิเคชันของคุณ
Raspberry Pi AI Kit แสดงถึงการเปลี่ยนแปลงครั้งสำคัญในการเข้าถึง Edge AI นับเป็นครั้งแรกที่มือสมัครเล่นและนักพัฒนาขนาดเล็ก-สามารถติดตั้งระบบคอมพิวเตอร์วิทัศน์ที่ซับซ้อนพร้อมประสิทธิภาพที่ก่อนหน้านี้ต้องใช้ฮาร์ดแวร์ราคาแพงหรือการพึ่งพาระบบคลาวด์ การผสมผสานระหว่างระบบนิเวศของ Raspberry Pi และเครื่องเร่งความเร็วอันทรงประสิทธิภาพของ Hailo ทำให้เกิดความเป็นไปได้ที่ไม่มีอยู่ในหมวดหมู่ย่อย -$100 จนถึงปี 2024
ไม่ว่าคุณจะสร้างกล้องรักษาความปลอดภัยอัจฉริยะ ระบบตรวจสอบทางอุตสาหกรรม หรือทดลองกับ AI ที่ Edge ชุด AI จะมอบแรงม้าในการคำนวณเพื่อทำให้โครงการเหล่านั้นดำเนินไปได้ สถาปัตยกรรมได้รับการพิสูจน์แล้ว ซอฟต์แวร์กำลังเติบโตอย่างรวดเร็ว และชุมชนก็กำลังสร้างโซลูชันที่คุณสามารถเรียนรู้และปรับใช้ได้




