raspberry pi ai kit - บล็อก

ชุด Raspberry Pi AI ทำงานโดยการเชื่อมต่อหน่วยประมวลผลประสาทโดยเฉพาะผ่านอะแดปเตอร์ M.2 HAT+ เข้ากับอินเทอร์เฟซ PCIe ของ Raspberry Pi 5 ชุดนี้ให้การประมวลผล AI 13 เทรา-ต่อวินาทีในราคาเพียง 70 ดอลลาร์ ช่วยให้การตรวจจับวัตถุแบบเรียลไทม์ การประมาณค่าท่าทาง และการแบ่งส่วนภาพโดยไม่ล้น CPU หลัก โมดูลเร่งความเร็วแบบสแตนด์อโลนนี้จัดการการอนุมาน AI ภายในเครื่อง ทำให้ Pi 5 ของคุณสามารถรันโมเดลคอมพิวเตอร์วิทัศน์ที่ซับซ้อนซึ่งก่อนหน้านี้ต้องใช้การประมวลผลบนคลาวด์หรือฮาร์ดแวร์ราคาแพง

จังหวะเวลาของตลาดมีความสำคัญ Raspberry Pi รายงานรายได้ 259.5 ล้านเหรียญสหรัฐในปีงบประมาณ 2024 ด้วยการเปิดตัวผลิตภัณฑ์ 22 รายการซึ่งเน้นไปที่ฮาร์ดแวร์ AI และ IoT ซึ่งส่งสัญญาณถึงการเดิมพันเชิงกลยุทธ์ในด้านการประมวลผลแบบ Edge ในขณะที่ธุรกิจเปลี่ยนปริมาณงาน AI จากอุปกรณ์คลาวด์ไปยังอุปกรณ์ Edge การทำความเข้าใจว่าชุดอุปกรณ์ราคาไม่แพงนี้ทำงานอย่างไรจึงกลายเป็นสิ่งสำคัญสำหรับนักพัฒนาที่ทำงานเกี่ยวกับกล้องอัจฉริยะ หุ่นยนต์ และระบบอัตโนมัติทางอุตสาหกรรม

AI Kit ประกอบด้วยองค์ประกอบสามส่วนที่ทำงานร่วมกัน ตัวประมวลผลประสาท Hailo-8L อยู่ที่แกนหลัก ซึ่งเป็นจุดที่การคำนวณ AI เกิดขึ้นจริง โมดูลใช้ฟอร์มแฟคเตอร์ M.2 2242 และเชื่อมต่อผ่านตัวเชื่อมต่อ M key edge ตามมาตรฐานส่วนประกอบ PC

M.2 HAT+ ทำหน้าที่เป็นตัวเชื่อมระหว่างชิป Hailo และอินเทอร์เฟซ PCIe Gen 3 ของ Raspberry Pi ลองนึกถึงสิ่งนี้ในฐานะนักแปลที่แปลงสัญญาณระหว่างภาษาฮาร์ดแวร์สองภาษาที่แตกต่างกัน แผ่นระบายความร้อนมา-ติดตั้งไว้ล่วงหน้าระหว่างโมดูลและ HAT+ เพื่อป้องกันความร้อนสูงเกินไปในระหว่างการทำงานของ AI เข้มข้น-รายละเอียดนี้มีความสำคัญเนื่องจากการประมวลผลทางประสาทจะสร้างความร้อนอย่างมาก

ลำดับการเชื่อมต่อจะเป็นดังนี้: Raspberry Pi 5 → สายเคเบิล PCIe FPC → M.2 HAT+ → ชิป Hailo-8L ต่างจาก AI HAT+ รุ่นใหม่ที่รวมทุกอย่างไว้ในบอร์ดเดียว AI Kit ใช้แนวทาง M.2 แบบโมดูลาร์นี้ ทำให้คุณมีความยืดหยุ่นในการสลับพื้นที่จัดเก็บข้อมูล NVMe หากจำเป็น

ตัวเลข TOPS ไม่ได้บอกเล่าเรื่องราวทั้งหมด Hailo-8L ให้ประสิทธิภาพ 3-4 TOPS ต่อวัตต์ ซึ่งอธิบายว่าทำไมจึงมีประสิทธิภาพเทียบเท่ากับระบบที่มีราคาสูงกว่า 5 เท่า การทดสอบในโลกแห่งความเป็นจริงเผยให้เห็นข้อมูลเชิงลึกเชิงปฏิบัติมากขึ้น

เมื่อใช้การตรวจจับวัตถุ YOLOv8s บนฟีดวิดีโอ 640x640 พิกเซล Pi 5 พร้อม Hailo-8L บรรลุ 80 FPS พร้อมเปิดใช้งาน PCIe Gen 3 ซึ่งเพิ่มประสิทธิภาพเป็นสองเท่าของโหมด Gen 2 การใช้พลังงานยังคงต่ำอย่างน่าทึ่ง ระบบ Pi 5 8GB ทั้งหมดที่มีการเร่งความเร็ว Hailo ดึงพลังงานประมาณ 10W ในระหว่างการอนุมาน AI ที่ทำงานอยู่ ซึ่งเทียบได้กับที่ชาร์จโทรศัพท์ทั่วไป

การจัดการอุณหภูมิพิสูจน์ได้ว่ามีประสิทธิผลในทางปฏิบัติ การทดสอบเกณฑ์มาตรฐานของ Seeed Studio แสดงให้เห็นประสิทธิภาพที่เสถียรตลอดเซสชันที่ขยายออกไปโดยไม่มีการควบคุมปริมาณ ต้องขอบคุณโซลูชันระบายความร้อนที่ติดตั้งไว้ล่วงหน้า- สิ่งนี้แตกต่างกับการอนุมานตาม GPU- ซึ่งข้อจำกัดทางความร้อนมักกลายเป็นปัญหาคอขวด

นี่คือสิ่งที่เกิดขึ้นจริงเมื่อ Pi 5 ของคุณประมวลผลวิดีโอสดผ่าน AI Kit โมดูลกล้องจับเฟรมและส่งข้อมูลภาพดิบไปยัง CPU ของ Raspberry Pi ผ่านทางอินเทอร์เฟซ CSI CPU ดำเนินการประมวลผลล่วงหน้าเพียงเล็กน้อย-โดยปกติแล้วจะเป็นเพียงการแปลงรูปแบบและการปรับความละเอียด- ก่อนที่จะส่งข้อมูลไปยังตัวเร่งความเร็ว Hailo

raspberry pi ai kit

บัส PCIe Gen 3 ถ่ายโอนข้อมูลที่ประมวลผลล่วงหน้านี้ไปยัง Hailo-8L ด้วยความเร็วสูงถึง 8 GT/s จากนั้นตัวประมวลผลประสาทจะรันการอนุมานจริงโดยใช้สถาปัตยกรรมเฉพาะของมัน สถาปัตยกรรม Hailo-8 มี RAM ในตัวโดยไม่ต้องใช้ DRAM ภายนอก ซึ่งช่วยลดความหน่วงลงได้อย่างมากเมื่อเทียบกับเครื่องเร่งความเร็ว AI แบบดั้งเดิมที่ดึงข้อมูลจากหน่วยความจำระบบอย่างต่อเนื่อง

ผลลัพธ์จะไหลย้อนกลับผ่านการเชื่อมต่อ PCIe เดียวกัน CPU ได้รับข้อมูลที่มีโครงสร้าง-พิกัดของวัตถุ คะแนนความเชื่อมั่นในการจัดประเภท ตำแหน่งที่ตรวจพบ-ไม่ใช่พิกเซลดิบ จากนั้นสคริปต์ Python ของคุณจะตีความผลลัพธ์เหล่านี้เพื่อกระตุ้นการดำเนินการ: ส่งการแจ้งเตือน บันทึกวิดีโอ เปิดใช้งานมอเตอร์ หรืออัปเดตฐานข้อมูล

กลุ่มซอฟต์แวร์แอป rpicam-มีเลเยอร์การบูรณาการ ปัจจุบัน แอป rpicam- เป็นซอฟต์แวร์หลักที่มีการบูรณาการ Hailo ในเชิงลึก แม้ว่าจะมีการเพิ่มการรองรับ Picamera2 ก็ตาม ซึ่งหมายความว่าคุณสามารถเขียนสคริปต์ที่ส่งอินพุตของกล้องผ่านโครงข่ายประสาทเทียมได้อย่างราบรื่นด้วยโค้ดเพียงไม่กี่บรรทัด

ผมขออธิบายตัวอย่างที่เป็นรูปธรรมที่แสดงให้เห็นถึงความสามารถของชุดอุปกรณ์นี้ โครงการ VEEB ได้สร้าง "Peeper Pam" ซึ่งเป็นระบบการตรวจจับที่ขับเคลื่อนด้วย AI- ซึ่งจะแจ้งเตือนผู้ใช้เมื่อมีคนเข้าใกล้จากด้านหลังระหว่างแฮงเอาท์วิดีโอ โดยใช้การตรวจจับวัตถุเพื่อระบุตัวมนุษย์โดยไม่สนใจเฟอร์นิเจอร์และต้นไม้

การใช้งานจำเป็นต้องมีส่วนประกอบพื้นฐาน ได้แก่ Raspberry Pi 5 พร้อมชุด AI, โมดูลกล้อง 3, Raspberry Pi Pico W และโวลต์มิเตอร์แบบอะนาล็อก ระบบใช้เวลาเพียงสามวันในการพัฒนา โดยความท้าทายทางเทคนิคที่ใหญ่ที่สุดคือการใช้เว็บซ็อกเก็ตเพื่อการสื่อสารที่มีประสิทธิภาพระหว่าง Pi 5 และ Pico W.

สถาปัตยกรรมนี้แสดงให้เห็นถึงการประมวลผลแบบอัจฉริยะ Pi 5 จัดการการประมวลผล AI ทั้งหมดในพื้นที่-โดยวิเคราะห์แต่ละเฟรมสำหรับการมีอยู่ของมนุษย์ คำนวณคะแนนความเชื่อมั่น และเรียกใช้การแจ้งเตือน Pico W ที่มีน้ำหนักเบาเพียงรับฟังสัญญาณแทนที่จะโพลอย่างต่อเนื่อง ช่วยประหยัดพลังงาน และลดโอเวอร์เฮดของเครือข่าย มิเตอร์แบบอะนาล็อกให้การตอบสนองด้วยภาพทันที โดยเปลี่ยนจาก 0 (ตรวจไม่พบบุคคล) ไปเป็น 1 (การตรวจจับบางอย่าง) โดยมีการไล่ระดับความไม่แน่นอน

โปรเจ็กต์นี้ใช้พลังงานทั้งหมดประมาณ 12-15W รวมกล้อง ซึ่งน้อยกว่าโซลูชันบนระบบคลาวด์ที่เทียบเคียงได้อย่างมาก ซึ่งต้องใช้การสตรีมวิดีโออย่างต่อเนื่อง การประมวลผลในเครื่องยังช่วยขจัดข้อกังวลด้านความเป็นส่วนตัวเนื่องจากไม่มีภาพใดหลุดออกจากอุปกรณ์

การทำให้ AI Kit ใช้งานได้นั้นเกี่ยวข้องกับห้าขั้นตอนที่แตกต่างกัน แต่ละขั้นตอนมีข้อกำหนดเฉพาะและข้อผิดพลาดทั่วไปที่ควรหลีกเลี่ยง

ขั้นตอนที่ 1: การประกอบฮาร์ดแวร์

เริ่มต้นด้วย Raspberry Pi 5 ที่ใช้ระบบปฏิบัติการ Raspberry Pi 64 บิตล่าสุด แนบ M.2 HAT+ เข้ากับส่วนหัว GPIO เพื่อให้แน่ใจว่ามีการจัดตำแหน่งที่เหมาะสม เชื่อมต่อสายเคเบิล PCIe FPC เข้ากับทั้ง Pi และ HAT+- สายเคเบิลมีการวางแนวเฉพาะ และการบังคับไม่ถูกต้องจะทำให้ขั้วต่อเสียหาย ยึดโมดูล Hailo-8L เข้ากับช่อง M.2 ด้วยตัวกั้นที่ให้มา

ขั้นตอนที่ 2: เปิดใช้งาน PCIe Gen 3

Pi 5 มีค่าเริ่มต้นเป็น PCIe Gen 2 เพื่อความเสถียร แก้ไข /boot/firmware/config.txt และเพิ่ม dtparam=pciex1_gen=3. การเปลี่ยนแปลงเพียงครั้งเดียวนี้จะทำให้ประสิทธิภาพการอนุมานของคุณเพิ่มขึ้นเป็นสองเท่า รีบูตและตรวจสอบด้วย lspci -vv|grep "LnkSta:" เพื่อยืนยันว่า Gen 3 ใช้งานได้

ขั้นตอนที่ 3: การติดตั้งซอฟต์แวร์

ติดตั้งชุดซอฟต์แวร์ Hailo: sudo apt update และ sudo apt install hailo-all แพ็คเกจนี้ประกอบด้วยรันไทม์ HailoRT, แอป rpicam- ที่รองรับ Hailo และตัวอย่างโมเดลโครงข่ายประสาทเทียม การติดตั้งต้องใช้พื้นที่ดิสก์ประมาณ 2GB และใช้เวลาประมาณ 10-15 นาทีสำหรับการเชื่อมต่อบรอดแบนด์ทั่วไป

ขั้นตอนที่ 4: การทดสอบการยืนยัน

เรียกใช้การสาธิตการตรวจจับวัตถุที่รวมอยู่: rpicam-hello -t 0 --โพสต์-กระบวนการ-file /usr/share/rpi-กล้อง-assets/hailo_yolov6_inference.json คุณควรเห็นการตรวจจับวัตถุแบบเรียลไทม์-โดยมีกรอบล้อมรอบรายการที่ตรวจพบ อัตราเฟรมที่สูงกว่า 60 FPS บ่งชี้ถึงการทำงานของ Gen 3 ที่เหมาะสม

ขั้นตอนที่ 5: การปรับใช้โมเดลแบบกำหนดเอง

สำหรับโมเดลที่ได้รับการฝึกของคุณเอง ให้ใช้ Hailo Dataflow Compiler เพื่อแปลงโมเดล TensorFlow หรือ PyTorch เป็นรูปแบบ HEF ของ Hailo คอมไพลเลอร์จะจัดการการหาปริมาณและการเพิ่มประสิทธิภาพโดยอัตโนมัติ แม้ว่าคุณจะต้องมีตัวอย่างชุดข้อมูลตัวแทนสำหรับการสอบเทียบก็ตาม ปรับใช้ไฟล์ .hef ที่เป็นผลลัพธ์และรวมเข้ากับไปป์ไลน์แอป rpicam-

ตลาดชิป AI ที่ล้ำสมัยกำลังประสบกับการเติบโตอย่างรวดเร็ว ตลาดชิป AI ทั่วโลกมีมูลค่าถึง 123.16 พันล้านดอลลาร์ในปี 2567 และคาดว่าจะมีมูลค่าถึง 311.58 พันล้านดอลลาร์ภายในปี 2572 โดยเติบโตที่ CAGR 24.4% นี่ไม่ใช่แค่ตัวเลขที่มากขึ้นเท่านั้น- แต่ยังแสดงถึงการเปลี่ยนแปลงขั้นพื้นฐานในที่ที่การประมวลผล AI เกิดขึ้น

Hailo ซึ่งเป็นบริษัทที่อยู่เบื้องหลังชิปเร่งความเร็ว ได้รับการตรวจสอบความถูกต้องที่สำคัญ สตาร์ทอัพระดมทุนได้ 120 ล้านดอลลาร์ในเดือนเมษายน 2024 และปัจจุบันให้บริการลูกค้ามากกว่า 300 รายในภาคยานยนต์ การรักษาความปลอดภัย การค้าปลีก และระบบอัตโนมัติทางอุตสาหกรรม ความอยู่รอดของพวกเขาในตลาดที่สตาร์ทอัพชิป AI จำนวนมากล้มเหลวบ่งบอกถึงความมีชีวิตของโซลูชันที่มุ่งเน้นที่ Edge{5}}

raspberry pi ai kit

ภาพรวมการแข่งขันเน้นย้ำถึงข้อดีข้อเสียที่น่าสนใจ Hailo-10H มอบประสิทธิภาพ INT4 ที่ 40 TOPS เทียบเท่ากับ 20 TOPS ของ INT8 เมื่อเทียบกับ Core Ultra Meteor Lake NPU ของ Intel ที่ 11 TOPS และ Ryzen 8040 ของ AMD ที่ 16 TOPS อย่างไรก็ตาม บริษัทชิปในสหรัฐฯ ระดมทุนได้เพียง 881 ล้านดอลลาร์ในช่วงเดือนมกราคมถึงกันยายน 2566 ลดลงจาก 1.79 พันล้านดอลลาร์ในปี 2565 ซึ่งแสดงให้เห็นถึงสภาพแวดล้อมในการระดมทุนที่ท้าทายที่ทำให้ความสำเร็จของ Hailo โดดเด่น

สำหรับระบบนิเวศของ Raspberry Pi โดยเฉพาะ AI และ IoT คาดว่าจะกระตุ้นยอดขายอุปกรณ์เสริมเพิ่มขึ้น 15-20% ต่อปี-ต่อปีจนถึงปี 2026 AI Kit แสดงถึงการเข้าสู่ตลาดของ Raspberry Pi ที่สามารถใช้ประโยชน์จากฐานผู้ใช้ขนาดใหญ่และเครือข่ายการจัดจำหน่ายกับคู่แข่งที่เชี่ยวชาญได้

ความเข้าใจผิด: "13 TOPS หมายถึงรันโมเดล AI ใดก็ได้"

ความจริงเกี่ยวข้องกับความแตกต่างที่สำคัญ Hailo-8L เป็นเลิศในด้านโครงข่ายประสาทเทียมสำหรับการตรวจจับการมองเห็นและวัตถุของคอมพิวเตอร์ การแบ่งส่วน และการประมาณค่าท่าทาง มีปัญหากับโมเดลภาษาขนาดใหญ่เนื่องจากชิปไม่มี VRAM ที่เพียงพอสำหรับการอนุมาน LLM ตัวเลข 13 TOPS ใช้กับการทำงานของ INT8 ในขณะที่หม้อแปลงหลายรุ่นคาดหวังความแม่นยำของ FP16 หรือ FP32

ความเข้าใจผิด: "มันเป็นเพียง GPU ที่เร็วกว่า"

ตัวเร่งประสาทใช้สถาปัตยกรรมที่แตกต่างกันโดยพื้นฐาน GPU เป็นไปตามการออกแบบการประมวลผลแบบขนานสำหรับวัตถุประสงค์ทั่วไป- ทำให้มีความยืดหยุ่นแต่มีประสิทธิภาพน้อยลง สถาปัตยกรรมกระแสข้อมูลของ Hailo-8 ใช้ประโยชน์จากคุณสมบัติโครงข่ายประสาทเทียมโดยเฉพาะ ซึ่งช่วยลดการพึ่งพา DRAM ภายนอก ความเชี่ยวชาญพิเศษนี้ช่วยให้ประหยัดพลังงานได้ดีกว่าโซลูชัน GPU ถึง 20 เท่าสำหรับงานเฉพาะ แต่ยังหมายถึงความยืดหยุ่นน้อยลงสำหรับเวิร์กโหลดที่ไม่ใช่ AI

ความเข้าใจผิด: "เสียบปลั๊ก-และ-เล่นกับกล้องใดก็ได้"

แม้ว่าชุดนี้จะรองรับกล้องหลายตัว แต่การบูรณาการต้องอาศัยการสนับสนุนซอฟต์แวร์เฉพาะ ในตอนแรก มีเพียงแอป rpicam- เท่านั้นที่นำเสนอการผสานรวม Hailo ในเชิงลึก แม้ว่าการสนับสนุน Picame2 จะเกิดขึ้นในภายหลังก็ตาม เว็บแคม USB ทำงานได้ แต่ต้องใช้เส้นทางโค้ดที่แตกต่างกัน กล้อง MIPI CSI ให้การผสานรวมที่แน่นหนาที่สุด แต่คุณจะต้องตรวจสอบความเข้ากันได้กับกล้องรุ่นเฉพาะของคุณ

ความเข้าใจผิด: "ขนาดแบตช์ที่มากขึ้นย่อมเท่ากับประสิทธิภาพที่ดีขึ้นเสมอ"

การทดสอบเผยให้เห็นข้อจำกัดที่น่าสนใจ ประสิทธิภาพดีขึ้นจากขนาดแบตช์ 2 (80 FPS) ถึงขนาดแบตช์ 8 (120 FPS) แต่ลดลงเหลือ 100 FPS ที่ขนาดแบตช์ 16 เนื่องจากข้อจำกัดแบนด์วิดท์ของ PCIe สิ่งนี้ชี้ให้เห็นว่าอินเทอร์เฟซ PCIe Gen 3 x1 ของ Pi 5 กลายเป็นคอขวดที่มีแบทช์ใหญ่กว่า ไม่ใช่ตัวประมวลผลประสาทเอง

ไม่มีประสิทธิภาพในรูปแบบปัจจุบัน Hailo-8L ไม่มีความจุหน่วยความจำสำหรับรุ่นภาษาขนาดใหญ่ ซึ่งโดยทั่วไปต้องใช้ RAM เฉพาะขนาด 4-16GB สำหรับน้ำหนักรุ่นเท่านั้น อย่างไรก็ตาม โมเดลเชิงปริมาณที่มีขนาดเล็กกว่าภายใต้พารามิเตอร์ 1B อาจทำงานโดยมีข้อจำกัดด้านประสิทธิภาพที่สำคัญ โปรเจ็กต์ Llama แบบกระจายสาธิตการทำงาน LLaMA 3 8B บน Pi 4 สี่ยูนิตที่ 1.6 โทเค็นต่อวินาที แม้ว่าการดำเนินการนี้จะไม่ได้ใช้ประโยชน์จากการเร่งความเร็วของ AI Kit ก็ตาม

AI Kit ใช้โมดูล M.2 ที่เสียบเข้ากับบอร์ดอะแดปเตอร์ M.2 HAT+ AI HAT+ รวมชิป Hailo เข้ากับบอร์ด HAT เต็มรูปแบบโดยตรง และมีให้เลือก 13 TOPS ($70) และ 26 TOPS ($110) รุ่น 26 TOPS ใช้ Hailo-8 แทน Hailo-8L ทั้งสองใช้ซอฟต์แวร์และไลบรารีที่เหมือนกัน ดังนั้นการเลือกระหว่างทั้งสองนั้นขึ้นอยู่กับว่าคุณต้องการสล็อต M.2 เพื่อวัตถุประสงค์อื่นหรือไม่

ต่ำลงอย่างมาก ระบบ Pi 5 ที่สมบูรณ์พร้อมการอนุมาน AI ที่ใช้งานอยู่จะใช้เวลาประมาณ 10W หรือประมาณ 240Wh ต่อวันหากทำงานอย่างต่อเนื่อง การอนุมานบนคลาวด์จะต้องมีการสตรีมวิดีโออย่างต่อเนื่อง (อัปโหลด 2-4Mbps) บวกกับการเรียก API สำหรับการประมวลผล ซึ่งโดยทั่วไปจะใช้ต้นทุนแบนด์วิดท์และพลังงานที่ศูนย์ข้อมูลมากกว่า สำหรับแอปพลิเคชันกล้องรักษาความปลอดภัยทุกวันตลอด 24 ชั่วโมง การประมวลผลในเครื่องสามารถประหยัดค่าธรรมเนียมแบนด์วิธและ Cloud API ได้ 20-40 เหรียญต่อเดือน

ไม่ได้โดยตรงบน Pi 5 เดียวซึ่งมีอินเทอร์เฟซ PCIe เพียงอินเทอร์เฟซเดียว อย่างไรก็ตาม Jeff Geerling สาธิตการเชื่อมต่อตัวเร่งความเร็วหลายตัวโดยใช้สวิตช์ PCIe และบอร์ดขยาย ทำให้มียอดรวม 51 TOPS ในชิป Hailo และ Coral ต่างๆ แม้ว่าการกำหนดค่านี้จะไม่รองรับอย่างเป็นทางการและต้องใช้แหล่งจ่ายไฟภายนอก

ขึ้นอยู่กับความซับซ้อนของโมเดลและความละเอียดอินพุตของคุณ YOLOv8 ที่ความละเอียด 640x640 บรรลุ 80-120 FPS ขึ้นอยู่กับขนาดแบตช์ โมเดลที่เรียบง่ายกว่าเช่น MobileNet สามารถเข้าถึง 200+ FPS รุ่นที่หนักกว่าเช่น YOLOv8x อาจลดลงเหลือ 30-40 FPS สำหรับการเปรียบเทียบ การมองเห็นของมนุษย์รับรู้การเคลื่อนไหวได้อย่างราบรื่นที่ 24-30 FPS ดังนั้นแอปพลิเคชันแบบเรียลไทม์ส่วนใหญ่จึงมีประสิทธิภาพการทำงานที่สะดวกสบาย

ขั้นตอนการฝึกอบรมเกิดขึ้นบนคอมพิวเตอร์เดสก์ท็อปหรืออินสแตนซ์ระบบคลาวด์ของคุณโดยใช้เวิร์กโฟลว์ TensorFlow หรือ PyTorch มาตรฐาน- ซึ่งชิป Hailo ไม่เข้าร่วมในการฝึกอบรม กระบวนการแปลงจำเป็นต้องเรียนรู้ Hailo Dataflow Compiler ซึ่งมีช่วงการเรียนรู้แต่รวมเอกสารประกอบที่ครอบคลุม รอประมาณ 2-3 วันในการทำให้โมเดลแบบกำหนดเองตัวแรกของคุณทำงานได้ หากคุณคุ้นเคยกับการฝึกอบรมโครงข่ายประสาทเทียมอยู่แล้ว คอมไพลเลอร์จะจัดการการหาปริมาณโดยอัตโนมัติ แม้ว่าคุณจะต้องมีชุดข้อมูลการสอบเทียบที่เป็นตัวแทนก็ตาม

AI Kit กำหนดเป้าหมายไปที่อินเทอร์เฟซ PCIe และฟอร์มแฟคเตอร์ของ Raspberry Pi 5 โดยเฉพาะ อย่างไรก็ตาม โมดูล Hailo-8L M.2 ที่เป็นส่วนประกอบนั้นเป็นส่วนประกอบมาตรฐาน อุปกรณ์ต่างๆ เช่น reComputer R1000 ของ Seeed Studio พร้อมช่อง M.2 สามารถรองรับโมดูล Hailo ได้ แม้ว่าคุณจะต้องพอร์ตสแต็กซอฟต์แวร์ก็ตาม SBC อื่นๆ ที่มีสล็อต M.2 (Rock 5B, Orange Pi 5) สามารถทำงานได้ในทางทฤษฎี แต่ต้องใช้ความพยายามในการผสานรวมซอฟต์แวร์อย่างมาก

ชุมชนได้สร้างแอปพลิเคชั่นที่หลากหลาย โครงการต่างๆ ได้แก่ เครื่องจ่ายยาอัจฉริยะที่ใช้การจดจำวัตถุ กล้องสัตว์ป่าพร้อมการระบุสายพันธุ์ และการแจ้งเตือนบนโต๊ะรกที่นับวัตถุ การประมาณท่าทางทำให้แอปพลิเคชันติดตามการออกกำลังกายสามารถติดตามรูปแบบการออกกำลังกายและนับจำนวนครั้งซ้ำได้ ผู้ใช้ในอุตสาหกรรมปรับใช้ชุดเครื่องมือสำหรับการตรวจสอบการควบคุมคุณภาพ การนับผลิตภัณฑ์บนสายพานลำเลียง และการตรวจจับการละเมิดด้านความปลอดภัยในฟีดวิดีโอแบบเรียลไทม์-

Raspberry Pi AI Kit โดดเด่นในสถานการณ์เฉพาะ เหมาะอย่างยิ่งเมื่อคุณต้องการ-คอมพิวเตอร์วิทัศน์แบบเรียลไทม์โดยใช้พลังงานจากแบตเตอรี่หรือในสภาพแวดล้อมแบบฝังซึ่งการเชื่อมต่อระบบคลาวด์ไม่น่าเชื่อถือ กริ่งประตูอัจฉริยะ กล้องถ่ายภาพสัตว์ป่า ระบบตรวจสอบทางอุตสาหกรรม และแอปพลิเคชันหุ่นยนต์แสดงถึงจุดที่น่าสนใจ-งานที่ต้องการการประมวลผล AI อย่างต่อเนื่องโดยมีข้อกำหนดด้านเวลาแฝงที่จำกัดและงบประมาณด้านพลังงาน

พิจารณาทางเลือกอื่นเมื่อความต้องการของคุณแตกต่างออกไป หากคุณสนใจ LLM หรือการประมวลผลภาษาธรรมชาติเป็นหลัก คุณจะต้องมีฮาร์ดแวร์ที่แตกต่างกัน- ซึ่งอาจเป็น GPU บนเดสก์ท็อปหรือการเข้าถึง Cloud API สำหรับงาน AI เป็นครั้งคราวซึ่งเวลาแฝงไม่สำคัญ บริการคลาวด์อาจพิสูจน์ได้ว่าคุ้มค่ากว่า-แม้จะมีต้นทุนต่อ-การอนุมานที่สูงขึ้นก็ตาม

จุดราคา 70 ดอลลาร์ทำให้ชุดอุปกรณ์เป็นแพลตฟอร์มการทดลองซึ่งมีราคาไม่แพงเพียงพอสำหรับการเรียนรู้ แต่ยังทรงพลังเพียงพอสำหรับการผลิตต้นแบบ ด้วยการเน้นเชิงกลยุทธ์ของ Raspberry Pi ในด้านความสามารถของ AI และการเปิดตัวผลิตภัณฑ์ 22 รายการในปี 2567 ระบบนิเวศของซอฟต์แวร์จะยังคงเติบโตต่อไป ทำให้การลงทุนมีคุณค่ามากขึ้นเมื่อเวลาผ่านไป

กำหนดงบประมาณเพิ่มเติม 100-150 ดอลลาร์สำหรับส่วนประกอบที่รองรับ: แหล่งจ่ายไฟที่มีคุณภาพ โมดูลกล้อง เคสพร้อมระบบระบายความร้อน และการ์ด microSD ที่มีระดับความเร็วเพียงพอ ต้นทุนรวมของระบบที่ 200-250 ดอลลาร์ยังคงต่ำกว่าระบบกล้อง AI เชิงพาณิชย์ถึง 50-70% ขณะเดียวกันก็ให้อิสระในการปรับแต่งได้อย่างสมบูรณ์

แนวทางของตลาด Edge AI บ่งชี้ว่าขณะนี้เป็นเวลาเชิงกลยุทธ์ในการสร้างทักษะด้วยเครื่องมือเหล่านี้ ไม่ว่าคุณจะเป็นนักเรียนที่กำลังสำรวจทางเลือกอาชีพ ผู้ผลิตผลิตภัณฑ์ต้นแบบ หรือวิศวกรที่ประเมินเทคโนโลยีสำหรับการใช้งานทางอุตสาหกรรม การทำความเข้าใจวิธีการทำงานของ Raspberry Pi AI Kit มอบประสบการณ์ตรง-กับสถาปัตยกรรมการประมวลผลที่จะขับเคลื่อนอุปกรณ์อัจฉริยะในทศวรรษหน้า

ชุดราสเบอร์รี่ pi ai

ชุดราสเบอร์รี่ pi ai ทำงานอย่างไร

ภายในฮาร์ดแวร์: สถาปัตยกรรมทางกายภาพ

ตัวชี้วัดประสิทธิภาพที่สำคัญจริงๆ

กระแสข้อมูล: จากกล้องไปจนถึงผลลัพธ์การอนุมาน

การใช้งานจริง-ทั่วโลก: เคสกล้องรักษาความปลอดภัยอัจฉริยะ

ขั้นตอน-ทีละ-กระบวนการตั้งค่าขั้นตอน

บริบทของตลาด: เหตุใดการเร่งความเร็วของ Edge AI จึงมีความสำคัญในขณะนี้

ความเข้าใจผิดทั่วไปเกี่ยวกับ AI Kit

คำถามที่พบบ่อย

AI Kit สามารถรัน ChatGPT หรือ LLM ที่คล้ายกันได้หรือไม่

AI Kit และ AI HAT+ แตกต่างกันอย่างไร

การใช้พลังงานเปรียบเทียบกับการอนุมานบนคลาวด์เป็นอย่างไร

ฉันสามารถใช้ชุด AI หลายชุดกับ Raspberry Pi 5 เครื่องเดียวได้หรือไม่

ฉันควรคาดหวังอัตราเฟรมเท่าใดสำหรับแอปพลิเคชันแบบเรียลไทม์-

การฝึกโมเดลแบบกำหนดเองนั้นยากแค่ไหน?

ใช้งานได้กับคอมพิวเตอร์บอร์ดเดี่ยว-เครื่องอื่นหรือไม่

จริงๆ แล้วผู้คนกำลังสร้างโครงการอะไรอยู่?

การตัดสินใจของคุณ: เมื่อชุด AI สมเหตุสมผล