[0차시] Raspberry Pi AI HAT+ Hailo-8 알아보기

서론

라즈베리파이 AI HAT+ 를 설치한 모습

제가 최근에 라즈베리파이 AI HAT+를 사용해 볼 기회가 생겼습니다.

이 글에서는 라즈베리파이 Hailo 개발환경을 구축하고 예제 코드를 실행해보도록 하겠습니다.

개발환경을 구축하기 전에 앞서서, Hailo에 대해 소개를 해보도록 하겠습니다.

Hailo 란?

회사 소개

Hailo는 엣지에서 고급 머신 러닝 애플리케이션을 실행하도록 설계된 최고 성능의 AI 프로세서를 생산하는 선도적 제조업체입니다.

AI 가속기 소개

Hailo-8과 Hailo-8L은 Hailo 기업에서 제작한 엣지 디바이스(Edge Device) 전용 칩셋입니다.

Hailo-8

- 초당 26TOPS

- 전력 소모량이 2.5W로 저전력

- 엣지 디바이스에서 실시간, 저지연 및 고효율 추론

Hailo-8L 소개

- 초당 13TOPS

- 전력 소모량이 1.5W로 저전력

※ 엣지 AI는 로컬에서 데이터를 처리하고 분석하는 기술입니다.

기타

주로 엣지 디바이스에서 CNN(Convolutional Neural Network) 기반의 추론을 최적화 하는데 특화되어있습니다.

FP16(딥러닝 추론) 및 INT8(양자화된 추론) 연산을 지원하며, LLM같은 모델에서 필요한 FP32(딥러닝 학습) 연산은 지원하지 않습니다.

이에 관한 이야기는 추후 풀어보도록 하겠습니다.

응용

자동차 ADAS, 보안, 산업 자동화, 쇼핑 마케팅 등에서 사용 가능합니다.

---

개발환경 구축

라즈베리파이 5에 AI HAT+ 를 연결하고, 라즈베리파이OS를 설치하였다는 전제로 글을 작성하겠습니다.

공식 문서를 참고하였습니다.

설치하기

1. 먼저, Raspberry Pi가 최신 소프트웨어를 실행하는지 확인하세요. 다음 명령을 실행하여 업데이트하세요.

$ sudo apt update && sudo apt full-upgrade

2. 다음으로, Raspberry Pi 펌웨어가 최신 상태인지 확인하세요. 다음 명령을 실행하여 실행 중인 펌웨어를 확인하세요.

$ sudo rpi-eeprom-update

2023년 12월 6일 또는 그 이후 날짜가 표시되면 다음 단계로 진행합니다. 2023년 12월 6일 이전 날짜가 표시되면 다음 명령을 실행하여 Raspberry Pi Configuration CLI를 엽니다.

$ sudo raspi-config

Advanced Options 에서 Bootloader Version에서 Latest을 선택합니다. 그런 다음 Finish 또는 Esc 키로 raspi-config를 종료합니다.

다음 명령을 실행하여 펌웨어를 최신 버전으로 업데이트하세요.

$ sudo rpi-eeprom-update -a

그런 다음 sudo reboot로 재부팅합니다.

3. 설치를 시작하기 전에 Raspberry Pi의 전원을 분리하세요.

4. 최상의 성능을 위해 AI HAT+를 Raspberry Pi Active Cooler와 함께 사용하는 것이 좋습니다. Active Cooler가 있는 경우 AI HAT+를 설치하기 전에 설치하세요.

5. 제공된 나사 4개를 사용하여 스페이서를 설치합니다. Raspberry Pi GPIO 핀 위에 GPIO 스태킹 헤더를 단단히 누릅니다. 모든 핀이 제자리에 맞는다면 방향은 중요하지 않습니다. AI HAT+에서 리본 케이블을 분리하고 다른 쪽 끝을 Raspberry Pi의 PCIe 포트에 삽입합니다. 리본 케이블 홀더를 양쪽에서 들어 올린 다음 구리 접촉점이 안쪽을 향하고 USB 포트를 향하도록 케이블을 삽입합니다. 리본 케이블이 PCIe 포트에 완전히 고르게 삽입되면 케이블 홀더를 양쪽에서 아래로 눌러 리본 케이블을 제자리에 단단히 고정합니다.

6. AI HAT+를 스페이서 위에 놓고 남은 4개의 나사를 사용하여 제자리에 고정합니다.

7. 리본 케이블을 AI HAT+의 슬롯에 삽입합니다. 리본 케이블 홀더를 양쪽에서 들어올린 다음 구리 접촉점이 위를 향하게 하여 케이블을 삽입합니다. 리본 케이블을 포트에 완전히 고르게 삽입한 후 케이블 홀더를 양쪽에서 아래로 눌러 리본 케이블을 제자리에 단단히 고정합니다.

8. 그 다음으로 라즈베리파이 터미널 창을 열어 hailo 프로그램을 설치합니다. 다음 명령을 실행하여 설치 하세요.

$ sudo apt install hailo-all

다음 종속성이 설치됩니다.

- Hailo 커널 장치 드라이버 및 펌웨어

- HailoRT 미들웨어 소프트웨어

- Hailo Tappas 핵심 후처리 라이브러리

- Hailo rpicam-apps 후처리 소프트웨어 데모 단계

9.모든 것이 올바르게 실행되는지 확인하려면 다음 명령을 실행하세요.

$ hailortcli fw-control identify

다음과 유사한 출력이 표시되면 NPU와 해당 소프트웨어 종속성이 성공적으로 설치되었습니다.

Executing on device: 0000:01:00.0
Identifying board
Control Protocol Version: 2
Firmware Version: 4.17.0 (release,app,extended context switch buffer)
Logger Version: 0
Board Name: Hailo-8
Device Architecture: HAILO8L
Serial Number: HLDDLBB234500054
Part Number: HM21LB1C2LAE
Product Name: HAILO-8L AI ACC M.2 B+M KEY MODULE EXT TMP

AI HAT+ 기기는 Serial Number, Part Number, Product Name 을 <N/A>표시 할 수 있습니다. 이는 예상된 것이며 기능에 영향을 미치지 않습니다.

---

예제 다운로드

터미널 창을 열고 다음 명령어를 입력하세요.

$ git clone https://github.com/hailo-ai/hailo-rpi5-examples.git

설치된 경로로 이동합니다.

$ cd hailo-rpi5-examples

자동 설치 스크립트를 실행합니다.

$ ./install.sh

---

예제 실행하기

새 터미널 세션을 열 때 환경 설정 스크립트를 소스했는지 확인하세요.

$ source setup_env.sh

2025년 3월 31일 기준 예제는 5개가 있습니다.
실행을 종료하려면 터미널 창에서 ctrl+c 를 입력하거나 비디오 창을 닫으면 종료됩니다.

---

간단한 감지 예제를 실행합니다.

yolov6 nano 모델을 사용합니다.

$ python basic_pipelines/detection_simple.py

---

전체 감지 예제를 실행합니다.

$ python basic_pipelines/detection.py

라즈베리파이 카메라 사용하기

$ python basic_pipelines/detection.py --input rpi

USB 웹캠 사용하기

$ python basic_pipelines/detection.py --input usb

여러 개가 연결된 경우 먼저 감지된 카메라를 사용합니다.

---

포즈 추정 예제를 실행합니다.

python basic_pipelines/pose_estimation.py

---

인스턴스 세분화 예제를 실행합니다.

python basic_pipelines/instance_segmentation.py

---

깊이 추정 예제를 실행합니다.

python basic_pipelines/depth.py

---

링크 모음

https://www.devicemart.co.kr/goods/view?no=15583914

라즈베리파이 AI HAT+ 26TOPS (Raspberry Pi AI HAT+ Hailo-8)

 

https://www.raspberrypi.com/documentation/accessories/ai-hat-plus.html

AI HAT+ - Raspberry Pi Documentation

 

https://www.raspberrypi.com/documentation/computers/ai.html

AI Kit and AI HAT+ software - Raspberry Pi Documentation

 

https://github.com/hailo-ai/hailo-rpi5-examples

GitHub - hailo-ai/hailo-rpi5-examples

 

https://github.com/hailo-ai/hailo_model_zoo

GitHub - hailo-ai/hailo_model_zoo: The Hailo Model Zoo includes pre-trained models and a full building and evaluation environmen