기술 취미가 및 산업용 기업 사이에서 인기를 얻고 있는 소형 강력한 컴퓨터인 [장치 이름]의 최신 버전이 이제 AI 컴퓨팅 환경을 구축할 수 있게 되었습니다. 이 회사는 화요일, 라즈베리파이 5용으로 로컬 추론(local inferencing)에 사용할 수 있는 신경망 추론 가속기가 포함된 70달러짜리 확장 키트인 'AI Kit'을 출시했습니다.
이 새로운 확장 모듈을 위해 라즈베리파이는 HAT+ 확장 카드를 활용합니다. HAT은 "Hardware Attached on Top"의 약자로, 회사가 기존 라즈베리파이에 부착하는 모든 확장 카드에 사용해 온 이름입니다.
HAT+ 확장 카드에는 PC 부품에서 일반적으로 사용되는 표준 확장 슬롯인 M.2 슬롯이 추가됩니다. 세부적인 정보에 관심 있는 독자들을 위해 알려드리자면, 이 슬롯은 8Gbps로 작동하는 싱글레인 PCIe 3.0 인터페이스를 통해 라즈베리파이에 연결됩니다.
이 키트의 파트너사는 최근 1억 2천만 달러를 유치하며 엔비디아에 도전장을 내민 AI 칩 스타트업인 Hailo입니다. Hailo는 차량, 스마트 카메라, 로봇 공학, 그리고 이제 라즈베리파이 장치와 같은 엣지 디바이스에서 AI 워크로드를 실행하도록 설계된 칩을 전문으로 합니다.
라즈베리파이가 AI Kit에 사용한 가속기 모듈은 'Hailo-8L'입니다. 이는 M.2 폼 팩터의 엔트리 레벨 모듈로, HAT+에 쉽게 플러그인할 수 있습니다.
이 모든 것을 설치하면, 13 테라 연산/초(TOPS)의 추론 성능을 갖춘 라즈베리파이 5를 얻게 됩니다. 이는 엔비디아 GPU와 비교했을 때는 적은 수치일 수 있으나, 비용 효율적이며 라즈베리파이의 기본 27W 전원 공급 장치와 함께 구동될 수 있습니다.
소프트웨어 측면에서도 진전이 있었습니다. 최신 버전의 라즈베리파이 OS는 Hailo 모듈을 자동으로 감지하여 운영 체제 및 해당 기능을 활용하는 애플리케이션에서 즉시 사용할 수 있습니다.
라즈베리파이는 또한 카메라 파이프라인의 일부로 신경망 추론을 지원하도록 카메라 애플리케이션 제품군도 업데이트했습니다. 예를 들어, 객체 감지("이것은 자동차입니다"), 시맨틱 분할("이 세 가지는 움직이는 차량입니다"), 인스턴스 분할("이 세 움직이는 차량은 트럭, 빨간 자동차, 파란 자동차입니다"), 자세 추정, 얼굴 랜드마킹 등에 활용될 수 있습니다.
이것들은 AI 키트와 공식 또는 타사 카메라를 장착한 라즈베리파이로 구현할 수 있는 몇 가지 예시에 불과합니다. 하지만 Hailo 칩은 카메라 외의 다양한 사용 사례에도 활용될 수 있습니다.
라즈베리파이 커뮤니티가 이 키트를 활용하여 어떤 새로운 용도를 창출할지 기대됩니다. 이 AI 확장 키트는 기본적으로 '도구'이며, 이제 라즈베리파이의 고객들이 이 도구로 무엇을 만들어낼지는 사용자들에게 달린 문제입니다.
헤드라인: Hailo, 대부분의 AI 칩 스타트업들이 난항을 겪는 가운데 엔비디아와의 경쟁을 이어가기 위해 1억 2천만 달러 유치.
[출처:] https://techcrunch.com/2024/06/04/raspberry-pi-partners-with-hailo-for-its-ai-extension-kit