베리실리콘의 초저에너지 NPU, 모바일 애플리케이션의 온디바이스 LLM 추론을 위해 40TOPS 이상의 성능 제공

베리실리콘(688521.SH)은 초저에너지 및 고성능 신경망 처리 장치(NPU) IP가 이제 40TOPS를 넘는 AI 컴퓨팅 성능으로 대규모 언어 모델(LLM)의 온디바이스 추론을 지원한다고 발표했다. 이 에너지 효율적인 NPU 아키텍처는 모바일 플랫폼에서 생성형 AI 기능에 대한 ...