ATOM™ SoC

보다 효율적인 데이터센터 운영을 위한 최적의 선택

Description

엣지와 데이터센터를 아우르는 고성능 AI 추론 NPU

ATOM™ SoC는 컴퓨터 비전, 자연어 처리, 추천 모델 등 다양한 AI 워크로드에서 뛰어난 성능을 제공합니다. 리벨리온 1세대 뉴럴 코어 ION™을 완벽한 선형 확장을 구현한 최소 연산 단위로 활용하여, 엣지 컴퓨팅부터 AI 데이터센터까지 유연하게 확장할 수 있습니다.

대규모 AI, 초저지연으로 성능 극대화

ATOM™ NPU는 대규모 AI 추론 작업을 초저지연으로 처리하여 AI 서비스의 응답성을 높이고 사용자 경험을 향상시킵니다. 확장성, 에너지 효율성, 빠른 처리속도를 모두 갖춰 AI-as-a-Service(AIaaS)와 같은 서버 수준의 AI 서비스에 최적화된 솔루션입니다. 또한, 하드웨어 · 소프트웨어 · 펌웨어 간 긴밀한 연동으로 시스템 활용률 극대화합니다.

첨단 공정 기반, 최고의 성능과 에너지 효율

삼성 파운드리의 최첨단 EUV 공정을 적용하여 향상된 성능, 낮은 전력 소비, 탁월한 에너지 효율을 제공합니다. PCIe Gen5, GDDR6, 고속 I/O 인터페이스 등 최신 기술을 탑재하여 엣지 디바이스부터 데이터센터까지 폭넓은 시장의 요구를 충족합니다.

Performance

MLperf™ 에서 증명한 압도적인 AI 추론 성능

Inference v3.0, Single Stream

글로벌 머신러닝 벤치마크 MLPerf™에서 경쟁사를 압도하는 뛰어난 추론 성능을 입증했습니다. 글로벌 경쟁사 제품 대비 비전모델(Vision, ResNet50) 기준 3배 이상, 언어모델(Language , BERT-Large) 기준 1.5배 이상의 성능을 입증했습니다.

Vision : ResNet50

  • Rebellions ATOM™
    1.0x 0.239ms
  • Qualcomm Cloud AI100
    1.4x 0.336ms
  • NVIDIA A2 (Ampere)
    3.0x 0.713ms
  • NVIDIA T4 (Turing)
    3.4x 0.818ms

* Shorter the faster

Language : BERT-Large

  • Rebellions ATOM™
    1.0x 4.297ms
  • Qualcomm Cloud AI100
    1.8x 7.547ms
  • NVIDIA A2 (Ampere)
    2.0x 8.506ms
  • NVIDIA T4 (Turing)
    1.4x 6.093ms

* Shorter the faster

Key features

ION™ 코어 아키텍처

ATOM™ SoC는 리벨리온이 자체 개발한 AI 코어인 ION™을 기반으로 설계되었습니다. CGRA(Coarse-Grained Reconfigurable Architecture) 아키텍처를 적용하여 유연성, 프로그래밍 가능성, 확장성을 극대화하였으며, 에너지 효율성을 높이면서도 다양한 규모의 AI 워크로드를 처리할 수 있습니다.

시스템 온 칩 아키텍처

모든 핵심 구성 요소를 단일 기판에 통합한 멀티코어 시스템 온 칩 설계를 채택해, 칩 내부 통신 오버헤드를 효과적으로 줄였습니다. 이를 통해 높은 집적도와 안정적인 성능을 동시에 구현할 수 있습니다.

최신 AI 모델 완벽 지원

Convolutional Neural Networks(CNNs), Long Short-Term Memory(LSTM), Bidirectional Encoder Representations from Transformers(BERT)는 물론 GPT, Llama 등 최신 트랜스포머 기반 모델까지 광범위한 AI 모델을 지원합니다. 기업은 리벨리온 솔루션을 통해 최신 AI 기술을 활용하여 다양한 비즈니스 과제를 해결할 수 있습니다.

Product specs

Single Chip
FP16
32 TFLOPS
INT8
128 TOPS
On-chip SRAM
64 MB
최대소비전력
60 - 130W (Configurable)
메모리 구성
GDDR6(ECC 포함) 16 GB, 256 GB/s
호스트 인터페이스
PCIe Gen5, 64 GB/s

See also...

ATOM™

소규모 데이터센터를 위한 지속 가능한 솔루션

ATOM™ 더 알아보기

ATOM™-Max

대규모 AI 추론을 위해 더욱 강력해진 성능

ATOM™-Max 더 알아보기

ATOM™-Lite

저전력으로 구현하는 강력한 엣지 AI 추론

ATOM™-Lite 더 알아보기

System Foundation

확장 가능한 데이터센터를 위한 모듈형 프레임워크

System Foundation 더 알아보기