A100 (1) 썸네일형 리스트형 LLM - NVIDIA GPU 종류 ✔️ 인공지능 학습과 추론에 NVIDIA GPU를 많이 사용 하는 이유NVIDIA가 병렬 컴퓨팅 플랫폼인 CUDA를 개발 - AI 가속에 대한 조기 투자대부분의 AI/ML 프레임워크(TensorFlow, PyTorch)가 CUDA에 최적화됨 - 소프트웨어 생태계독적에 가까운 시장 점유율NVIDIA의 대표적인 GPURTX 3090RTX 4090RTX A5000RTX A6000A100H100특징 비교하드웨어 사양 보다 AI 학습에 관련된 특징을 중심으로 비교특징RTX 3090RTX 4090RTX A5000RTX A6000A100H100메모리24GB GDDR6X24GB GDDR6X24GB GDDR648GB GDDR640GB HBM2 / 80GB HBM2e80GB HBM3연산(FP32)35.6 TFLOPS82... 이전 1 다음