All 23 GPUs & Apple Silicon Benchmarks

NVIDIA RTX 5090

32 GB VRAM · 1792 GB/s Bandwidth
Tier: Consumer GPU

NVIDIA RTX 4090

24 GB VRAM · 1008 GB/s Bandwidth
Tier: Consumer GPU

NVIDIA RTX 5080

16 GB VRAM · 960 GB/s Bandwidth
Tier: Consumer GPU

NVIDIA RTX 4080 Super

16 GB VRAM · 736 GB/s Bandwidth
Tier: Consumer GPU

NVIDIA RTX 4070 Ti Super

16 GB VRAM · 672 GB/s Bandwidth
Tier: Consumer GPU

NVIDIA RTX 3090

24 GB VRAM · 936 GB/s Bandwidth
Tier: Consumer GPU

NVIDIA RTX 4060 Ti 16GB

16 GB VRAM · 288 GB/s Bandwidth
Tier: Consumer GPU

NVIDIA RTX 3060 12GB

12 GB VRAM · 360 GB/s Bandwidth
Tier: Consumer GPU

NVIDIA RTX 6000 Ada

48 GB VRAM · 960 GB/s Bandwidth
Tier: Workstation GPU

NVIDIA RTX A6000

48 GB VRAM · 768 GB/s Bandwidth
Tier: Workstation GPU

NVIDIA L40S 48GB

48 GB VRAM · 864 GB/s Bandwidth
Tier: Datacenter GPU

NVIDIA A100 80GB SXM

80 GB VRAM · 2039 GB/s Bandwidth
Tier: Datacenter GPU

NVIDIA H100 80GB SXM

80 GB VRAM · 3350 GB/s Bandwidth
Tier: Datacenter GPU

NVIDIA H200 141GB SXM

141 GB VRAM · 4800 GB/s Bandwidth
Tier: Datacenter GPU

NVIDIA Blackwell B200 192GB

192 GB VRAM · 8000 GB/s Bandwidth
Tier: Datacenter GPU

AMD Instinct MI300X 192GB

192 GB VRAM · 5300 GB/s Bandwidth
Tier: Datacenter GPU

2x NVIDIA RTX 3090 (48GB)

48 GB VRAM · 936 GB/s Bandwidth
Tier: Multi-GPU Rig

2x NVIDIA RTX 4090 (48GB)

48 GB VRAM · 1008 GB/s Bandwidth
Tier: Multi-GPU Rig

4x NVIDIA A100 80GB (320GB)

320 GB VRAM · 2039 GB/s Bandwidth
Tier: Multi-GPU Node

8x NVIDIA H100 80GB (640GB)

640 GB VRAM · 3350 GB/s Bandwidth
Tier: Multi-GPU Node

Apple M4 Max (128GB Unified)

128 GB VRAM · 546 GB/s Bandwidth
Tier: Apple Silicon

Apple M3 Ultra Mac Studio (512GB)

512 GB VRAM · 819 GB/s Bandwidth
Tier: Apple Silicon

Apple M4 Pro Mac Mini (64GB)

64 GB VRAM · 273 GB/s Bandwidth
Tier: Apple Silicon