{"title":"Amazon SageMaker G7e: новые GPU-инстансы — где реальная экономия, а где просто витрина","url":"https://verapointmedia.com/news/amazon-sagemaker-g7e-novye-gpu/","markdownUrl":"https://verapointmedia.com/news/amazon-sagemaker-g7e-novye-gpu.md","language":"ru","category":"news","publishedAt":"2026-04-21T09:00:00.000Z","updatedAt":"2026-04-21T09:00:00.000Z","references":["https://aws.amazon.com/blogs/machine-learning/accelerate-generative-ai-inference-on-amazon-sagemaker-ai-with-g7e-instances/"],"rights":"Public user-requested reading, summarization and citation allowed. Model training requires separate permission.","contentMarkdown":"# Amazon SageMaker G7e: новые GPU-инстансы — где реальная экономия, а где просто витрина\n\n- Site: VeraPoint News\n- Section: Новости\n- Date: 2026-04-21\n- Canonical: https://verapointmedia.com/news/amazon-sagemaker-g7e-novye-gpu/\n- Markdown: https://verapointmedia.com/news/amazon-sagemaker-g7e-novye-gpu.md\n- Summary: Amazon запустил G7e-инстансы с NVIDIA RTX PRO 6000 Blackwell GPUs — до 2.3x производительности inference по сравнению с G6e.\n- Tags: #aws #amazon #sagemaker #gpu #ai #inference\n- Image: https://verapointmedia.com/static/2026-04-21_amazon-sagemaker-g7e-novye-gpu-news-cover-v2.webp\n\n## Sources\n\n- https://aws.amazon.com/blogs/machine-learning/accelerate-generative-ai-inference-on-amazon-sagemaker-ai-with-g7e-instances/\n\n---\n\n#aws #sagemaker #gpu #ai #inference #blackwell\n\nAmazon объявил о запуске **G7e-инстансов** на SageMaker AI с **NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs**. Я изучил спецификации, и тут есть реальные цифры для сравнения.\n\n**Конфигурации.** Доступны ноды с 1, 2, 4 и 8 GPU. Каждая GPU имеет **96 GB GDDR7 памяти** — вдвое больше, чем у G6e (48 GB GDDR6), и вчетверо больше G5 (24 GB GDDR6). На 8-GPU ноде (G7e.48xlarge) суммарно **768 GB GPU memory**.\n\n**Что это значит для моделей.** По данным AWS:\n- **35B параметров** — помещается на single GPU (G7e.2xlarge) в FP16\n- **150B параметров** — на 4 GPU ноде (G7e.24xlarge)\n- **300B параметров** — на 8 GPU ноде (G7e.48xlarge)\n\nЭто позволяет запускать мощные open-source модели вроде **GPT-OSS-120B**, **Nemotron-3-Super-120B-A12B** (NVFP4 вариант), **Qwen3.5-35B-A3B** без multi-node orchestration.\n\n**Производительность.** AWS заявляет **до 2.3x inference performance** по сравнению с G6e. Каждая G7e GPU даёт **1,597 GB/s bandwidth** — удвоенную по сравнению с G6e. Сетевой throughput — до **1600 Gbps с EFA** на largest G7e size, что в 4 раза выше G6e и в 16 раз выше G5.\n\n**Сравнение поколений (8-GPU tier):**\n\n| Spec | G5 (g5.48xlarge) | G6e (g6e.48xlarge) | G7e (g7e.48xlarge) |\n|------|------------------|-------------------|-------------------|\n| GPU | 8x NVIDIA A10G | 8x NVIDIA L40S | 8x NVIDIA RTX PRO 6000 Blackwell |\n| GPU Memory per GPU | 24 GB GDDR6 | 48 GB GDDR6 | 96 GB GDDR7 |\n| Total GPU Memory | 192 GB | 384 GB | 768 GB |\n\n**Мой анализ.** Цифры впечатляют, но ключевой вопрос — **стоимость за inference**. AWS не публикует цены в анонсе, но логика простая: если G7e даёт 2.3x performance за меньше чем 2.3x цены — это выигрыш. Если цена вырастает пропорционально или больше — \"витрина\". Для тех, кто запускает большие open-source модели, 96 GB памяти на GPU критично — это позволяет избежать model parallelism, который замедляет inference.\n\n**Для кого это.** Разработчики и компании, которые self-host open-source LLM и хотят оптимизировать latency/throughput. Если вы используете managed API (OpenAI, Anthropic) — это не про вас.\n\nОригинал: https://aws.amazon.com/blogs/machine-learning/accelerate-generative-ai-inference-on-amazon-sagemaker-ai-with-g7e-instances/\n"}