Куда катится железо для нейронок?

Тезисы

Модели растут, требования к вычислениям — тоже. Пора разобраться, куда движется рынок AI-железа и что нас ждет дальше.

• GPU vs ASIC: сравним плюсы и минусы NVIDIA и специализированных чипов вроде TPU и Trainium.
• Почему GPU так популярны и в чём их ограничения.
• Где ASIC выигрывают, и смогут ли они всерьёз конкурировать с NVIDIA.
• Как может развиваться рынок: удержит ли NVIDIA лидерство или будет смещение в сторону специализированных решений.
• Что помогает снижать нагрузку на железо: разреженные модели, квантование и алгоритмическую оптимизацию.

Если работаете с ML/AI — будет интересно.

Аудитория

Data-scientist, ML-engineer, engineers.

Уровень сложности

Middle.