Рубрика

Железо и GPU

Железо, на котором работают нейросети: видеокарты и ускорители, собственные чипы Google и Amazon, дата-центры и их аппетит к электричеству. Отдельно про то, что из этого реально поставить дома и сколько это стоит.

Железо и GPU

AWS отказывается от NDA для ЦОД в ответ на общественное недовольство

Глава Amazon Web Services заявил, что компания больше не использует соглашения о неразглашении при обсуждении своих центров обработки данных, стремясь повысить прозрачность…

Алексей Нейролентов 4 Oct2 мин
Железо и GPU

Армения стала хабом для ИИ-вычислений: как две новые фабрики работают на США

В Армении за рекордные сроки построены две мощные ИИ-фабрики, оснащенные тысячами ускорителей NVIDIA. Их создание стало возможным благодаря особым политическим договоренностям и…

Алексей Нейролентов 29 Sep2 мин
Железо и GPU

Российский нейрочип "Модуль": 27 лет в серии и нишевые задачи от медицины до космоса

НТЦ "Модуль" производит единственный в России серийный нейрочип, который уже почти три десятилетия работает в специфичных областях, от диагностики заболеваний до мониторинга…

Алексей Нейролентов 26 Sep2 мин
Железо и GPU

ИИ-дата-центры в Филадельфии столкнулись с протестами из-за экологической справедливости

Планы по строительству центров обработки данных для ИИ в районе старого нефтеперерабатывающего завода в Филадельфии вызвали волну общественного сопротивления, став частью общенационального…

Алексей Нейролентов 16 Sep2 мин
Железо и GPU

Инженеры ускорили Qwen3.8 до 75 токенов в секунду на двух RTX 3090 через оптимизацию llama.cpp

Детальный разбор узких мест в llama.cpp позволил более чем вдвое увеличить скорость генерации 27-миллиардной модели Qwen3.8 на двух видеокартах RTX 3090, продемонстрировав…

Алексей Нейролентов 29 Aug2 мин
Железо и GPU

Загадка низкой скорости ИИ на M3 Ultra: почему Qwen3.8-27B выдавал лишь 12 токенов в секунду

Разработчик столкнулся с неожиданно низкой производительностью оптимизированной модели Qwen3.8-27B на максимальной конфигурации Mac Studio с M3 Ultra, что заставило его искать узкое…

Алексей Нейролентов 28 Aug2 мин