Комментарии 11
"Это же сколько биткоинов можно намайнить" !
Самый же быстрый в мире современный суперкомпьютер Fugaku разгоняется до 4 экзафлопс.
На днях, 22 марта 2022 года, NVIDIA анонсировала NVIDIA Eos — суперкомпьютер с искусственным интеллектом, который заработает в конце этого года. Ожидается, что он обеспечит вычислительную производительность ИИ на уровне 18,4 экзафлопс, что будет в 4 раза быстрее, чем у Fugaku. И, таким образом, NVIDIA Eos отберёт у Fugaku чемпионское звание.
Не то, чтобы я совсем занудствуя ради, но когда в соседних предложениях встречаются числа 4 и 18,4, то мозг как-то автоматически сопротивляется «в 4 раза больше», так как по наглухо вбитой в память матрице умножения для 4х4 мозг ожидает 16. Уж тогда «более, чем в 4 раза» или «в 4,5 раз». Хотя можно написать честно: 18,4/4=4,6 раза.
"Первое место по супервычислениям в России можно поделить между тремя машинами от Яндекса — «Червоненкис», «Галушкин» и «Ляпунов». В каждом из них по восемь графических ускорителей (GPU) Nvidia A100. В компьютерах «Червоненкис» и «Галушкин» за вычисления отвечают 64-ядерные процессоры AMD EPYC 7702 (по два на сервер) с 1024 ГБ RAM, а в «Ляпунове» — AMD Epyc 7662 с 512 ГБ RAM"
По 8 ускорителей и все? На каждый суперкомпьютер?
Начали за здравие, кончили за упокой... И вот, Сбер построил себе супер на полностью западных технологиях, но в связи с войной теперь ни комплектующих ни систем новых. Но нет печали, раз господин Сухов взялся утверждать " Тем не менее закрыть все текущие потребности в вычислениях и обработке данных с помощью предложенного подхода вполне возможно. ".
Что же нам предлагает этот господин? Строить кластера на мобильных китайских чипах? Я помолчу о полученных Flops/Core по сравнению с АМД/Intel но связывать их чем предлагается? Никаким USB? О, вспомнили про Ангару, которая вообще в принципе не имеет свича, и предполагает такую тряхомудию с кабелями, за которую не каждый интегратор возьмется, да и имеет ограничение по количеству узлов сверху. Про Wireless я вообще молчу, это из серии быстрой сети на почтовых голубях.
А этот перл " The information transfer rate on these ports is above 5 Gb/s, which is even redundant for developing a cluster. Network latency is worse than InfiniBand. However, for small packets this is 25 µs compared to 2-3 µs, but as the packet size increases, this difference is leveled out. "?
Типичная латентность инфинибанда (последние 3-4 поколения от Mellanox) 1usec. И 25 usec это не worse это terrific, это обычный эзернет. А про тех кто меряет латентность на немаленьких пакетах у меня вопрос - вы латентность или бандвизь пытаетесь замерить? И с какого бодуна она станет сравнима если последнее поколение XDR это 12Gb/s что в 2+ раз выше? А message rate? А то что обработка больших пакетов происходит картой а не CPU (offload)?
Если мы берем более мелкие ядра (100Gflops vs 1-2Tf per node) и делаем такую же вычислительную мощность (кол-во Flops под задачу), накладные расходы на сетевое взаимодействие возрастут кратно. А тут еще и сетка в разы хуже. Специфика HPC задач что обычно это баланс между вычислениями и сетевым взаимодействием, и рано или поздно наступает предел масштабирования приложения, после которой оно перестает ускоряться, сколько ты ядер ему не насыпай. Потому что все ускорение вычислений начинает съедать сетевое взаимодействие. Так вот, на таких микроядрах с такой плохой сетью точка предела масштабирования будет очень низкой, т.е. на небольшом количестве узлов. Что приведет ествественно к невозможности считать быстро и "закрыть все текущие потребности".
А че так про использование суперкомпьютеров в оборонке ни слова? На суперах в первую очередь считают бомбы ядерные и термоядерные, ну и реакторы еще.
Теперь, когда поставка комплектующих прекратилась, на чем Министерство Обороны РФ будет считать ядерный арсенал России? Испытания ж не проводятся уже 30 лет. На чем будет проверять МО РФ работоспособеность ядерного арсенала России? на счетах? на логарифмических линейках? Или китайцам доверят?
Самый мощный суперкомпьютер в 1993-ем году выдавал 131Гфлопс/с, сегодня это производительность офисного компьютера, даже на эльбрусах и байкалах. Т.е. ядерную физику сегодня можно считать за приемлемое время и без суперкомпьютеров. Замечу, что первые ядерные заряды считали на логарифмических линейках и счетах.
Ответ простой - точность моделирования. Если вам плюс минус лапоть, то можно и на линейке.
И еще. А сколько построено суперов на байкалах и эльбрусах в России? их же теперь Тайвань н епроизводит?
В 80-е был такой стишок:
Программист, держись бодрей!
Драли все, сдерем и Cray..
Суперпольза в экзафлопс, или Cуперкомпьютеры в XXI веке