Як побудувати суперкомп'ютер: 9 кроків (із зображеннями) - Чайові

Зміст

Кроки
Поради
Попередження

Шукаєте машину, здатну виконувати сотні трильйонів обчислень з плаваючою комою в секунду? Або ви просто хочете похвалитися перед друзями про суперкомп'ютер, встановлений у вашій кімнаті? Побудова високоефективних обчислювальних кластерів або суперкомп'ютерів - це завдання, яке може спробувати здійснити будь-який ентузіаст із вільними вихідними та трохи грошей. Технічно кажучи, багатопроцесорний суперкомп'ютер - це мережа комп'ютерів, які працюють разом для вирішення проблеми. У цій статті коротко описано кожен етап процесу, зосередившись на апаратному та програмному забезпеченні.

Кроки

Визначте спочатку необхідні апаратні компоненти та ресурси. Вам знадобиться головний вузол, щонайменше, 12 однакових мережевих вузлів, перемикач Ethernet, блок розподілу енергії та стійка. Визначте необхідну потребу в електроенергії, охолодженні та просторі. Також визначте, яку IP-адресу потрібно для ваших приватних мереж, як назвати вузли, які програмні пакети ви хочете встановити та яку технологію використовуватимуть для виконання паралельних обчислень (докладніше про це пізніше).
- Хоча апаратне забезпечення є дорогим, всі програми, перелічені в посібнику, безкоштовні, і більшість з них є відкритим кодом.
- Якщо ви хочете побачити, наскільки швидко теоретично був би ваш суперкомп'ютер, скористайтеся цим інструментом: http://hpl-calculator.sourceforge.net/
Створіть вузли. Вам потрібно буде змонтувати вузли або придбати заздалегідь зібрані сервери.
- Виберіть шасі сервера, що збільшують простір, охолодження та енергоспоживання.
- Ви також можете використовувати кілька застарілих серверів - загальна вартість яких буде більша, ніж сума частин, але ви все одно багато заощадите. Всі процесори, мережеві адаптери та материнські плати повинні бути однаковими, щоб система працювала добре. Очевидно, обов'язково включіть оперативну пам’ять та накопичувач на кожному вузлі та принаймні один оптичний привід для головного вузла.
Встановіть сервери в стійку. Починайте знизу, щоб верхівка не була занадто важкою. Для цього вам знадобиться допомога ваших друзів - щільні сервери можуть бути дуже важкими, а керувати ними по доріжках, які їх утримують, важко.
Встановіть перемикач Ethernet над корпусом сервера. Виділіть цей час для налаштування перемикача: увімкніть розмір кадру розміром 9000 байт, встановіть IP-адреси на статичну адресу, визначену на першому кроці, і відключіть непотрібні протоколи маршрутизації, такі як SMTP Snooping.
Встановіть розподільний блок. Залежно від того, скільки струму буде потрібно вузлам при повному навантаженні, вам може знадобитися 220 вольт для високоефективних обчислень.
З усім встановленим, ви можете розпочати процес конфігурації. Linux є ідеальною ОС для кластерів HPC - це не тільки ідеальне середовище для наукових обчислень, але також вільне встановлення на сотні чи навіть тисячі вузлів. Уявіть, скільки коштуватиме встановлення Windows на всі ці вузли?
- Почніть з установки останньої версії BIOS материнської плати та мікропрограмного забезпечення, яка повинна бути однаковою на всіх вузлах.
- Встановіть улюблену версію Linux на кожен вузол із графічним інтерфейсом на головному вузлі. Популярні варіанти включають CentOS, OpenSuse, Scientific Linux, RedHat та SLES.
- Ви також можете використовувати розподіл кластерів Rocks. На додаток до встановлення всіх інструментів, необхідних для роботи кластера, Rocks використовує чудовий метод для дуже швидкого розподілу декількох примірників себе по вузлах, використовуючи завантажувальну систему PXE та процедуру "Kick Start" Red Hat.
Встановіть інтерфейс обміну повідомленнями, управління ресурсами та інші необхідні бібліотеки. Якщо ви не встановили Rocks на попередньому кроці, вам потрібно буде вручну налаштувати програмне забезпечення, необхідне для включення паралельних обчислювальних механізмів.
- По-перше, вам знадобиться портативна великомасштабна система управління, наприклад, диспетчер ресурсів Torque, яка дозволяє розділяти та розподіляти завдання на декількох машинах.
- Щоб завершити установку, з'єднайте крутний момент з програмістом Maui Cluster Scheduler.
- Далі вам потрібно буде встановити інтерфейс передачі повідомлень, необхідний для окремих процесів різних вузлів для обміну одними і тими ж даними. OpenMP простий у використанні.
- Не забудьте багатопотокові математичні бібліотеки для програм паралельних обчислень. Це дійсно простіше, якщо ви встановите Rocks.
Підключіть комп'ютерні вузли. Головний вузол відправляє завдання на вузли комп’ютера, яким потім потрібно відправити результат назад, а також надсилати повідомлення один одному. Чим швидше, тим краще.
- Використовуйте приватну мережу Ethernet для підключення всіх вузлів кластеру.
- Головний вузол також може діяти як NFS, PXE, DHCP, TFTP та NTP-сервер через мережу Ethernet.
- Вам потрібно відокремити цю мережу від загальнодоступних мереж, що гарантує, що пакети передачі не будуть перешкоджати іншим мережам вашої локальної мережі.
Тестуйте кластер. Останнє, що ви хочете зробити, перш ніж випускати всю цю обчислювальну потужність для своїх користувачів, - це перевірити їх ефективність. Базовий показник HPL (High Performance Lynpack) є популярним вибором для вимірювання обчислювальної швидкості кластера. Вам потрібно буде скласти його з джерела з усіма можливими оптимізаціями, запропонованими компілятором для обраної архітектури.
- Очевидно, що вам потрібно зібрати з джерела всі можливі оптимізації для вашої платформи. Наприклад, використовуючи процесори AMD, компілюйте з Open 64 з рівнем оптимізації -0fast.
- Порівняйте результати на TOP500.org, щоб порівняти свій кластер із 500 найшвидшими суперкомп'ютерами світу!

Поради

IPMI може полегшити адміністрування великого кластера, забезпечуючи передачу KVM через IP, реле віддаленої обробки тощо.
Щоб досягти дійсно високих швидкостей мережі, шукайте мережеві інтерфейси InfiniBand. Однак ціни не дуже доступні.
Використовуйте Ganglia для моніторингу обчислювального навантаження на вузли.