Рейтинг:32

Нужен ли серверу GPU?

флаг ca

Нужен ли мне графический процессор на текстовом и консольном сервере? Нет GPU как и в iGPU и dGPU. Я собираюсь использовать SSH, поэтому мне не нужен дисплей.

Я использую Linux, но ОС не должна влиять на результаты.

Steve Summit avatar
флаг us
Я думаю, что в наши дни графические процессоры используются как для обработки чисел, так и для обработки графики. На работе мы заказываем серверы с первоклассными графическими процессорами за 40 000 долларов для некоторых критических задач. Я не уверен, сколько программ общего назначения (то есть тех, которые вы, возможно, уже используете) переписывается, чтобы использовать преимущества графического процессора (если он доступен), но я не удивлюсь, если это число не равно нулю. Другими словами, вы можете хорошо использовать графический процессор даже на безголовом сервере.
phuclv avatar
флаг rs
многие графические процессоры в настоящее время даже не отображают вывод, потому что они используются для обычной параллельной обработки, и большинство современных суперкомпьютеров имеют большую часть своей вычислительной мощности от графических процессоров. Их можно использовать для таких вещей, как рендеринг, моделирование, глубокое обучение или добыча монет... Так что, в зависимости от того, что вы запускаете, может быть гораздо лучше иметь GPU.
Vikki avatar
флаг in
«так что мне не нужен дисплей» - и что вы делаете, когда сервер ломается, и вам нужно подключиться локально для устранения неполадок?
Criggie avatar
флаг in
В ответах может быть некоторая путаница, некоторые предполагают, что графический процессор - это причудливая игровая карта, а другие предполагают, что это означает «любой разъем старой видеокарты». Третий случай - это выделенная карта центра обработки данных. К какому из этих трех вы относитесь?
флаг ae
@Vikki В этом случае (теоретически) будет достаточно старой доброй карты VGA (или даже хуже). Я не думаю, что у них был GPU.
Marcus Müller avatar
флаг pt
@Vikki речь идет о серверной плате, поэтому вы входите во встроенный BMC и оттуда восстанавливаете ОС; эти вещи дают вам последовательные консоли, прямой доступ к хранилищу и, если хотите, также фреймбуфер VNC. Бегать с клавиатурой и экраном, это 90-е. Серьезно.
Рейтинг:43
флаг cn

Он вам не нужен, но вам будет очень трудно получить надлежащий сервер БЕЗ него, даже если он низкоуровневый. Это просто вопрос того, что люди ПРЕДЛАГАЮТ, а не то, что вы хотите. Серверные платы в основном подготовлены для установки экрана, и, если что, вы оцените это в следующий раз, когда вам придется обновить BIOS. SSH для этого не подойдет. Итак, вы получаете сервер, который не только имеет GPU, но и имеет IPMI функциональность, позволяющая вам видеть как «виртуальный экран», так и использовать этот экран поверх HTML (в основном), чтобы вы могли видеть и настраивать BIOS. Вы можете сказать «вы используете Linux» — но каким-то образом вы должны установить его, а иногда вы должны обновить BIOS, и, как бы то ни было, эти операции не выполняются через Linux через SSH. Также во время сбоя вы можете понять, что «использование SSH» означает «не иметь представления о том, как добраться до сервера, поскольку интерфейс SSH по какой-либо причине не работает». В этих точках несетевой доступ (через браузер в отдельной системе управления) спасает жизнь.

Прошло много лет с тех пор, как я видел нормальный сервер без IPMI и GPU. В наши дни вам буквально нужно заглянуть в мусорное ведро - если у кого-то есть что-то без этого, пожалуйста, сообщите мне, но я в основном смотрю на SuperMicro и не знаю ни одной платы, которая соответствовала бы требованиям ОП.

tymur999 avatar
флаг ca
Я имел в виду, нужен ли мне GPU для готового сервера. У меня есть dGPU для замены, если что-то пойдет не так, или я по какой-то причине не могу использовать SSH, я просто не хочу, чтобы он работал все время, работая часами, если мне это не нужно.
флаг cn
Опять же, покажите мне серверную материнскую плату, которая не вышла из строя и не имеет встроенного графического процессора. Часто как часть базовой платы управления и интегрирована с ней. Еще одна выделенная - конечно, но, например, https://www.supermicro.com/en/products/motherboard/X12STL-F - очень бюджетная плата. ASPEED AST2600 BMC на борту для управления. Часть доски.
tymur999 avatar
флаг ca
Я не говорю, что пытаюсь избежать встроенного графического процессора, но на всякий случай
флаг cn
На самом деле вы. Упомянутые процессоры будут dGPU, выделенными с чипом на материнской плате, и вы неясно, что говорите о ДОПОЛНИТЕЛЬНОМ графическом процессоре на основе карты.
davidbak avatar
флаг jp
Действительно ли IPMI считается графическим процессором? Я всегда думал, что это чип (или код управления системой), который реализует простой VGA-подобный буфер кадра, и какой-то способ его доставки (независимо от стандарта для этого).
Peter Cordes avatar
флаг ke
@davidbak: Да, я не думаю, что серверное видеооборудование, подобное этому (для удаленного управления, настройки BIOS и поддержки некоторых операционных систем), имеет много оборудования для обработки графики, если оно вообще есть. GPU не является правильным названием для такого графического оборудования; в наши дни, если вы погуглите «серверный графический процессор», вы получите результаты о вычислительных картах, таких как NVidia Tesla, которые основаны на их потребительских графических процессорах. (Это именно то, о чем я думал, что этот вопрос будет основываясь на заголовке. И о чем более половины вопросов в [tag:gpu], хотя некоторые из них касаются того, чтобы X работал на серверном видео HW, как это.)
joshudson avatar
флаг cn
Мне удалось загрузить систему без какой-либо видеоплаты. Если бы начальные параметры загрузки в BIOS позволяли работать моему загрузочному компакт-диску, я мог бы выполнить установку без какого-либо видеооборудования на компьютере. Кроме того, у меня есть карта PCI только для видео (без графического процессора). Интересно, работает ли он на современном оборудовании?
флаг cn
@davidbak Ну, он поставляется с драйверами графического процессора. Это определенно настолько длинный конец, насколько вы можете себе представить, но «GPU» означает ТОЛЬКО «Графический процессор», и он выполняет эту часть. этого графического процессора достаточно, чтобы отображать экран входа в систему Windows и рабочий стол без жалоб ОС, и это не просто VGA - этот, который я связал, достигает разрешения 1920x1920. Итак, все немного сложнее.
Peter Cordes avatar
флаг ke
@TomTom: Здесь оспаривается часть «PU»; возможность отображать Windows с разрешением 1920x1920 доказывает только часть G. Глупый фреймбуфер не будет выполнять за вас никакую графическую *обработку*, например. вы не можете сказать ему «заполнить прямоугольник» где-то в видеопамяти, вам понадобится ЦП для обработки графики и хранения данных пикселей. Многие старые видеокарты до того, как все было 3D, имели некоторые возможности ускорения 2D, но в наши дни все еще сложно назвать это графическим процессором. (Например, Matrox G200, на котором основан какой-то сервер IPMI HW.)
Peter Cordes avatar
флаг ke
Что еще более важно, «GPU» имеет еще одно конкретное значение для серверов, поэтому лучше не путать вещи, называя простое графическое оборудование GPU. Ответы и комментарии о вычислительных картах (серверных графических процессорах) на этот вопрос свидетельствуют о вызываемой путанице.
Martin Schröder avatar
флаг cn
Серийные консоли существуют. И например. [APU](https://www.pcengines.ch/apu2.htm) не имеют графических процессоров.
Andrew Henle avatar
флаг ph
@TomTom Pure только для VGA (каким-то образом получает 1920 x 1200 при 60 Гц из колоссальной видеопамяти объемом 16 МБ): [текущая (ноябрь 2021 г.) продукция HP DL20] (https://www.hpe.com/psnow/doc/ a00053820ru.html) Вот бы что? "ГПУ" 1992 года?
флаг in
«если у кого-то есть что-то без этого, пожалуйста, сообщите мне» - у меня все еще есть пара машин IBM Netfinity Series (Pentium 3) где-то на чердаке :-)
флаг cn
Ага, потому что те совершенно не из какой-то поддержки, а из мусорной корзины и "правильных серверных плат".
Рейтинг:11
флаг bd

Вам не нужен графический процессор, но вам нужны некоторые средства доступа в ситуациях, когда ОС не работает и, следовательно, доступ по SSH недоступен, например, для установки ОС в первую очередь, для настройки оборудования или в случае сбоя ОС. На платформах Intel (стандартная архитектура, известная как ПК) это обычно встроенный графический контроллер и контроллер клавиатуры, часто дополняемые указывающим устройством. На других платформах вы можете найти последовательный интерфейс ввода-вывода для той же цели, к которой вам нужно будет подключить последовательный терминал. Исторически последний был стандартным, пока архитектура ПК не заняла место серверов. Это все еще довольно распространено в устройствах и встроенных системах.

флаг cn
Проблема с последовательным интерфейсом не в самом интерфейсе, а в том, что его нельзя использовать без ДОПОЛНИТЕЛЬНОЙ инфраструктуры (в основном нужно каким-то образом вывести последовательный интерфейс в телнет-терминал, чего волшебным образом не происходит). Современные встроенные BMC имеют веб-интерфейс и получают IP-адрес через DHCP — либо на отдельный сетевой порт, либо на один из портов RJ45. Это СЕРЬЕЗНО проще интегрировать в настройку удаленного управления, поскольку для этого требуется в основном другой сетевой кабель, а не преобразователь последовательного порта в telnet. Следовательно, серийный вымер - может быть, за пределами индустриального.
Tilman Schmidt avatar
флаг bd
Этакая обратная задача о курице и яйце. Когда последовательные интерфейсы были еще распространены, у вас был консольный сервер в каждой стойке, поэтому его было очень легко интегрировать: просто подключите кабель RS232 от сервера или устройства к ближайшему консольному серверу. Когда последовательные интерфейсы вышли из моды, консольные серверы вышли из моды.
флаг cn
Да, точно. В наши дни у вас просто есть еще один 1-гигабитный коммутатор на верхней части стойки, который просто выполняет BMC. Действительно курица и яйцо...
JDługosz avatar
флаг cn
Да, на моем файловом сервере установлен Haswell Xenon, который сообщает вам, сколько ему лет. Нет последовательного терминала, но никогда не подключались клавиатура, мышь или монитор. На материнской плате есть специальный сетевой разъем для виртуального интерфейса, который также позволяет мне монтировать образ ISO по сети. Однако это не веб-интерфейс, а собственный протокол.
Рейтинг:4
флаг in

Тут собственно два вопроса:

Нужен ли мне выделенный графический процессор на моем сервере?

Это зависит от ваших потребностей. Выделенные графические процессоры на серверах используются для высокопараллельных приложений (обработка чисел, моделирование физики, обработка сигналов, искусственный интеллект, криптомайнинг и т. д.). Если ваши приложения используют только процессор, вам не нужен выделенный графический процессор.

Нужен ли мне видеовыход на безголовом сервере?

Да, да. Хотя технически возможно, чтобы сервер работал без него, очень удобно иметь возможность подключить монитор для обслуживания (установка ОС, обновление BIOS, диагностика и т. д.). Этот видеовыход на сервер обеспечивается очень легким встроенный графический процессор или интерфейс управления. Я не рекомендую полагаться на графическую карту, лежащую без дела, для получения видео с сервера, последнее, что вы хотите сделать, когда ваш сервер не отвечает, - это отключить его и переключить оборудование для диагностики проблемы. У вас должен быть легкодоступный способ получения доступа к видео и клавиатуре, IPMI отлично подходит для этого, но встроенный видеовыход также может спасти жизнь в крайнем случае.

Самая последняя серверная материнская плата поставляется с выделенным чипом для управления платформой и базовым видеовыходом, вы должны использовать его или, по крайней мере, привыкнуть к нему в тот день, когда он вам понадобится.

Marcus Müller avatar
флаг pt
Я имею в виду, конечно, что на рынке «серверы, которые вы покупаете у Dell в количестве от одного до пяти», наличие графического вывода — это хорошо. У Google, Amazon, Oracle и Microsoft есть центры обработки данных, заполненные серверами. С монитором не бегаешь. Это было бы просто глупо. Поскольку растущее количество серверов в целом больше похоже на это: нет, нет, вам не нужен видеовыход, это исключение, которое у вас есть.
Alastair Campbell avatar
флаг in
@MarcusMüller Вы не бегаете с монитором, нет, вместо этого у вас есть KVM или KVMi, подключенные ко всем серверам, или что-то подобное. Покажите мне хотя бы один серийный сервер, сделанный за последние 20 лет без какого-либо видеовыхода.
флаг in
@MarcusMüller именно поэтому я указал, что эти функции также могут быть предоставлены интерфейсом управления. Я уверен, что центры обработки данных GAFAM полны серверов без какого-либо видеоадаптера, но все они имеют специальные чипы управления, которые могут обеспечить или заменить видеоадаптер. Даже если вы полагаетесь на видеоадаптер (который все еще распространен в разнородных стойках), вам не нужно бегать с дисплеем и клавиатурой, у вас есть центральный KVM-переключатель. В любом случае, если у вас есть IPMI, вам не нужен выделенный адаптер дисплея, но если вам не повезло, когда сервер перестал отвечать.
флаг in
Я понимаю, что подход Google к неотвечающему серверу заключается в том, чтобы отключить его.Нет необходимости возиться с KVM или IPMI, если вы даже не собираетесь на них смотреть. Серверы дешевы, потому что они производятся серийно в соответствии со спецификациями Google, и достаточно надежны, так что стоимость случайного сбоя не стоит того, чтобы иметь с ними дело.
Marcus Müller avatar
флаг pt
@AlastairCampbell https://www.nokia.com/networks/products/airframe-open-edge-server/ https://www.nextplatform.com/2020/05/14/inside-facebooks-future-rack-and- микросервер-железо/ https://blog.cloudflare.com/cloudflares-gen-x-servers-for-an-accelerated-future/
Marcus Müller avatar
флаг pt
@MSalters из того, что я узнал от инженеров GCP, это не так просто; У GCP есть мониторинг/консоли для всего; просто нет необходимости в каком-либо графическом интерфейсе, потому что вариант использования «мне нужно физически перейти туда, открыть оболочку или интерфейс конфигурации и что-то сделать» просто терпит неудачу из-за а) отсутствия поблизости, б) драконовского контроля доступа в) нечего делать графически.
andypea avatar
флаг in
@MarcusMüller Почти на всех серверах есть BMC, который подключается к графическому процессору и делает графический интерфейс компьютера удаленно доступным через соединение Ethernet с использованием такого протокола, как IPMI. Хотя эти системы общеизвестно небезопасны, доступ к ним может быть легко ограничен внешними брандмауэрами. Я никогда не работал в GCP, но был бы удивлен, если бы они не использовали что-то подобное. Возможно, вы могли бы спросить своих друзей-инженеров GCP? Мне искренне любопытно, какое оборудование они используют.
Marcus Müller avatar
флаг pt
@andypea это определенно зависит, но поскольку в некоторых центрах обработки данных модель угрозы буквально такова: «ниндзя каким-то образом обходит внешнюю безопасность, многочисленные барьеры, включая металлические сканеры, и умудряется незаметно установить устройство PCIe в стойку — как мы можем убедиться, что PCIe устройство достаточно отделено, чтобы оно не могло получить доступ к данным клиента?», я был бы несколько удивлен, если бы BMC с обычными возможностями просто был готов и ждал; но я спрошу. Однако, вероятно, им придется заткнуться. Во-первых, все прошивки должны иметь хорошую сертификацию; Может ли ваш поставщик BMC подтвердить отсутствие ошибок?
andypea avatar
флаг in
@MarcusMüller BMC не является дополнительным компонентом, который приобретается отдельно от сервера. Почти каждый общедоступный сервер поставляется со встроенным BMC. По сути, если вы покупаете сервер, вы получаете довольно глючный BMC, возможно, с какой-то сомнительной «сертификацией».
Marcus Müller avatar
флаг pt
@andypea Я не имел в виду, что это было отдельно! Но поскольку Google на самом деле имеет собственную ОС для контроллеров плат для встраиваемых устройств, и они постоянно продвигают функции безопасности / безопасности, BMC, которые они фактически используют на своих платах, могут работать с очень специализированным программным обеспечением. И они могут уклоняться от чрезмерного предоставления возможностей этого BMC; Я имею в виду, что текущая серия BMC Aspeed AST имеет около 2 ГБ собственной оперативной памяти, соответствующую ОС и является хостом, а также устройством для USB, PCIe и множества других шин. Это просто *напрашивается* на неприятности, если твоя угроза...
Marcus Müller avatar
флаг pt
… Модель на самом деле представляет собой передовые национальные государства, запускающие свое программное обеспечение на виртуальных машинах на вашем компьютере. Я имею в виду, что это, по сути, смартфон без сенсорного экрана, зашитый так, чтобы можно было возиться с вашей системой.
andypea avatar
флаг in
Проклятые кретины, разоряющие всех ниндзя! :П
Рейтинг:1
флаг za

Для той цели, для которой вы собираетесь его использовать, не совсем. Это будут просто потраченные впустую деньги на оборудование, которое ничего не делает (кроме старения).

andypea avatar
флаг in
Как вы собираетесь установить ОС или починить машину, если она не загружается?
Рейтинг:1
флаг kz

Обычно - нет, если только вы не можете заставить GPU работать с XOR-трафиком вместо вас. Google GRAID для более подробной информации.

gerrit avatar
флаг th
ТПУ может быть еще лучше!
флаг in
XOR-трафик? Серьезно? Современная шина PCIe настолько сложна с ее кодировкой 128/130, что вы будете выполнять больше операций по отправке данных и получению результатов, чем вы будете выполнять на ЦП. Современные ядра ЦП с широкими блоками AVX вполне способны выполнять простые операции XOR в больших количествах без накладных расходов PCIe.
BaronSamedi1958 avatar
флаг kz
То, что вы говорите, имеет смысл только для системы хранения, когда все ядра ЦП в вашем распоряжении с самого начала. Для тех, кто занимается гиперконвергентной инфраструктурой, вы не только покупаете более дорогие процессоры с большим количеством ядер для обработки ввода-вывода (+CapEx), но и лицензируете их вместе с вашим гипервизором, программным обеспечением для резервного копирования, лицензируете ядра Windows Server, SQL Server и т. д. (+OpEx ). Это огромно, наличие +2 ядра на каждом сокете может легко принести вам дополнительные 20 тысяч долларов в течение следующих 3 лет! Эти деньги будут просто потрачены впустую.
Рейтинг:0
флаг cn

Когда я настраивал свой файловый сервер на базе Haswell, я размышлял о том, стоит ли приобретать вариант чипа со встроенным графическим процессором. Была небольшая разница в стоимости, но она была незначительной по сравнению со стоимостью всего сервера!

Я решил приобрести его, потому что, несмотря на то, что он был довольно недорогим, будучи стандартным встроенным компонентом Intel, он был бы довольно распространенным и стандартным, поэтому вполне возможно, что какое-то программное обеспечение могло бы использовать его в своих интересах, если он присутствует. Например, вычисление контрольной суммы целых блоков или вычисление конечного поля RAID6? Я не знаю, воспользовалась ли этим преимуществом файловая система ZFS; но если это просто вопрос использования переключателя компилятора, это вполне может быть в обновлении. (Я не знаю, обрабатывал ли используемый компилятор в конечном итоге встроенный графический процессор Intel как доступные инструкции при генерации кода)

Это было моим рассуждением в то время.

Peter Cordes avatar
флаг ke
*(Я не знаю, обрабатывал ли компилятор в конечном итоге встроенный графический процессор Intel как доступные инструкции при генерации кода)* - если вы использовали GCC или clang, то нет, это не так. Даже ICC, вероятно, не может сделать это полностью автоматически, потому что для того, чтобы заставить GPU делать что-либо, нужно пройти через драйверы. Это определенно не то, что код ядра может легко использовать. Нет специальных инструкций ЦП, которые выполняют функции графического процессора; вместо этого вы взаимодействуете с графическим процессором через MMIO, поэтому его использование зависит от того, где его управляющие регистры отображаются где-то в памяти.
Рейтинг:-1
флаг cn

Нет, не для такой нагрузки.

phuclv avatar
флаг rs
какая нагрузка? ОП ничего не сказал о нагрузке. Что, если они используют сервер для машинного обучения, распараллеливания математических вычислений или обработки графики, например, для изменения размера изображений, которые пользователи загружают и возвращают им? Они получат большую выгоду от графического процессора
mfinni avatar
флаг cn
Конечно, они вообще не упомянули об этом, и это также 101 для такого типа вещей, поэтому я сделал предположение, что «сервер только для текста и консоли» означает немасштабные вычисления. Тем более, что они спрашивали об одном сервере, а не о группе или кластере серверов.

Ответить или комментировать

Большинство людей не понимают, что склонность к познанию нового открывает путь к обучению и улучшает межличностные связи. В исследованиях Элисон, например, хотя люди могли точно вспомнить, сколько вопросов было задано в их разговорах, они не чувствовали интуитивно связи между вопросами и симпатиями. В четырех исследованиях, в которых участники сами участвовали в разговорах или читали стенограммы чужих разговоров, люди, как правило, не осознавали, что задаваемый вопрос повлияет — или повлиял — на уровень дружбы между собеседниками.