하드웨어 #GPU #H100

NVIDIA H100 질문 드립니다.

안녕하세요. 

DL380a GEN11 사용중인데 H100 2장을 설치 했는데 

0번 슬롯은 310W 1번 슬롯은 350W 표기 되어 문의 드립니다. 

같은 모델인데 310W와 350W 나타 나는데 어떤 부분을 설정해줘야 

같은 W수가 나오는지요?

서버 바이오스에서 설정을 해줘야 하는지요?

고수님들 부탁 드립니다. 



서버벨은 거의 모든 브랜드의 서버, 네트워크장비, 파트 및 옵션을 운영하고 있습니다.

Sponsored http://www.serverbells.com

서버벨은 HP, DELLEMC, IBM, LENOVO, CISCO, FUJITSU, ARISTA, ARUBA 등 전반적인 IT브랜드 신품/리퍼 재고를 유지 및 서버/스토리지/네트워크/옵션/파트 등을 전문적으로 운영하는 기업입니다.

자세히 보기

4개의 답변이 있습니다.

0 추천 | 약 한 달 전

https://sharedit.co.kr/posts/22841

쉐어드IT에서 자세한 내용이 있네요 

참고하세요 

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 약 2달 전

H100 카드 사이에 전력 소비 불일치가 발생하면 문의내용과 같은 현상이 발생합니다. 이러한 차이는 구성 설정, 작업 부하분산, 하드웨어 변형 등 다양한 요인으로 발생하니 문제를 해결하는 참고하세요.

  • 1.H100 카드용 펌웨어와 드리어버 모두 최신으로 업데이트

  • 2.서버의 바이오스 설정 즉, PCIe 슬롯의 전력 소비에 영향을 미칠 수 있는 전원 관리 옵션을 찾아 두 슬롯 모두에 유사하게 구성되어 있는지 확인

  • 3.가능하면 두개의 H100 카드 간에 작업 부하를 균등하게 분배

  • 4.PSU 구성 확인해보세요. 드 슬롯이 모두 동일한 유형의 전원 공급 장치에 연결되어 있고 잔원 공급 장치가 두 슬롯 모두 충분한 전력을 공급하는 것이 중요


Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

0 추천 | 약 2달 전

H100 의 Specification 자료를 보면,

  • PCIe 16-pin 450 W or 600 W power mode:
    : 최대 350W 

  • PCIe 16-pin 300 W power mode:
    : 최대 310ㅉ

라고 나오네요. power mode 에 따라서 최대 W가 다른 걸로 나오네요.

pci slot 에 따라 power mode 가 다른게 아닐까 추측해 보네요~

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

1st 5stars

0 추천 | 약 2달 전

잘은 모르겠지만...

전력 사용량에 따라 최대 전력 소비량을 자동 조절하고 있는 게 아닌가 하는 추정이 드네요.

0번 슬롯은 307W 까지 사용하고 있어 최대 전력 소비량을 310W를 유지하고 있고,

1번 슬롯은 343W 까지 사용하고 있어 최대 전력 소비량을 350W로 조정된게 아닌가 하는 생각이 드네요.


최대 전력 소비량을 310W로 제한하는 명령은

nvidia-smi -pm 1

nvidia-smi -pl 310

와 같이 명령을 실행해 주면 된다는 내용이 

아래 링크 PDF 파일의 8 페이지 하단에 나오네요.

https://www.nvidia.com/content/dam/en-zz/Solutions/Data-Center/h100/PB-11773-001_v01.pdf

Reply

댓글 남기기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

답변 달기

답변을 작성 하시려면 로그인이 필요합니다.

로그인 회원가입

IT 솔루션 또는 하드웨어 도입을 검토 중 이신가요?

쉐어드IT 솔루션 상담실에서 믿을 수 있는 제품과 업체를 추천 받으실 수 있습니다.

솔루션 상담실 IT 컨시어지 서비스

하드웨어 카테고리의 다른 질문들...

  • 11일 전
  • 댓글 : 7일 전
  • 13일 전
  • 댓글 : 8일 전
  • 14일 전
  • 댓글 : 11일 전
  • 16일 전
  • 댓글 : 14일 전
  • 17일 전
  • 댓글 : 11일 전
  • 21일 전
  • 댓글 : 19일 전