블랙웰은 "흥미로운 시간"을 제안합니다

“지금은 매우 흥미로운 시기입니다.”라고 그는 말했습니다. Blackwell의 발표는 규모에 관해 흥미로운 대화를 불러일으켰습니다. Blackwell과 DGX 2세대 시스템은 아마도 한동안 일반적으로 사용 가능하지 않을 것입니다. 따라서 이는 흥미로운 인수 전략을 만듭니다. '오늘 H1o0, Bluefield 등의 Hopper 기본 시스템을 구입하고 오늘 해당 시스템을 사용해 본 다음 이러한 이중 다이 시스템이 단일 Hopper로 간주된다는 사실에 의존합니까? 시스템을 개발하고 이러한 시스템을 중심으로 인프라와 제품을 개발하거나 설계 및 구축할 수 있습니까?'

그는 계속해서 시스템 간의 성능 차이에 관해 약간의 논쟁이 있다고 말했습니다. "Nvidia는 숫자에 대해 불분명했지만 대부분의 사람들은 한 시스템과 다른 시스템에서 30배 성능을 기대하고 있습니다. 제가 실제로 볼 수 있었던 것은 일부 성능 테스트에서 어떤 경우에는 훈련이 5배 향상되었음을 입증했다는 것입니다. Blackwell 프로세서를 사용하는 시스템의 경우 시간이 많이 걸립니다.”

Nvidia는 FP8(8비트 양자화 또는 벡터화)에서 다른 기술을 사용하는 FP4로 전환하고 있으며 이로 인해 30x 성능을 정량화하고 검증하기가 어렵다고 Townsend가 설명했습니다. “주관적입니다. . . 모델과 모델을 실행하는 소프트웨어 모두 끊임없이 변화하고 있습니다.”라고 덧붙였습니다.

AI 칩이 다룰 수 있는 전체 시장은 205억 달러로 추산됩니다. Townsend는 “이것은 믿을 수 없을 정도로 큰 시장입니다. 그러나 AI 칩과 이를 실행하는 서버는 AI 골드러시의 선택과 삽일 뿐이라는 점을 명심하십시오. 그 가치는 AI가 가능하게 하는 생산성과 새로운 비즈니스 모델입니다.”