【米国株】データセンター向けGPUは学習NVDA、推論AMDって棲み分けになる気がしてきた？

米国株


612: 山師さん 2023/05/27(土) 00:09:42.15 ID:b8HP8yJx0
データセンター向けGPUは将来、学習は NVDA、推論はAMDって棲み分けになる気がしてきた。
NVDA売ってAMD買おうかな
621: 山師さん 2023/05/27(土) 00:11:17.34 ID:pg9UbyEba
>>612
わざわざ分ける意味ある？
同じ拠点で使うなら学習に使ってる環境で移行できる方そのまま使ったほうが早くない？
 
662: 山師さん 2023/05/27(土) 00:19:12.34 ID:b8HP8yJx0
>>621
学習の方は日進月歩で競い合ってる世界だからCUDA一択。
でも推論は学習済みのNNを演算するだけだから、別にCUDAじゃなくたって大して問題ない。
AMDだったらx86でCPUGPU一体化した低消費電力のシステム作れる。gpt-4クラスだと電気代がやばすぎんのよ
 
670: 山師さん 2023/05/27(土) 00:20:58.51 ID:pg9UbyEba
>>662
それ別にAMDである必要性がないのでは
NVDAも低消費電力あるし
スマホ用に特化とかやるわけでもなし同じデータ扱うのにシステム分けるのはあんまり筋良くないし
 
674: 山師さん 2023/05/27(土) 00:22:06.59 ID:Ah6sP+uHM
>>670
どっちかっていうとザイリンクス買収したFPGAの方じゃね
696: 山師さん 2023/05/27(土) 00:25:45.18 ID:pg9UbyEba
>>674
あーなるほどねそれはわかるわ
CPU統合云々言ってるからGPUの話かと
でもAMDってARMとかRISCVとか作ってたっけ？
 
766: 山師さん 2023/05/27(土) 00:35:02.03 ID:ub/rjj8h0
>>696
ARMはappleと同じ権限レベルのカスタマイズライセンス保持しているよ
RISC-Vは、AV1のエンコボードに試しに面白いから作ってみたで実用的な製品出しているよ
 
790: 山師さん 2023/05/27(土) 00:39:28.44 ID:pg9UbyEba
>>766
それでジムケラーのK12蹴ったのが謎すぎる…
 
733: 山師さん 2023/05/27(土) 00:29:52.52 ID:b8HP8yJx0
>>670
推論のシステムの選択肢は3つ
①x86 CPU+NVDA GPU :現状な
②NVDA製ARM+NVDA GPU一体システム:NVDAが今度出す。エネルギー効率良い
③AMDのx86 CPUGPU一体:AMDも今年後半に出す。こちらもエネルギー効率良い
今後の推論はどれが主流か予想すると、それぞれ一長一短なんだけど、推論の実行システムとしては、優先順位は消費電力>x86>GPUなんじゃないかなと。
そうすると③が広まる可能性がある
 
755: 山師さん 2023/05/27(土) 00:33:28.43 ID:pg9UbyEba
>>733
x86は正直ゴミだよ
初期も運用もコスト低いGraviton(Amazon)とAmpere(MS/Oracle)が順調にシェア増えてるのに
囲い込みされてるでもなきゃ今更x86を積極的に採用する理由はないと思う
AMDがARMやRiscVに振るならわからんでもない
 
798: 山師さん 2023/05/27(土) 00:40:28.94 ID:b8HP8yJx0
>>755
手元のPCのCPUはx86だろ
サーバーサイドのプログラムを自分のPCでも実行して確認出来るってのは開発・運用上大きいってじっちゃんが言ってた。
それが出来なくなるARMへの移行は相当なハードルだよ
832: 山師さん 2023/05/27(土) 00:45:40.37 ID:pg9UbyEba
>>798
依存関係が逆じゃねえかな
クライアントがx86だからサーバーもそうするんじゃなく
サーバーに合わせて開発側がクライアント変える
 
837: 山師さん 2023/05/27(土) 00:47:34.80 ID:pg9UbyEba
>>798
ちなみにWebとかはサーバーに合わせて移行してるとこは多いよ
というかそもそもサーバー環境で開発してんだからあんま関係ない
 
852: 山師さん 2023/05/27(土) 00:52:59.34 ID:b8HP8yJx0
>>837
ARMが絶対ダメとは言ってないよ。ただ、現状の主流はx86でARMに移行するにはハードルがあるって言ってるの。
だから明らかに安くてメリットのあるARMのインスタンスだって、限定的にしか広まってないわけ。
以上
 
858: 山師さん 2023/05/27(土) 00:53:56.67 ID:pg9UbyEba
>>852
その肝心のMSはARMに移行したがってんだわ…
 
763: 山師さん 2023/05/27(土) 00:34:53.35 ID:pg9UbyEba
>>733
一応言っておくとNvidiaは既にARM一体のボードある
 
638: 山師さん 2023/05/27(土) 00:14:29.62 ID:BR2Qkjfza
AMDのGPUは安い割に性能いいならバカ高のNVDAを代替する可能性あるね
一時期のathronみたいに
 
639: 山師さん 2023/05/27(土) 00:14:35.33 ID:FyE5I5Afa
ゲームやらなきゃGPUなんていらなかったしな
Intelの込み込みのチップで十分だもん
648: 山師さん 2023/05/27(土) 00:16:35.88 ID:uDyCCNcid
どこが買っても上がるTSMCを買っていれば良いし
最悪INTCがTSMC超えるかもしれないのでASML買っておけば良い
 
657: 山師さん 2023/05/27(土) 00:18:14.40 ID:pg9UbyEba
>>648
INTCはMeteorLake延期した時点でもうゾンビ確定だぞ
 
708: 山師さん 2023/05/27(土) 00:26:50.48 ID:xJ45n6AnM

AMDにAI向けGPUにMSFTが協力するらしいからワンチャンある

NVDAはカスタムしてくれないしこうしたらイイってのがあるのかも

 
719: 山師さん 2023/05/27(土) 00:28:10.97 ID:pg9UbyEba
>>708
MSFTはそんな短絡的な企業じゃないから
そのうちMetaみたいに自社で作ると思うよ
 
717: 山師さん 2023/05/27(土) 00:27:41.34 ID:uDyCCNcid
chat GPTってARMでも動くんか？
CUDAはARMで使えるのはわかったが
 
739: 山師さん 2023/05/27(土) 00:30:43.97 ID:pg9UbyEba
>>717
そもそもGPTそれ自体はプラットフォーム依存じゃないし
FPGA使ってハード自体をGPT専用にカスタムするなら軽快に動く
ただ特化させるにはそれなりにコストもあるのでトレードオフ
 
872: 山師さん 2023/05/27(土) 00:56:49.61 ID:pg9UbyEba
限定的とか言ってるけど一昨年から比べてもデータセンターのARMのシェア普通にじわじわ増えてんだけどな…
既に1割近くになってきてるし

引用元: https://egg.5ch.net/test/read.cgi/stock/1685108377/