生成 AI の GPU 不足に対処するため、スタートアップはハードウェアの最適化に取り組んでいます from venturebeat.com

CentML は、精度に影響を与えることなく、現在の AI チップ供給と従来の在庫から生産量を拡大することで、GPU の「壊れた」市場と呼ばれる市場でのコンピューティングへのアクセスを増やすことができると述べています。
同氏は「何が起こっているかは非常に透明だった」と語り、GPU市場の約80％を支配するNvidiaに自分の資金を注ぎ込んだことさえ笑いながら付け加えた。
しかし、NVIDIA は常に、最新の A100 GPU や H100 GPU などの最も高価なチップを販売したいと考えているが、そのため中小企業がアクセスすることが困難になっていると同氏は説明した。
「私たちは、クラウドで利用可能な最も高価な GPU だけでなく、利用可能なすべての GPU 上でそれらのモデルを効率的に最適化するソフトウェアを構築しています」と同氏は述べました。
Radical Ventures のパートナーである David Katz 氏は、AI チップへのアクセスをめぐる戦いは「ゲーム・オブ・スローンズ」のようになっていますが、それほど悲惨ではないと述べています。
「これらのモデルや大規模なモデルを実行するために必要なコンピューティングに対する飽くなき欲求があります」と同氏は VentureBeat に語り、Radical は昨年 CentML に投資したと付け加えた。