Stable Diffusion 生成 AI はスマートフォンで実行できますか?クアルコムは言う—はい、できます from venturebeat.com

Stable Diffusion のような世界で最も高度な生成 AI モデルは、通常、クラウドでのみ実行されます。
本日発表された研究で、Qualcomm は、ソフトウェア技術とハードウェア最適化の組み合わせを使用して、一般的な Android スマートフォン デバイスで推論モデルを実行できるように Stable Diffusion を縮小できたことを明らかにしました。
Hou 氏は、Qualcomm AI Engine で行われた全体的な最適化により、実行時のレイテンシと消費電力が大幅に削減されたと述べています。
彼は、Stable Diffusion をスマートフォンで適切に実行するために行われたすべての作業は、クアルコム AI スタックの将来の反復とユーザーに利益をもたらすと付け加えました。
今後、クアルコムは学んだ教訓に基づいて構築し、他の大規模なジェネレーティブ AI モデル (GPT のようなモデル) をクラウドからデバイスにもたらすと Hou 氏は述べています。
「エッジ AI 処理は、入力テキストと生成された画像がデバイスを離れる必要がないため、Stable Diffusion やその他の生成 AI モデルを実行しながらユーザーのプライバシーを確​​保します。これは、コンシューマ アプリケーションとエンタープライズ アプリケーションの両方の採用にとって大きな問題です。」