トピあつめ

ニュースを「記事」ではなく「話題」で読む。

あとで読む

テクノロジーPC Watch2媒体が報道

【西川和久の不定期コラム】ちょい古ゲーミングPCで「Qwen3.8-Flash-Next」を動せる「Strata」を試してみた!

AI要約このニュースのポイント

西川和久氏は、Alibabaが公開した1250億パラメーターのマルチモーダルモデル「Qwen3.8-Flash-Next」を、VRAM 12GBのGeForce RTX 3060搭載PCで動作させる推論エンジン「Strata」を検証した。通常、同モデルはVRAM 40GB弱が必要で12GBでは起動不可能だが、StrataはGPU、RAM、SSDの3層に処理を分散させることで実現。Core i9-12900とDDR4メモリの環境でIQ2_XS量子化モデルを試した結果、デコード速度34~44tok/sと実用範囲で動作した。2世代前のエントリーGPUでも巨大モデルが動くことは、ローカルAIのハードルを下げると評価している。

  • VRAM 12GBのRTX 3060で125Bモデルが動作
  • 推論エンジン「Strata」がGPU/RAM/SSDを3層活用
  • デコード速度34~44tok/sで実用レベル

この要約はAIが元記事をもとに作成し、運営者が確認して掲載しています。正確な内容や詳細は元記事でご確認ください。要約の作り方は編集方針をご覧ください。

2社この話題を報じた2のメディアの報道を比べる初報・報道の広がり・各メディアの見出し

この話題を報じたほかのメディア

テクノロジーのAI要約

一覧 →

テクノロジーの新着

もっと見る →