【西川和久の不定期コラム】ちょい古ゲーミングPCで「Qwen3.8-Flash-Next」を動せる「Strata」を試してみた!
AI要約このニュースのポイント
西川和久氏は、Alibabaが公開した1250億パラメーターのマルチモーダルモデル「Qwen3.8-Flash-Next」を、VRAM 12GBのGeForce RTX 3060搭載PCで動作させる推論エンジン「Strata」を検証した。
西川和久氏は、Alibabaが公開した1250億パラメーターのマルチモーダルモデル「Qwen3.8-Flash-Next」を、VRAM 12GBのGeForce RTX 3060搭載PCで動作させる推論エンジン「Strata」を検証した。通常、同モデルはVRAM 40GB弱が必要で12GBでは起動不可能だが、StrataはGPU、RAM、SSDの3層に処理を分散させることで実現。Core i9-12900とDDR4メモリの環境でIQ2_XS量子化モデルを試した結果、デコード速度34~44tok/sと実用範囲で動作した。2世代前のエントリーGPUでも巨大モデルが動くことは、ローカルAIのハードルを下げると評価している。
- VRAM 12GBのRTX 3060で125Bモデルが動作
- 推論エンジン「Strata」がGPU/RAM/SSDを3層活用
- デコード速度34~44tok/sで実用レベル
西川和久氏は、Alibabaが公開した1250億パラメーターのマルチモーダルモデル「Qwen3.8-Flash-Next」を、VRAM 12GBのGeForce RTX 3060搭載PCで動作させる推論エンジン「Strata」を検証した。通常、同モデルはVRAM 40GB弱が必要で12GBでは起動不可能だが、StrataはGPU、RAM、SSDの3層に処理を分散させることで実現。Core i9-12900とDDR4メモリの環境でIQ2_XS量子化モデルを試した結果、デコード速度34~44tok/sと実用範囲で動作した。2世代前のエントリーGPUでも巨大モデルが動くことは、ローカルAIのハードルを下げると評価している。
- VRAM 12GBのRTX 3060で125Bモデルが動作
- 推論エンジン「Strata」がGPU/RAM/SSDを3層活用
- デコード速度34~44tok/sで実用レベル
背景・用語
Qwen3.8-Flash-Nextは総パラメータ125B、アクティブ6BのMoEモデル。
ほかのメディアが伝えたポイント
報道の広がり
GIGAZINEが10/5 21:08に最初に報じ、39時間で2のメディアに広がりました。
この要約はAIが元記事をもとに作成し、運営者が確認して掲載しています。正確な内容や詳細は元記事でご確認ください。要約の作り方は編集方針をご覧ください。
この話題を報じたほかのメディア
テクノロジーのAI要約
一覧 →- イーロン・マスクがTSMCのTerafab運営関与を否定、敷地の一部を貸与する可能性のみ
AI要約イーロン・マスク氏は、テスラやxAI、SpaceXなどが主導する大規模半導体製造プロジェクト「Terafab」について、TSMCが運営に携わる可能性を否定した。一部でTSMCが工場の運営を支援するという臆測が報じられたが、マスク氏は「我々が工場を建設し、運営する」と明言し、TSMCが敷地の一部をサブリースする可能性にとどまると説明している。
- [アップデート] AWS Continuum のペネトレーションテストが CI/CD パイプライン統合に対応したので GitHub Actions で試してみた
AI要約AWS Continuum for Penetration TestingがCI/CDパイプラインへの統合に対応し、パブリックプレビューとして提供開始された。GitHub Actionsなどのパイプラインから公式アクションを呼び出すことで、デプロイ後のペネトレーションテストを自動実行し、深刻な問題を検出した際にリリースをブロックできる。利用にはコンソールでのCI/CDモードの有効化と、必要なIAM権限の付与が必要。
- ClaudeにAPI利用枠を無償配布、Max 20xは毎月200ドル分
AI要約Anthropicは10月8日、AIチャットボット「Claude」の定額プラン「Claude Max」と「Claude Team」の契約者を対象に、毎月のAPIクレジットを無償配布すると発表した。月額100ドルのMax 5xには100ドル分、月額200ドルのMax 20xには200ドル分が付与され、Teamは組織全体で最大500ドル分まで合算できる。同日提供が始まった「Claude Haiku 5.5」を含む全モデルのAPI呼び出しに利用できる。
- 次世代XRグラス「XREAL AURA」の価格発表、22万9800円~
AI要約XREALは、メガネ型XRデバイス「XREAL AURA」の価格を発表した。12GBメモリと256GBストレージのモデルは22万9800円、16GBメモリと512GBストレージのモデルは26万9800円。10月7日までに事前予約権を購入済みのユーザー向けに残金決済の受付を開始し、年内の出荷を予定している。グラス本体とコンピューティングパックを分離した軽量設計と、Android XRプラットフォームを採用している。
- 【本日みつけたお買い得品】32GBメモリ/1TB SSDのRTX 5070搭載ゲーミングノートが6万円オフ
AI要約Amazonにおいて、ASUSの16型ゲーミングノートPC「TUF Gaming A16 FA608UP」が直近価格から6万円引きの34万9,800円で販売されている。CPUにRyzen 7 260、GPUにGeForce RTX 5070 Laptop GPU、32GBメモリ、1TB SSDを搭載する。また、ASUS「Gaming V16 V3607VH」が5万円引きの18万9,800円、MSI「Cyborg 15 B13W」が2万2,100円引きの19万7,700円で購入できる。セール内容や価格は予告なく変更される場合がある。
テクノロジーの新着
もっと見る →- さくらインターネット、GPU専有によりトークン消費量を気にせず定額で利用できる「さくらのAI Engineプライベートエディション」提供開始を発表
- AIトレーニング用のオープンな生物学データセット構築のためアメリカ政府が5億ドルを投資、Meta・Google DeepMind・Isomorphic Labsはそれぞれ3億ドル投資
- 3万100円引き! 約1.14kgで有機EL&Office付きのLenovo「Yoga Slim 7」が16万9800円
- アマゾン、Google Play対応のキッズタブレット 「ちいかわ」も
- Amazon初、Google Playストア対応のキッズ向けタブレット。「ちいかわ」エディションも
- 10月8日開催のTwilio SIGNAL Tokyo 2026に参加してきました