NVIDIAがAIエージェントによるタスクをローカルで実行するための「Nemotron 3.5 Bolt 74B-A9B 24GB」を発表
AI要約このニュースのポイント
NVIDIAは10月15日、ローカルでのAIエージェントタスク実行向けモデル「Nemotron 3.5 Bolt 74B-A9B 24GB」を公開した。
NVIDIAは10月15日、ローカルでのAIエージェントタスク実行向けモデル「Nemotron 3.5 Bolt 74B-A9B 24GB」を公開した。MoEとMamba、Transformerを組み合わせたハイブリッド構造を採用し、1200億パラメータの親モデルを構造化圧縮と2ビット量子化で740億パラメータに削減している。24GBのメモリに収まり、毎秒80トークン以上のデコード速度を達成する。
NVIDIAは10月15日、ローカルでのAIエージェントタスク実行向けモデル「Nemotron 3.5 Bolt 74B-A9B 24GB」を公開した。MoEとMamba、Transformerを組み合わせたハイブリッド構造を採用し、1200億パラメータの親モデルを構造化圧縮と2ビット量子化で740億パラメータに削減している。24GBのメモリに収まり、毎秒80トークン以上のデコード速度を達成する。
背景・用語
Star Elasticは、大規模モデルから予算別に小規模モデルを切り出す構造化圧縮手法。
報道の広がり
AI Watchが10/16 00:00に最初に報じ、16時間で4のメディアに広がりました。
この要約はAIが元記事をもとに作成し、運営者が確認して掲載しています。正確な内容や詳細は元記事でご確認ください。要約の作り方は編集方針をご覧ください。
この話題を報じたほかのメディア
関連するAI要約
一覧 →- Microsoftが第3世代AIチップ「Maia 300」を発表、最新の推論モデルやエージェントタスクの処理能力向上へ向けて2027年に導入予定
AI要約Microsoftは10月12日、第3世代カスタムAIチップ「Maia 300」を2027年に導入すると発表した。主要GPUシステムと比較してメガワットあたりのトークン提供量が40%多く、完全な構成時にはMaia 200の最大7倍の出力を実現する。サティア・ナデラCEOは、マルチギガワット展開に1750億ドル以上を投じる計画を示しており、NVIDIAへの依存軽減を目指す。
- Meta、米国製史上最高オープンウェイトAIモデルを謳う「Muse Spark Open」公開!8160億パラメータ、Mac Studio 2台で動作
AI要約Metaは10月15日、米国製で最も高性能なオープンウェイトモデルと謳う「Muse Spark Open」を公開した。総パラメーター数8160億、アクティブパラメーター420億のMoEモデルで、100万トークンの文脈を扱える。コーディングや複雑なソフトウェア開発、多段階の推論を得意とする。M5 Ultra搭載のMac Studio 2台での実行を推奨しており、Together AIなどのAPIでも利用可能。中国企業のモデルが性能を競うオープンウェイト分野に、米国の大手が本格的なモデルの重みを公開した。
- NotionがAIエージェントではなく、コンテキスト基盤に注力する理由
AI要約Notion Labs Japanは10月1日、メディア向けラウンドテーブルを開催し、AI戦略について説明した。CEOのアイバン・ザオ氏らは、単なるAIエージェント機能の追加ではなく、ユーザーのデータや文脈(コンテキスト)を理解し整理する基盤としてのAIに注力する方針を示した。Notion内の情報資産をAIが活用することで、よりパーソナライズされた支援が可能になるとしている。
- ついに来た! NVIDIA独自SoC「RTX Spark」を搭載するノートPC「Surface Laptop Ultra」の予約受付をMicrosoftが開始
AI要約Microsoftは10月7日、NVIDIA製SoC「RTX Spark」を搭載するノートPC「Surface Laptop Ultra」を発表し、予約受付を開始した。国内税込価格は51万3480円からで、最上位モデルはメモリ128GBを搭載する。最大1ペタフロップスのAI演算性能を持ち、ローカルで大規模AIモデルを実行可能。15.4インチのPixelSense Flowディスプレイを採用し、10月下旬以降に発売予定。
- Surface Laptop Ultra予約開始、最大1ペタフロップスのAI性能を持つ新ノート
AI要約ソフマップは10月8日、Microsoftの新型ノートPC「Surface Laptop Ultra」の予約受付を開始した。NVIDIA RTX Spark N1Xを搭載し、最大1ペタフロップスのAI演算性能を実現。15型のタッチ対応ディスプレイは最大2000nitsの輝度を持ち、重量は2kg以下。10月下旬の発売を予定しており、AI PCとしての実力が試される。
テクノロジーの新着
もっと見る →- 「東京レガシーハーフマラソン2026」の開催に伴い、18日は秋葉原周辺道路で交通規制
- 11.6型「Chromebook x360 11 G3 EE」が7,800円!タブレットスタイルもOKな中古品セール
- 「U-NEXT」の1,200ポイント付き30日見放題コードが30%オフ!Amazonプライム感謝祭
- 「RTX Spark」でAI動画を生成したら爆速すぎだった=ASUS「ProArt P14」実機レビュー=3D性能はRTX5060レベル
- MicrosoftのRTX Spark搭載15インチノートPC「Surface Laptop Ultra」、価格は51万円超から
- ゲーミングPCが最大18万7000円引き・送料無料! パソコンショップSEVENの10月17日限定セール