【開催報告】組込み開発を加速させる「AI駆動開発」1DayセミナーAI活用が広まるなか、ソフトウェア開発の現場では「AI駆動開発」への関心が急速に高まっています。その一方で、組込みシステムの開発現場では知財保護の観点からクラウド生成AIをそのまま使いづらいクラウドAIの利用料が高騰しているといった固有の悩みがあります。こうした課題に対して、ローカルLLMを利用して自社専用・無制限に使えるAI環境を構築するというアプローチが注目されています。その背景として、いわゆる「オープンウェイトLLM」の性能の劇的な向上が挙げられます。直近数ヶ月で、GLM-5.2, Kimi-K3,...

はじめに2026年8月13日 21時30分(JST)、DeepSeek から V4-Pro の正式版 DeepSeek-V4-Pro-0813 のモデルウェイトが公開されました。4月の Preview 公開から約4ヶ月、満を持しての GA(一般提供)版です。フィックスターズでは、Kimi-K3、Qwen3.8-2.4T-A95B に続く Day1 デプロイ検証の第3弾として、公開翌日に NVIDIA B300 x8 のシングルノード環境へデプロイし、同一条件のベンチマークを実施しました。なお本シリーズでは、リリースから 24時間以内に実施した検証を「Day1 デプロイ」と呼んでい...

はじめに!前回の Kimi-K3 の記事では「Day0 デプロイ」と表記していましたが、読者の方から「オフィシャルリリースを起点に作業してデプロイする場合、Day 0 ではなく Day 1 デプロイと呼ぶのが正しいのではないか」というご指摘をいただきました。おっしゃるとおりですので、今回の記事から「Day1 デプロイ」と表記しています。ご指摘ありがとうございました。2026年8月13日 午前1時(JST)頃、Alibaba の Qwen チームから Qwen3.8-2.4T-A95B のモデルウェイトが公開されました。8月3日の発表時点で「Max クラスとしては初のオープンウ...

はじめに2026年7月27日、Moonshot AI から Kimi-K3 のモデルウェイトが公開されました。7月16日のモデル発表時点から「オープンウェイトモデルとして史上最大」と大きな話題になっていたモデルです。フィックスターズでは、ウェイト公開の当日に NVIDIA B300 x8 のシングルノード環境へデプロイし、推論性能のベンチマークを実施しました。本記事はその速報です。ダウンロード開始からベンチマーク完了まで、リリース当日のうちに一通り走り切ることができました。 Kimi-K3 とはKimi-K3 は Moonshot AI が開発したフロンティアクラスの Mo...

はじめにシドニー大学大学院の飯田大晟です。本記事は、Fixstarsでの15日間のインターンシップで取り組んだ内容をまとめたものです。音声対話モデル「KAME」は、Sakana AIが発表した、低遅延なSTSモデルと高精度なテキストLLMをハイブリッドで組み合わせたモデルです。論文ではSTSモデル並みの低遅延を達成しながら、カスケード型アーキテクチャに近い性能を達成したと報告されています。また、バックエンドLLMは差し替え可能だと主張しています。KAMEはSTTが更新されるたびにLLM呼び出しを行うため、0.4秒間隔で高頻度にLLMを叩きます。GPT-4.1とGoogle Cl...

はじめにAIインフラにおいて、現在デファクトスタンダードと言えるのは、NVIDIA GPUを用いたクラスタサーバーです。このようなシステムでは、GPU、NVLink、InfiniBandなどの高速インターコネクトが緊密に統合されており、高い性能を実現できる一方で、特定ベンダーへのロックインが課題となっています。これに対し、AMD ZenやApple Aシリーズの設計を主導したジム・ケラー（Jim Keller）率いるTenstorrentは、演算・メモリ・ネットワークを単一シリコンに統合した「Networked AI」アーキテクチャを打ち出しています。従来のAIシステムにおいて...

2026年5月14日〜15日、名古屋・中日ホール＆カンファレンスにてハイブリッド開催された「クラウドネイティブ会議」に、株式会社フィックスターズも参加しました。本イベントは、Kubernetesをはじめとするクラウドネイティブ技術の最前線を共有する場として、国内のエンジニアや企業から広く注目を集めました。本記事では、5月15日に行われたフィックスターズ CTO 飯塚 拓郎によるセッション「実践AI SRE — AIワークロードの自律的パフォーマンスエンジニアリング」の内容をお伝えします。AI利用環境をいかに最適化していくのか、実践的な示唆に富むセッションでした。開催日 : 2026年...

はじめにこんにちは、Fixstars でアルバイトをしている堀毛晴輝です。尾崎スキームとは、高精度行列積を低精度行列積に分解して計算(エミュレーション)する手法です。前回の記事: NVIDIA RTX PRO 6000 Blackwell Max-Q 上で尾崎スキーム I を動かしてみる では、cuBLAS で正式にサポートされた「尾崎スキーム I」[1] による倍精度行列積 (DGEMM) のエミュレーション性能を、ワークステーション向け最新 Blackwell GPU: NVIDIA RTX PRO 6000 Blackwell Max-Q (以下 6000 Blackwe...

はじめにGPT-OSS-120B は、OpenAI により公開された Mixture of Experts（MoE）アーキテクチャ採用の 120B パラメータ大規模言語モデルです。モデルのパラメータサイズが非常に大きいため、ファインチューニングには複数 GPU への分散が必要になります。たとえば H200 では、1 台あたりのメモリ容量が 141 [GB] であるものの、単体ではモデル全体を収めることができません。HuggingFace Transformers（以下 Transformers）の機能を使えば、モデルを複数 GPU に分割配置すること自体は可能です。しかし、この方法...

【開催報告】「生成AIを支える最適インフラ戦略 ―AI推論コネクティビティデータセンターの必要性―」生成AIの実用化が急速に進む中、企業にとって「どのようなインフラでAIを動かすか」は事業の競争力に直結する問いとなっています。このたび、フィックスターズとオプテージは、生成AI時代に求められるインフラ戦略をテーマにしたセッションに登壇しました。セッションは2部構成で、フィックスターズからはビジネス・技術の両面から「Vertical AI」の潮流と実践方法を、オプテージからは生成AI推論・学習に特化したデータセンター戦略とGPUクラウドサービスを解説しました。本セミナーへは高い関心...

2026年3月19日、フィックスターズとTOSYSの共催によるオンラインセミナー「AI先進県 長野への挑戦 インフラとフィールドが動かす 価値あるAI」を開催しました。多くの皆様にご参加いただき、誠にありがとうございました。本セミナーでは、AIインフラの地方展開、ソフトウェア高速化技術、農業AIロボットの実証、そしてフィックスターズ長野事業所の取り組みという4つのテーマで、計4セッションをお届けしました。本ブログ記事では、各セッションの内容をご紹介します。 「AI先進県 長野への挑戦 インフラとフィールドが動かす 価値あるAI」セミナー開催日: 2026年3月19日（木）12...

はじめにこんにちは、Fixstars でアルバイトをしている堀毛晴輝です。近年の生成 AI、大規模言語モデル需要の高さから、そのようなモデル学習・推論に特化したアクセラレータが多数、開発・販売されています。例えば、最近の NVIDIA GPU は、従来の科学技術計算向けの高精度演算器よりも、AI 向けの低精度演算器の搭載を重視するようになり、この流れは今後も加速すると考えられています。Fixstars Techblog にて、これまでに検証を続けてきたワークステーション向け最新 Blackwell GPU: NVIDIA RTX PRO 6000 Blackwell Max-...

概要Qwen が2026年2月に発表した最新のオープンウェイトモデル Qwen3.5 シリーズは、主にエージェント型のコーディングタスクで今までの Qwen シリーズを超える性能となっており、少なくとも今後数か月はオープンウェイトモデルとして主流の選択肢の一つとなると考えられます。そこで今回は、 Qwen3.5 シリーズから中規模のモデル Qwen3.5-27B を使用して、次の 4 種類のデバイスで推論速度を調査しました。H200 （エンタープライズ向け GPU ）RTX PRO 6000 Blackwell Max-Q Workstation Edition（ワークステー...

概要LLM を高速に推論する手法の一つに投機的デコード (Speculative Decoding) があります。この記事では、OpenAI 社のオープンウェイト LLM gpt-oss-120b を題材として、投機的デコード手法のひとつである EAGLE-3 を使うことによる実行時間の変化を NVIDIA RTX PRO 6000 Blackwell Max-Q Workstation Edition で測定し、どのような場合に EAGLE-3 を使うのが適切かについて検討しました。 手法まず、今回の記事で利用する手法について簡単に説明します。 投機的デコードhttp...

はじめにFixstars でアルバイトをしている若林大起です。これまでの連載では、LoRA 学習のプロファイリング や MPS による GPU 活用 を通じて、同アーキテクチャの性能を引き出す手法を模索してきました。しかし、画像とテキストを同時に扱う大規模マルチモーダルモデル (LMM) は、その計算コストの高さと複雑なデータ構造ゆえに、単一のテキストモデルよりも最適化の難易度が高い傾向にあります。そこで今回は、LMM の学習最適化におけるベストプラクティスを調査するため、NVIDIA Blackwell アーキテクチャおよび LLaVA-NeXT を題材に、LLM の高速化で一...

はじめにこんにちは。フィックスターズでアルバイトとして研究を行っている小島です。大規模言語モデル（LLM）の巨大化は、法外な Fine-tuning のコストという新たな課題を生み出しました。大規模化した LLM の恩恵を享受したい開発者にとって、その手段は自明ではありません。同時に、学習済みモデルをいかにして高速かつ安定的にデプロイするかは、実用化に向けた共通の課題となっています。本記事では、それら二つの大きな壁を打ち破るための技術スタックを紹介します。まず、Fine-tuning 時のメモリ問題を解析します。次に、 QLoRA による効率的な Fine-tuning で計算...

7. 【新ワークフロー】TensorRT-LLM を用いたデプロイ 7.1 TensorRT-LLM 概要(新情報)TensorRT-LLMは、NVIDIA GPU上で最新の大規模言語モデル（LLM）の推論性能を高速化・最適化するための、NVIDIAの包括的なオープンソースライブラリです。TensorRT-LLMのワークフローは以下の通りです。参考NeMo ------------- |HuggingFace ------ | load ...

2026年1月23日（金）に開催された、「【出版記念/オフライン開催】実践的パフォーマンスエンジニアリングによるAI高速化×Data-centric AI入門セミナー」 のレポートをお届けします。本セミナーは、技術評論社の「ML Systemsシリーズ」の新刊『実践的パフォーマンスエンジニアリングによるAI高速化』と、同シリーズの先輩書籍にあたる『Data-centric AI入門』の著者陣をお招きし、AI開発における「高品質なデータ」と「処理高速化」の両輪について深掘りするイベントとなりました。当日の熱気あふれるセッションの模様をダイジェストでご紹介します。 セッション1：...

概要Fixstars AIStation（以降 AIStation）を利用し、verl による強化学習を試行しました。検証の結果、特定の条件下において、 Qwen2.5-7B-Instruct は OOM（Out of Memory）により学習不可能でしたが、より小さいモデルである Qwen2.5-3B-Instruct は学習可能であることが判明しました。このことから、条件に依存するものの、小規模なパラメータを持つモデルであれば、AIStation でも verl による強化学習が実施可能であることが示されました。 はじめにこんにちは、ソリューション第四事業部ディレ...

はじめにFixstars でアルバイトをしている若林大起です。前回の記事では、最新の NVIDIA Blackwell アーキテクチャ上での LoRA ファインチューニングにおいて、PyTorch Profiler を駆使してカーネル発行のボトルネックを特定し、単一 AI タスクの学習速度を高速化する手法を紹介しました。しかし、GPU リソースの活用という観点では、「1つのタスクを速くする」ことだけが正解ではありません。特に推論サーバや多数の実験を回す MLOps 基盤においては、「いかに多くのタスクを同時にさばくか（スループット）」がコスト対効果を決定づけます。今回は、このよう...