「0.6Bみたいな小さいモデルでも、専用タスクなら戦える」

NVIDIA Model Customization Bootcampに参加し、合成データ生成→強化学習(GRPO)→エージェント化のパイプラインを体験しました🧵

#NVIDIA #LLM #強化学習

Qwen3-0.6BにLoRA+GRPOでツール呼び出しを学習。

ポイントは報酬設計。正解一致だけでなく「有効なJSONなら+0.3点」の形式ボーナスが無いと、学習序盤でモデルが詰まります。

#GRPO #LoRa #ファインチューニング

もう一つの山場は合成データの品質管理。思考トレースの漏れ込みや入力とラベルの不整合など、検証してから学習データにする工程が一番大事でした。

詳細はこちら👇
qiita.com/hu-work/items/…

#合成データ #AI技術

AI駆動開発で人月モデルが崩壊するなら、コンサルは成果報酬に本気で向き合わざるを得なくなる——という話です。

日本のコンサル業界がなぜ成果報酬に踏み切れないのか、FDEはその壁を壊す"黒船"になり得るのか考えました。

#FDE #コンサル

成果報酬への移行を阻む壁は3つ。
・セールスが"アウトプット"でなく"成果"を売れるか
・成果報酬をどう見積もるか誰も知らない
・デリバリー側の「失敗しなければ良い」という意識改革

続きはこちら👇
qiita.com/takashit2/item…

#プリセールス #AI駆動開発

もう一つの山場は合成データの品質管理。思考トレースの漏れ込みや入力とラベルの不整合など、検証してから学習データにする工程が一番大事でした。

詳細はこちら👇
qiita.com/hu-work/items/…

#合成データ #AI技術

「RAGを導入したのに、なぜか使われない」

原因は精度でも画面デザインでもなく、地味な"面倒くささ"だったという考察です。

Claude Code CLIのスキル機能を使い、ドキュメント共有と質問をターミナル上の会話に溶け込ませるUX設計を考えてみました🧵
#ClaudeCode

「管理画面を開く→アップロード」「チャットを開く→知識を選ぶ→質問する」という従来の手順を、`/upload`と打つだけ・`/rag 質問文`と打つだけに圧縮。

ユーザーを移動させず、今いる場所（ターミナル）にRAGの入口を置く、という設計思想です。

qiita.com/FPT_Yoshida/it…

#RAG #CLI #UX設計

生成AIの推論エンジン、結局「体感の速さ」ってどこで差がつくか気になりませんか？

FPT CLOUDのH200 GPU VM上で、OllamaとvLLMをGemma 4 12B(BF16)・同一条件で実測比較しました。

答えは「生成速度」より「最初の1文字が出るまで」にありました🧵

#FPTCLOUD #GPU #生成AI

【結果】
・TTFT(初回応答までの時間): vLLMが約20倍高速
・TPS(生成トークン数/秒): vLLMが約1.16倍高速

体感速度の差は「生成の速さ」より「反応の速さ」に強く引っ張られていました。

#LLM推論 #AIインフラ

「検証はOllama、本番はvLLM」という住み分けの背景を、数字で確認したい方へ。GPU基盤選定やプリセールスの現場でも役立つ内容です👇

qiita.com/hu-work/items/…

#FPTCLOUD #AI #GPU #プリセールス

Qiitaで技術発信しております！是非皆様ブログを読んでいただいてフォローをお願い致します！
qiita.com/organizations/…

NVIDIA H200のGPUクラウドサービスに関する情報も発信しております。
#nvidia #h200 #fptsmartcloud #gpu #ai #llm

「生成AIにGPUは本当に必要なのか？」

Gemma 4（12B）で実測しました。

CPU VM　：約168秒
H200 GPU VM：約12秒

差は約14.3倍。
これはもう、性能差ではなく体験の差です。

#GPU #H200 #LLM #生成AI #NVIDIA

📊 検証のポイント

✅ 軽量モデル（e4b）でも約12倍の差が発生
✅「モデルを軽くする」≠「GPUの代替」
✅ H200の速さの源泉は141GB HBM3e・約4.8TB/s
✅ CPUは「動く」だけ、H200は「使える」レベルで応答

数字で語れるから、説得力が違います。

この検証はFPT CLOUDのH200 GPU VMで実施しました。

最新世代のGPUをオンデマンドで即利用できる環境が
FPT CLOUDの強みです。

GPU導入を検討されている方に、ぜひ読んでいただきたい内容です。

▶ qiita.com/hu-work/items/…

#FPTCLOUD #GPUクラウド #FPT_AI_FACTORY

NVIDIA H200を8枚搭載したベアメタルサーバーを
クラウドのコンソールから数クリックで起動できます。

FPT CLOUDのMetal Cloudを
実際の手順とともに紹介しました。

#GPU #H200 #ベアメタル #AIインフラ #NVIDIA

📌 この記事でわかること

✅ なぜ大規模AI学習にベアメタルが必要なのか
✅ VMとベアメタルの性能面の違い
✅ InfiniBandによるマルチノード分散学習構成
✅ コンソールからの環境構築手順（サブネット〜SSH接続まで）
✅ nvidia-smiでH200×8枚の認識確認

FPT CLOUDでは、ベアメタル（Metal Cloud）から
仮想マシンまで幅広いGPUインフラを提供しています。

さらにFPT AI FACTORYでは、
ファインチューニングや推論環境をノーコードで構築可能です🔧

▶ qiita.com/hu-work/items/…

#FPTCLOUD #FPT_AI_FACTORY #GPUクラウド