SemiAnalysisAI/InferenceXPython496

InferenceX™は、AI推論フレームワーク(vLLM、SGLang、TensorRT-LLMなど)のパフォーマンスを毎晩自動でベンチマークするオープンソースツールです。NVIDIA H100、B200、GB200やAMD MI355Xなど最新のGPUでの実測性能を継続的に追跡し、リアルタイムでダッシュボードに公開しています。AI推論の最新性能を把握したい企業や研究者が、ハードウェア選定や最適化の判断材料として活用できます。ソフトウェアの進歩が日々続く中で、常に最新の性能データを提供する貴重なリソースです。

ユースケース: AI推論システムの性能比較やハードウェア選定の判断材料として使用

  • 毎晩自動で最新のベンチマーク結果を更新
  • 複数の主要GPU(NVIDIA、AMD)での実測比較データを提供
GitHubで見る →

Open Source Continuous Inference Benchmarking Qwen3.5, DeepSeek, GPTOSS - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 vs H100 & soon™ TPUv6e/v7/Trainium2/3

関連リポジトリ

写真1枚でリアルタイム顔入れ替え!ワンクリックでディープフェイク映像を生成 — Deep-Live-Cam

hacksider/Deep-Live-CamPython90.5k

Deep-Live-Camは、たった1枚の写真を用意するだけで、ウェブカメラの映像やビデオの中の顔をリアルタイムに別人の顔に入れ替えられるソフトウェアです。「顔を選ぶ→カメラを選ぶ→ライブボタンを押す

AIに「このサイトで○○して」と頼むだけ!ブラウザ操作を全自動化するエージェント — browser-use

browser-use/browser-usePython84.1k

browser-useは、AI(人工知能)にウェブブラウザを操作させて、オンラインの作業を自動化できるPython製のツールです。「この求人に応募して」「買い物リストの商品をカートに入れて」といった自

AIモデルの実行も学習もブラウザ画面ひとつで完結!最大2倍速・VRAM70%削減の万能ツール — unsloth

unslothai/unslothPython57.0k

Unslothは、Qwen、DeepSeek、Gemma、LlamaなどのオープンソースAIモデルを自分のパソコンで動かしたり、追加学習(ファインチューニング)したりできる統合ツールです。ブラウザから

たった1万5千円で自分だけのChatGPTを作れる!GPT-2級AIを2時間で訓練 — nanochat

karpathy/nanochatPython46.5k

nanochatは、大規模言語モデル(人間のように文章を書くAI)を自分で一から作って、ChatGPTのような対話画面で会話できるようにするツールです。2019年に約600万円かかったGPT-2という

たった3元・2時間でゼロからGPTを訓練!超軽量26MパラメータのAI言語モデル — minimind

jingyaogong/minimindPython42.9k

MiniMindは、大規模言語モデル(人間と会話できるAI)をゼロから自分の手で作れるオープンソースプロジェクトです。通常のAIモデルは数百億のパラメータ(AIの脳細胞のようなもの)を持ちますが、Mi