pytorch/executorchPython4.3k

ExecuTorchは、PyTorchモデルをスマートフォンからマイクロコントローラーまで幅広いデバイスで実行するためのオンデバイスAI推論フレームワークです。Metaが開発し、Instagram、WhatsApp、Quest 3などで実際に使用されている本格的なプロダクションツールです。50KBの軽量ランタイムでLLM、画像認識、音声処理などのモデルを直接PyTorchからエクスポートして高速実行できます。12以上のハードウェアバックエンドに対応し、プライバシーとパフォーマンスを重視したオンデバイス推論を実現します。

ユースケース: モバイルアプリやIoTデバイスでのリアルタイムAI推論、プライベートで高速なオンデバイス機械学習の実装

  • Metaの本格プロダクション実績
  • 50KB軽量ランタイム
  • PyTorchからの直接エクスポート
GitHubで見る →

On-device AI across mobile, embedded and edge for PyTorch

関連リポジトリ

写真1枚でリアルタイム顔入れ替え!ワンクリックでディープフェイク映像を生成 — Deep-Live-Cam

hacksider/Deep-Live-CamPython90.5k

Deep-Live-Camは、たった1枚の写真を用意するだけで、ウェブカメラの映像やビデオの中の顔をリアルタイムに別人の顔に入れ替えられるソフトウェアです。「顔を選ぶ→カメラを選ぶ→ライブボタンを押す

たった1万5千円で自分だけのChatGPTを作れる!GPT-2級AIを2時間で訓練 — nanochat

karpathy/nanochatPython46.5k

nanochatは、大規模言語モデル(人間のように文章を書くAI)を自分で一から作って、ChatGPTのような対話画面で会話できるようにするツールです。2019年に約600万円かかったGPT-2という

AIが世論を丸ごと分析!30以上のSNSから情報を集めて未来を予測する多エージェントシステム — BettaFish

666ghj/BettaFishPython37.8k

BettaFishは、ユーザーがチャットのように質問するだけで、国内外30以上のSNS(ソーシャルメディア)から情報を自動収集し、世論(ネット上の人々の意見や反応)を総合的に分析してくれるAIシステム

コードを一行も書かずにAIエージェント軍団を指揮!何でも開発できるマルチエージェント基盤 — ChatDev

OpenBMB/ChatDevPython32.5k

ChatDevは、プログラミングの知識がなくても複数のAIエージェント(自律的に動くAIの担当者)を組み合わせて、データの可視化・3Dモデル生成・ゲーム開発・深い調査レポート作成など、さまざまなタスク

PyTorchより軽く、microgradより強力!たった数千行で動くディープラーニングフレームワーク — tinygrad

tinygrad/tinygradPython32.0k

tinygradは、ディープラーニング(AIの学習技術)に必要な機能をすべて備えた、非常にコンパクトなフレームワークです。PyTorch(業界標準のAIフレームワーク)と同じような書き方でニューラルネ