自分のパソコンでChatGPTのようなAIを動かせる!100以上のモデル対応の超軽量エンジン — llama.cpp
llama.cppは、大規模言語モデル(ChatGPTのようなAI)を自分のパソコンやスマホ上で直接動かすためのソフトウェアです。C/C++というプログラミング言語で書かれており、外部サービスに頼らずにAIとの会話やテキスト生成をローカル環
C++で書かれたトレンドリポジトリ(14件)
llama.cppは、大規模言語モデル(ChatGPTのようなAI)を自分のパソコンやスマホ上で直接動かすためのソフトウェアです。C/C++というプログラミング言語で書かれており、外部サービスに頼らずにAIとの会話やテキスト生成をローカル環
Protocol Buffers(protobuf)は、Googleが開発した「構造化データを効率よくやり取りするための仕組み」です。たとえば、異なるプログラミング言語で書かれたシステム同士がデータをやり取りする際、JSONやXMLのような
LadybirdBrowser/ladybird: Truly independent web browser
tdesktopは、メッセージアプリ「Telegram」の公式デスクトップ版(パソコン用アプリ)の完全なソースコード(プログラムの設計図)を公開しているリポジトリです。Windows、macOS、Linuxの主要なパソコン用OSすべてに対応
shadPS4は、PlayStation 4のゲームをWindows・Linux・macOSのパソコン上で動かすことができるエミュレータ(ゲーム機の動作を再現するソフト)です。C++というプログラミング言語で書かれており、まだ開発初期段階で
FreeCADは、実際のモノづくりのための無料・オープンソースの3D設計ソフトウェアです。「パラメトリックモデリング」という仕組みにより、設計の途中でサイズや形を変えたくなっても、履歴をさかのぼって数値を変更するだけで自動的に全体が修正され
Paddleは中国百度が開発した深層学習フレームワークで、AIモデルの作成から実用化まで一貫してサポートするプラットフォームです。製造業や農業など様々な分野で実際に使われており、世界で2333万人の開発者と76万社の企業が利用しています。T
ggmlは、AIモデル(機械学習の仕組み)を普通のパソコンやスマホでも速く動かせるようにする技術ライブラリです。通常は高性能なGPU(グラフィック処理専用チップ)が必要なAI処理を、CPUだけでも軽快に実行できます。プログラマーがAIアプリ
workerdは、Cloudflare Workersを動かしている実際のコードをベースにしたJavaScript/Wasm(ブラウザ外でも動くプログラム実行環境)のサーバーランタイムです。Cloudflare Workers向けに作ったア
ElectrobunはTypeScript(JavaScriptの改良版)でデスクトップアプリを作るためのツールです。通常のElectronアプリは重くて動作が遅いことが多いですが、electrobunで作ったアプリはわずか12MBと軽量で
zvecは、AIアプリに組み込んで使えるデータベースで、文章や画像などをベクトル(数値の集合)に変換したデータを超高速で検索できます。通常のデータベースとは違い、「似ている内容」を探すのが得意で、例えば「猫の写真に似た画像を探す」「この文章
LiteRT-LMは、Googleが開発した大規模言語モデル(AIが文章を生成する仕組み)をスマートフォンやパソコン、IoT機器などの手元のデバイスで高速に動かすためのオープンソースフレームワークです。クラウド(インターネット上のサーバー)
Pyrite64は、任天堂64(N64)向けの3Dゲームを作るためのゲームエンジンとビジュアルエディターです。特別なのは、本物のN64実機で動くゲームを現代のツールで作れることです。Blenderで作った3Dモデルをそのまま取り込んだり、H
LiteRTは、Googleが開発した「デバイス上で直接AIを動かす」ためのフレームワークで、TensorFlow Liteの後継にあたります。スマートフォン、パソコン、IoT機器など幅広いデバイス上で、AIモデルを高速かつ効率的に実行でき