たった100ドルで自分だけのChatGPTを作れる!AI研究の民主化プロジェクト — nanochat
nanochatは、自分だけのChatGPTのようなAIチャットボットを約100ドル(約1.5万円)で一から作れるツールです。2019年にOpenAIがGPT-2を訓練した際には約43,000ドル(約650万円)かかりましたが、nanochatはさまざまな技術の進歩により、わずか2時間・48ドル程度で同等の性能を持つAIモデルを訓練できます。トークン化(文字をAIが扱える数値に変換する処理)・事前学習・微調整・評価・推論・チャット画面まで、AIモデルを作るすべての工程をカバーしています。特に「--depth」という1つの数値を変えるだけで、モデルの大きさや学習設定がすべて自動で最適化される点が画期的です。AI研究者やプログラマーはもちろん、GPUマシンを借りればAI開発に興味のある人なら誰でも試すことができます。
karpathy/nanochat·Python·45.8k+355 たった100ドルで自分だけのChatGPTを作れる!AI研究の民主化プロジェクト — nanochat
nanochatは、自分だけのChatGPTのようなAIチャットボットを約100ドル(約1.5万円)で一から作れるツールです。2019年にOpenAIがGPT-2を訓練した際には約43,000ドル(約650万円)かかりましたが、nanochatはさまざまな技術の進歩により、わずか2時間・48ドル程度で同等の性能を持つAIモデルを訓練できます。トークン化(文字をAIが扱える数値に変換する処理)・事前学習・微調整・評価・推論・チャット画面まで、AIモデルを作るすべての工程をカバーしています。特に「--depth」という1つの数値を変えるだけで、モデルの大きさや学習設定がすべて自動で最適化される点が画期的です。AI研究者やプログラマーはもちろん、GPUマシンを借りればAI開発に興味のある人なら誰でも試すことができます。
karpathy/nanochatPythonAI45.8k+355