▼ もうちょっと詳しく

llama.cpp 開発者ゲオルギ・ゲルガノフが2023年に作ったファイル形式。量子化された LLM をひとつのファイルにまとめて配布できる形で、Hugging Face にあるローカル用モデルのほとんどはこの形式で配られています。

「.gguf」という拡張子のファイル 1個をダウンロードしてOllamaに渡すだけで、ノートPCでLLMが動く、という体験を可能にしています。ローカルLLM普及の縁の下の力持ち。前身は GGML、改良版が GGUF。