Mesin inferensi model bahasa besar yang ditulis dalam C dan C++. Dirancang agar model bisa berjalan efisien di berbagai perangkat, termasuk laptop tanpa GPU khusus, memakai format model GGUF. Cocok untuk developer yang ingin menjalankan LLM secara lokal dengan sumber daya terbatas.
Repo GitHub
ggml-org/llama.cpp- Bintang
- 130.599
- Fork
- 24.168
- Lisensi
- MIT
- Bahasa
- C++
Update terakhir hari ini.
Total Klik
0
Posisi
-
Sponsor
Gratis
Terdaftar
18 jam lalu
Dibuat Oleh
AAdmin
@admin · Kreator Belum Terverifikasi
Tag
- ggml
Produk Lain di AI & Machine Learning
PyTorch
Framework machine learning berbasis Python untuk komputasi tensor dan jaringan saraf dinamis dengan akselerasi GPU yang kuat. Dipakai luas di riset maupun produksi untuk melatih dan menjalankan model deep learning. Cocok untuk peneliti, mahasiswa, dan engineer AI.
Ollama
Alat untuk menjalankan model bahasa besar seperti Qwen, Gemma, DeepSeek, dan gpt-oss langsung di komputer sendiri. Cukup satu perintah untuk mengunduh dan menjalankan model, lalu memakainya lewat CLI atau API lokal. Cocok untuk developer yang ingin mencoba AI tanpa mengirim data ke layanan cloud.
Open WebUI
Antarmuka chat AI yang ramah pengguna dan bisa di-hosting sendiri. Mendukung model lokal lewat Ollama serta layanan yang kompatibel dengan API OpenAI. Cocok untuk kamu yang ingin punya ChatGPT versi sendiri untuk pribadi atau tim.
Transformers
Pustaka Python dari Hugging Face yang mendefinisikan model machine learning modern untuk teks, gambar, audio, dan multimodal. Bisa dipakai untuk inferensi maupun pelatihan, dengan ribuan model siap unduh dari Hugging Face Hub. Cocok untuk developer dan peneliti AI.
Bandingkan dengan
Ulasan Pengguna
(0)Memuat ulasan...