Retrieval-Augmented Generation (RAG) mengubah cara kami berinteraksi dengan model AI dengan menggabungkan teknik pengambilan dengan model generatif. Tetapi bagaimana jika Anda dapat membangun aplikasi kain secara lokal, tanpa kunci API atau dependensi cloud?
Mari bertemu Chipper, kerangka kerja open-source yang membuat membangun aplikasi kain lokal sederhana. Tidak ada lagi yang berjuang dengan dokumen chunking, database vektor, integrasi LLM, dan pengaturan UI secara terpisah. Dengan chipper, Anda dapat mengatur sistem kain mandiri di mesin lokal Anda dalam hitungan menit.
Dalam tutorial ini, kami akan berjalan melalui:
Bagaimana Arsitektur Rag Bekerja Di Bawah Tudung Cara Menyiapkan Aplikasi Rag Lokal Dengan Chipper Menyesuaikan dan Mengoptimalkan Chipper untuk Kinerja yang Lebih Baik Contoh Dunia Nyata: Membangun Penganalisa Dokumen Hukum
Mari kita mulai!
Memahami kain dengan chipper
Sebelum menyelam ke dalam pengaturan, mari kita uraikan pipa Generasi Pengambilan (RAG) dan bagaimana chipper menyederhanakannya:
Dokumen konsumsi dan chunking chipper secara otomatis membagi dokumen menjadi potongan yang bermakna (kalimat atau paragraf) untuk pengambilan yang lebih baik. Anda dapat menyesuaikan ukuran chunk untuk kasus penggunaan yang berbeda. Embedding dan vektorisasi Setiap potongan dokumen dikonversi menjadi embeddings vektor menggunakan model pra-terlatih. Chipper menggunakan Facebook AI kesamaan Pencarian (FAISS) untuk menyimpan dan mengindeks embedding ini secara efisien. Mekanisme Pengambilan Saat Pengguna bertanya, Chipper mencari FAISs untuk potongan dokumen yang serupa. Potongan yang paling relevan dikirim ke LLM untuk menghasilkan respons. Integrasi dan pemrosesan kueri LLM
Langkah 1: Instal dan Konfigurasikan Ollama (LLM Runtime)
Karena Chipper membutuhkan LLM lokal untuk berfungsi, kami akan menggunakan Ollama, runtime LLM yang ringan.
1. Instal ollama di macOS (via homebrew) di linux curl -fssl https://ollama.ai/install.sh | SH pada windows
Unduh dan instal ollama dari situs resmi Ollama.
2. Verifikasi instalasi ollama
Periksa apakah ollama diinstal:
Jika Ollama tidak berjalan, mulailah secara manual:
3. Unduh model phi-4 (atau alternatif)
Chipper menggunakan LLM lokal melalui Ollama. Jika tidak ada model yang ditemukan, itu akan secara otomatis mengunduh PHI-4.
Untuk menarik phi-4 secara manual, jalankan:
Atau, Anda dapat menggunakan Mistral 7B (model yang lebih kuat):
4. Konfigurasikan Ollama untuk menggunakan model tertentu
Jika Anda ingin mengatur model chipper mana yang harus digunakan, edit:
Cari baris ini dan perbarui ke model pilihan Anda:
Simpan dan Keluar (Ctrl + X, lalu y, lalu masukkan).
Langkah 2: Pasang chipper 1. Kloning chipper repositori git clone [email protected]: tilmangriesel/chipper.git cd chipper 2. Luncurkan chipper menggunakan Docker
Chipper dikemas ke dalam wadah Docker, yang membuatnya mudah diatur.
Jalankan perintah berikut untuk memulai chipper:
Ini akan:
Unduh dan Bangun Semua Layanan yang Diperlukan Launch Layanan Pemrosesan Chipper Terhubung ke LLM Lokal (Via Ollama)
Untuk menghentikan chipper:
Catatan: Langkah ini mungkin memakan waktu saat Docker mengunduh semua dependensi yang diperlukan.
Langkah 3: Dokumen Indeks dan Permintaan 1. Memuat dokumen ke dalam chipper
Chipper memungkinkan Anda memasukkan dokumen untuk pengambilan.
mkdir my_docs mv riset_paper.pdf my_docs/
Sekarang, indeks mereka:
Ini akan:
Potong dokumen menghasilkan embeddings vektor menyimpannya di faiss atau chromadb 2. Jalankan kueri
Setelah diindeks, Anda dapat menanyakan dokumen:
Anda: “Apa saja takeaways kunci dari makalah penelitian?”
Chipper mengambil potongan dokumen yang paling relevan dan mengirimkannya ke LLM lokal (via Ollama) untuk generasi respons.
Langkah 4: Jalankan Chipper sebagai Asisten AI Lokal 1. Luncurkan Chipper di Browser Web
Buka terminal Anda dan pastikan chipper berjalan:
Jika chipper sudah berjalan, Anda akan melihat log yang menunjukkan itu aktif.
Buka browser Anda dan navigasikan ke:
Ini akan meluncurkan Chipper UI, di mana Anda dapat berinteraksi dengan aplikasi Rag Anda.
Di Web UI, masukkan prompt Anda dan mulailah meminta dokumen yang diindeks atau menguji kemampuan AI umum.
2. Jalankan chipper di baris perintah
Untuk memulai sesi obrolan interaktif di terminal:
Contoh:
Kesimpulan
Pada saat ini, Anda telah mengatur Chipper dan Ollama, membangun asisten AI bertenaga kain lokal, dan menjelajahi cara berinteraksi dengannya melalui baris perintah dan browser. Perjalanan langsung ini telah memberi Anda dasar untuk memanfaatkan kekuatan AI-semuanya berjalan secara pribadi di mesin Anda, tanpa ketergantungan cloud. Ini memastikan privasi, kecepatan, efisiensi biaya, dan kontrol total atas alur kerja AI Anda.
Tidak ada kunci API; berjalan sepenuhnya offline. Dukungan Model Kustom. Gunakan phi-4, mistral, atau llama 3. Mendukung pengikisan web dan transkripsi audio. Dioptimalkan untuk aplikasi RAG dalam kasus penelitian, hukum, dan penggunaan perusahaan. Apa selanjutnya?
Sekarang setelah Anda mendapatkan chipper dan berjalan, berikut adalah beberapa cara menarik untuk membangun apa yang telah Anda pelajari:
Eksperimen dengan Dokumen Chunking dan Konfigurasi Basis Data Vektor Bangun asisten AI lokal khusus! Eksperimen dengan model yang berbeda (Ollama Pull Mistral atau Ollama Pull llama3) untuk melihat bagaimana tanggapan bervariasi. Coba mengindeks set dokumen yang lebih kompleks dan menyempurnakan proses pengambilan. Selami integrasi API Chipper dan mengeksplorasi bagaimana itu dapat tertanam ke dalam aplikasi yang ada. Lihat panduan resmi di sini.
unity software
unity software information
software information
ADVERTISEMENT:
Informasi mengenai king slot
king selot
king slot
king slot
kingselot
pg king slot
merek 88
merek 88
mantan99
mantan88
maksimal88
maksimal88
liburan88
indodax88
indah99
indah88
ikn88
ibukota88
huawei88
hot888
hot88
dingin88
citra88
binance88
best99
best88
tradisional 88
tradisional 88
tombol88
tombol88
survey88
survey88
start88
start88
obatkuat88
obatkuat88
mcb88
mcb88
master99
master888
master88
live88
live88
libra88
kompresor88
kompresor88
kesimpulan88
kesimpulan88
kapasitor88
kapasitor88
kacamata88
kacamata88
jamu88
jamu88
jam88
jam88
follow88
follow88
dinamo88
dinamo88
baterai88
baterai88
miegacoan
miegacoan
gacoan
gacoan
website88
waweb88
waweb88
translate88
translate88
tempur888
tempur888
tambang99
tambang99
support88
support88
support88
sogoslot88
siap88
siap88
rog88
rog77
pt88
pt88
pln88
pln88
oke99
oke88
mining88
livechat88
livechat88
listrik88
listrik88
listrik88
freeport88
freeport88
free88
free88
domain88
domain88
dokter888
dokter888
bmkg88
bmkg88
asn88
merek 88 permainan paling top dan garansi imbal balik hasil besar bersama https://merek88.net/
merek 88 permainan paling top dan garansi imbal balik hasil besar bersama https://merek88.com/
mantan99 permainan paling top dan garansi imbal balik hasil besar bersama https://mantan99.asia/
mantan88 permainan paling top dan garansi imbal balik hasil besar bersama https://mantan88.asia/
maksimal88 permainan paling top dan garansi imbal balik hasil besar bersama https://maksimal88.biz/
maksimal88 permainan paling top dan garansi imbal balik hasil besar bersama https://maksimal88.asia/
liburan88 permainan paling top dan garansi imbal balik hasil besar bersama https://liburan88.com/
indodax88 permainan paling top dan garansi imbal balik hasil besar bersama https://indodax88.org/
indah99 permainan paling top dan garansi imbal balik hasil besar bersama https://indah99.asia/
indah88 permainan paling top dan garansi imbal balik hasil besar bersama https://indah88.asia/
ikn88 permainan paling top dan garansi imbal balik hasil besar bersama https://ikn88.asia/
ibukota88 permainan paling top dan garansi imbal balik hasil besar bersama https://ibukota88.com/
huawei88 permainan paling top dan garansi imbal balik hasil besar bersama https://huawei88.asia/
hot888 permainan paling top dan garansi imbal balik hasil besar bersama https://hot888.asia/
hot88 permainan paling top dan garansi imbal balik hasil besar bersama https://hot88.sale/
dingin88 permainan paling top dan garansi imbal balik hasil besar bersama https://dingin88.net/
citra88 permainan paling top dan garansi imbal balik hasil besar bersama https://citra88.asia/
binance88 permainan paling top dan garansi imbal balik hasil besar bersama https://binance88.net/
best99 permainan paling top dan garansi imbal balik hasil besar bersama https://best99.info/
best88 permainan paling top dan garansi imbal balik hasil besar bersama https://best88.asia/
tradisional 88 permainan paling top dan garansi imbal balik hasil besar bersama https://tradisional88.net/
tradisional 88 permainan paling top dan garansi imbal balik hasil besar bersama https://tradisional88.com/
tombol88 permainan paling top dan garansi imbal balik hasil besar bersama https://tombol88.org/
tombol88 permainan paling top dan garansi imbal balik hasil besar bersama https://tombol88.net/
survey88 permainan paling top dan garansi imbal balik hasil besar bersama https://survey88.net/
survey88 permainan paling top dan garansi imbal balik hasil besar bersama https://survey88.com/
start88 permainan paling top dan garansi imbal balik hasil besar bersama https://start88.org/
start88 permainan paling top dan garansi imbal balik hasil besar bersama https://start88.asia/
obatkuat88 permainan paling top dan garansi imbal balik hasil besar bersama https://obatkuat88.net/
obatkuat88 permainan paling top dan garansi imbal balik hasil besar bersama https://obatkuat88.com/
mcb88 permainan paling top dan garansi imbal balik hasil besar bersama https://mcb88.info/
mcb88 permainan paling top dan garansi imbal balik hasil besar bersama https://mcb88.asia/
master99 permainan paling top dan garansi imbal balik hasil besar bersama https://master99.biz/
master888 permainan paling top dan garansi imbal balik hasil besar bersama https://master888.asia/
master88 permainan paling top dan garansi imbal balik hasil besar bersama https://master88.asia/
live88 permainan paling top dan garansi imbal balik hasil besar bersama https://live88.bio/
live88 permainan paling top dan garansi imbal balik hasil besar bersama https://live88.asia/
libra88 permainan paling top dan garansi imbal balik hasil besar bersama https://libra88.net/
kompresor88 permainan paling top dan garansi imbal balik hasil besar bersama https://kompresor88.net/
kompresor88 permainan paling top dan garansi imbal balik hasil besar bersama https://kompresor88.com/
kesimpulan88 permainan paling top dan garansi imbal balik hasil besar bersama https://kesimpulan88.net/
kesimpulan88 permainan paling top dan garansi imbal balik hasil besar bersama https://kesimpulan88.com/
kapasitor88 permainan paling top dan garansi imbal balik hasil besar bersama https://kapasitor88.net/
kapasitor88 permainan paling top dan garansi imbal balik hasil besar bersama https://kapasitor88.com/
kacamata88 permainan paling top dan garansi imbal balik hasil besar bersama https://kacamata88.net/
kacamata88 permainan paling top dan garansi imbal balik hasil besar bersama https://kacamata88.com/
jamu88 permainan paling top dan garansi imbal balik hasil besar bersama https://jamu88.info/
jamu88 permainan paling top dan garansi imbal balik hasil besar bersama https://jamu88.asia/
jam88 permainan paling top dan garansi imbal balik hasil besar bersama https://jam88.info/
jam88 permainan paling top dan garansi imbal balik hasil besar bersama https://jam88.asia/
follow88 permainan paling top dan garansi imbal balik hasil besar bersama https://follow88.org/
follow88 permainan paling top dan garansi imbal balik hasil besar bersama https://follow88.net/
dinamo88 permainan paling top dan garansi imbal balik hasil besar bersama https://dinamo88.net/
dinamo88 permainan paling top dan garansi imbal balik hasil besar bersama https://dinamo88.info/
baterai88 permainan paling top dan garansi imbal balik hasil besar bersama https://baterai88.net/
baterai88 permainan paling top dan garansi imbal balik hasil besar bersama https://baterai88.com/
miegacoan permainan paling top dan garansi imbal balik hasil besar bersama https://miegacoan.life/
miegacoan permainan paling top dan garansi imbal balik hasil besar bersama https://miegacoan.asia/
gacoan permainan paling top dan garansi imbal balik hasil besar bersama https://gacoan.org/
gacoan permainan paling top dan garansi imbal balik hasil besar bersama https://gacoan.asia/
website88 permainan paling top dan garansi imbal balik hasil besar bersama https://website88.org/
waweb88 permainan paling top dan garansi imbal balik hasil besar bersama https://waweb88.net/
waweb88 permainan paling top dan garansi imbal balik hasil besar bersama https://waweb88.com/
translate88 permainan paling top dan garansi imbal balik hasil besar bersama https://translate88.net/
translate88 permainan paling top dan garansi imbal balik hasil besar bersama https://translate88.com/
tempur888 permainan paling top dan garansi imbal balik hasil besar bersama https://tempur888.info/
tempur888 permainan paling top dan garansi imbal balik hasil besar bersama https://tempur888.asia/
tambang99 permainan paling top dan garansi imbal balik hasil besar bersama https://tambang99.news/
tambang99 permainan paling top dan garansi imbal balik hasil besar bersama https://tambang99.asia/
support88 permainan paling top dan garansi imbal balik hasil besar bersama https://support88.org/
support88 permainan paling top dan garansi imbal balik hasil besar bersama https://support88.net/
support88 permainan paling top dan garansi imbal balik hasil besar bersama https://support88.asia/
sogoslot88 permainan paling top dan garansi imbal balik hasil besar bersama https://sogoslot88.asia/
siap88 permainan paling top dan garansi imbal balik hasil besar bersama https://siap88.news/
siap88 permainan paling top dan garansi imbal balik hasil besar bersama https://siap88.asia/
rog88 permainan paling top dan garansi imbal balik hasil besar bersama https://rog88.asia/
rog77 permainan paling top dan garansi imbal balik hasil besar bersama https://rog77.info/
pt88 permainan paling top dan garansi imbal balik hasil besar bersama https://pt88.info/
pt88 permainan paling top dan garansi imbal balik hasil besar bersama https://pt88.asia/
pln88 permainan paling top dan garansi imbal balik hasil besar bersama https://pln88.biz/
pln88 permainan paling top dan garansi imbal balik hasil besar bersama https://pln88.asia/
oke99 permainan paling top dan garansi imbal balik hasil besar bersama https://oke99.asia/
oke88 permainan paling top dan garansi imbal balik hasil besar bersama https://oke88.asia/
mining88 permainan paling top dan garansi imbal balik hasil besar bersama https://mining88.org/
livechat88 permainan paling top dan garansi imbal balik hasil besar bersama https://livechat88.info/
livechat88 permainan paling top dan garansi imbal balik hasil besar bersama https://livechat88.asia/
listrik88 permainan paling top dan garansi imbal balik hasil besar bersama https://listrik88.org/
listrik88 permainan paling top dan garansi imbal balik hasil besar bersama https://listrik88.info/
listrik88 permainan paling top dan garansi imbal balik hasil besar bersama https://listrik88.asia/
freeport88 permainan paling top dan garansi imbal balik hasil besar bersama https://freeport88.net/
freeport88 permainan paling top dan garansi imbal balik hasil besar bersama https://freeport88.com/
free88 permainan paling top dan garansi imbal balik hasil besar bersama https://free88.org/
free88 permainan paling top dan garansi imbal balik hasil besar bersama https://free88.asia/
domain88 permainan paling top dan garansi imbal balik hasil besar bersama https://domain88.org/
domain88 permainan paling top dan garansi imbal balik hasil besar bersama https://domain88.asia/
dokter888 permainan paling top dan garansi imbal balik hasil besar bersama https://dokter888.net/
dokter888 permainan paling top dan garansi imbal balik hasil besar bersama https://dokter888.asia/
bmkg88 permainan paling top dan garansi imbal balik hasil besar bersama https://bmkg88.net/
bmkg88 permainan paling top dan garansi imbal balik hasil besar bersama https://bmkg88.com/
asn88 permainan paling top dan garansi imbal balik hasil besar bersama https://asn88.org/
Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah king slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net
slot demo gacor
akun demo slot gacor
akun slot demo gacor
akun demo slot pragmatic
akun slot demo pragmatic
akun slot demo
akun demo slot
situs slot terbaru
slot terbaru
