back to top
20.3 C
New York

Rilis Basis Data dan Pengujian End-to-End

Published:

Dalam dunia pengembangan perangkat lunak, pengujian ketat dan rilis terkontrol telah menjadi praktik standar selama beberapa dekade. Namun bagaimana jika kita dapat menerapkan prinsip yang sama pada database dan gudang data? Bayangkan bisa menentukan serangkaian kriteria dengan kasus uji untuk infrastruktur data Anda, secara otomatis menerapkannya pada setiap “rilis” baru untuk memastikan pelanggan Anda selalu melihat data yang akurat dan konsisten.

Tantangannya: Mengapa Pengujian End-to-End Tidak Umum dalam Manajemen Data

Meskipun ide ini tampak intuitif, ada alasan mengapa pengujian end-to-end tidak umum dilakukan dalam manajemen data: hal ini memerlukan klon atau snapshot primitif untuk database atau gudang data, yang tidak disediakan oleh sebagian besar sistem data.

Gudang data modern pada dasarnya adalah penyimpanan terorganisir yang dapat diubah dan berubah seiring waktu saat kami mengoperasikannya melalui jalur data. Data biasanya dapat dilihat oleh pelanggan akhir segera setelah dibuat, tanpa konsep “rilis”. Tanpa konsep rilis ini, menjalankan pengujian end-to-end pada gudang data menjadi tidak masuk akal, karena tidak ada cara untuk memastikan apa yang dilihat oleh pengujian Anda adalah apa yang akan dilihat oleh pelanggan Anda.

Pengujian data menantang Pendekatan yang Ada dan Keterbatasannya

Beberapa tim telah mengembangkan sistem kontrol versi di atas gudang data mereka. Daripada secara langsung memodifikasi tabel yang ditanyakan oleh pengguna akhir, mereka membuat versi tabel baru untuk perubahan dan menggunakan operasi pertukaran atom untuk “melepaskan” tabel. Meskipun pendekatan ini berhasil sampai batas tertentu, pendekatan ini mempunyai tantangan yang signifikan:

Menerapkan pola “buat dan tukar” secara efisien adalah hal yang rumit. Memastikan kriteria yang melibatkan beberapa tabel (misalnya, memverifikasi bahwa setiap baris dalam tabel pesanan memiliki baris yang sesuai dalam tabel harga) memerlukan “pengemasan” perubahan ke beberapa tabel dalam “transaksi”, yang juga merupakan tantangan.

Kompleksitas pembuatan versi data

Kompleksitas pembuatan versi data Solusi: Klon Database ClickHouse Didukung oleh Sistem File Terdistribusi

Kami telah mengembangkan sistem untuk “mengkloning” database ClickHouse sebagai replika, memanfaatkan kekuatan JuiceFS. Pendekatan ini, yang dirinci dalam artikel kami sebelumnya, “Mengapa dan Bagaimana Kami Membangun Arsitektur Replika Utama ClickHouse,” menawarkan solusi yang menjanjikan.

Begini cara kerjanya:

Kami menjalankan database ClickHouse kami di JuiceFS, sistem file bersama yang kompatibel dengan POSIX dan didukung oleh Object Storage Service (OSS). JuiceFS menyediakan fitur “snapshot” yang mengimplementasikan semantik cabang git. Dengan menggunakan perintah sederhana seperti juicefs snapshot src_dir des_dir, kita dapat membuat tiruan dari src_dir seperti yang ada pada saat itu.

Pendekatan ini memungkinkan kita dengan mudah mereplikasi/mengkloning instance ClickHouse dari instance yang sedang berjalan, membuat snapshot beku yang dapat dianggap sebagai “artefak rilis”.

Menerapkan Pengujian End-to-End Dengan Klon Database

Dengan adanya mekanisme ini, kami dapat menjalankan pengujian end-to-end terhadap replika ClickHouse dan mengontrol visibilitasnya berdasarkan hasil pengujian. Ini mereplikasi alur kerja rilis yang telah menjadi standar dalam pengembangan perangkat lunak selama beberapa dekade.

Pengujian data end-to-end sekarang dapat dikembangkan, diatur, dan diulang menggunakan kerangka pengujian unit umum (kami menggunakan pytest). Pendekatan ini telah memberdayakan kami untuk menyusun kriteria infrastruktur dan bisnis kami untuk ketersediaan dan keandalan data ke dalam pengujian data.

Pengujian yang umum dilakukan adalah pengujian ukuran tabel, yang membantu mencegah masalah data yang disebabkan oleh kerusakan tabel yang tidak disengaja atau sementara. Anda juga dapat menentukan kriteria bisnis untuk melindungi laporan data dan analitik Anda dari perubahan yang tidak diinginkan pada saluran data yang mungkin mengakibatkan data yang salah. Misalnya, Anda dapat menerapkan keunikan pada kolom atau sekelompok kolom untuk menghindari duplikasi—faktor penting saat menghitung biaya pemasaran.

Pengujian replika ClickHouse secara menyeluruh

Pengujian end-to-end replika ClickHouse Dampak Dunia Nyata

Di perusahaan kami, arsitektur ini berperan penting dalam mencegah hampir semua masalah data P0 yang mungkin dialami pelanggan akhir dalam beberapa kuartal terakhir. Ini benar-benar inisiatif yang mengubah keadaan!

Beyond ClickHouse: Aplikasi yang Lebih Luas

Pendekatan ini tidak terbatas pada ClickHouse. Jika Anda menjalankan data lake atau lakehouse apa pun di atas JuiceFS, akan lebih mudah untuk mereplikasi mekanisme rilis yang dijelaskan dalam artikel ini.

Kesimpulan

Dengan menghadirkan praktik pengembangan perangkat lunak modern ke dunia manajemen data, kami dapat meningkatkan kualitas, keandalan, dan konsistensi data secara signifikan. Kombinasi kloning database dan pengujian end-to-end menawarkan seperangkat alat canggih untuk memastikan bahwa pelanggan Anda selalu melihat data yang benar, sama seperti mereka berharap melihat fitur yang tepat dalam rilis perangkat lunak yang telah teruji dengan baik.

Rilis database kami dan alur kerja pengujian ujung ke ujung

Rilis database kami dan alur kerja pengujian ujung ke ujung

Diagram ini mengilustrasikan alur kerja rilis database kami dan proses pengujian menyeluruh, yang menunjukkan bagaimana kami menerapkan praktik terbaik pengembangan perangkat lunak ke dalam dunia data.

unity software

unity software information

software information

ADVERTISEMENT:

Informasi mengenai king slot

king selot

king slot

king slot

kingselot

pg king slot

merek 88

merek 88

mantan99

mantan88

maksimal88

maksimal88

liburan88

indodax88

indah99

indah88

ikn88

ibukota88

huawei88

hot888

hot88

dingin88

citra88

binance88

best99

best88

tradisional 88

tradisional 88

tombol88

tombol88

survey88

survey88

start88

start88

obatkuat88

obatkuat88

mcb88

mcb88

master99

master888

master88

live88

live88

libra88

kompresor88

kompresor88

kesimpulan88

kesimpulan88

kapasitor88

kapasitor88

kacamata88

kacamata88

jamu88

jamu88

jam88

jam88

follow88

follow88

dinamo88

dinamo88

baterai88

baterai88

miegacoan

miegacoan

gacoan

gacoan

website88

waweb88

waweb88

translate88

translate88

tempur888

tempur888

tambang99

tambang99

support88

support88

support88

sogoslot88

siap88

siap88

rog88

rog77

pt88

pt88

pln88

pln88

oke99

oke88

mining88

livechat88

livechat88

listrik88

listrik88

listrik88

freeport88

freeport88

free88

free88

domain88

domain88

dokter888

dokter888

bmkg88

bmkg88

asn88

merek 88 permainan paling top dan garansi imbal balik hasil besar bersama https://merek88.net/

merek 88 permainan paling top dan garansi imbal balik hasil besar bersama https://merek88.com/

mantan99 permainan paling top dan garansi imbal balik hasil besar bersama https://mantan99.asia/

mantan88 permainan paling top dan garansi imbal balik hasil besar bersama https://mantan88.asia/

maksimal88 permainan paling top dan garansi imbal balik hasil besar bersama https://maksimal88.biz/

maksimal88 permainan paling top dan garansi imbal balik hasil besar bersama https://maksimal88.asia/

liburan88 permainan paling top dan garansi imbal balik hasil besar bersama https://liburan88.com/

indodax88 permainan paling top dan garansi imbal balik hasil besar bersama https://indodax88.org/

indah99 permainan paling top dan garansi imbal balik hasil besar bersama https://indah99.asia/

indah88 permainan paling top dan garansi imbal balik hasil besar bersama https://indah88.asia/

ikn88 permainan paling top dan garansi imbal balik hasil besar bersama https://ikn88.asia/

ibukota88 permainan paling top dan garansi imbal balik hasil besar bersama https://ibukota88.com/

huawei88 permainan paling top dan garansi imbal balik hasil besar bersama https://huawei88.asia/

hot888 permainan paling top dan garansi imbal balik hasil besar bersama https://hot888.asia/

hot88 permainan paling top dan garansi imbal balik hasil besar bersama https://hot88.sale/

dingin88 permainan paling top dan garansi imbal balik hasil besar bersama https://dingin88.net/

citra88 permainan paling top dan garansi imbal balik hasil besar bersama https://citra88.asia/

binance88 permainan paling top dan garansi imbal balik hasil besar bersama https://binance88.net/

best99 permainan paling top dan garansi imbal balik hasil besar bersama https://best99.info/

best88 permainan paling top dan garansi imbal balik hasil besar bersama https://best88.asia/

tradisional 88 permainan paling top dan garansi imbal balik hasil besar bersama https://tradisional88.net/

tradisional 88 permainan paling top dan garansi imbal balik hasil besar bersama https://tradisional88.com/

tombol88 permainan paling top dan garansi imbal balik hasil besar bersama https://tombol88.org/

tombol88 permainan paling top dan garansi imbal balik hasil besar bersama https://tombol88.net/

survey88 permainan paling top dan garansi imbal balik hasil besar bersama https://survey88.net/

survey88 permainan paling top dan garansi imbal balik hasil besar bersama https://survey88.com/

start88 permainan paling top dan garansi imbal balik hasil besar bersama https://start88.org/

start88 permainan paling top dan garansi imbal balik hasil besar bersama https://start88.asia/

obatkuat88 permainan paling top dan garansi imbal balik hasil besar bersama https://obatkuat88.net/

obatkuat88 permainan paling top dan garansi imbal balik hasil besar bersama https://obatkuat88.com/

mcb88 permainan paling top dan garansi imbal balik hasil besar bersama https://mcb88.info/

mcb88 permainan paling top dan garansi imbal balik hasil besar bersama https://mcb88.asia/

master99 permainan paling top dan garansi imbal balik hasil besar bersama https://master99.biz/

master888 permainan paling top dan garansi imbal balik hasil besar bersama https://master888.asia/

master88 permainan paling top dan garansi imbal balik hasil besar bersama https://master88.asia/

live88 permainan paling top dan garansi imbal balik hasil besar bersama https://live88.bio/

live88 permainan paling top dan garansi imbal balik hasil besar bersama https://live88.asia/

libra88 permainan paling top dan garansi imbal balik hasil besar bersama https://libra88.net/

kompresor88 permainan paling top dan garansi imbal balik hasil besar bersama https://kompresor88.net/

kompresor88 permainan paling top dan garansi imbal balik hasil besar bersama https://kompresor88.com/

kesimpulan88 permainan paling top dan garansi imbal balik hasil besar bersama https://kesimpulan88.net/

kesimpulan88 permainan paling top dan garansi imbal balik hasil besar bersama https://kesimpulan88.com/

kapasitor88 permainan paling top dan garansi imbal balik hasil besar bersama https://kapasitor88.net/

kapasitor88 permainan paling top dan garansi imbal balik hasil besar bersama https://kapasitor88.com/

kacamata88 permainan paling top dan garansi imbal balik hasil besar bersama https://kacamata88.net/

kacamata88 permainan paling top dan garansi imbal balik hasil besar bersama https://kacamata88.com/

jamu88 permainan paling top dan garansi imbal balik hasil besar bersama https://jamu88.info/

jamu88 permainan paling top dan garansi imbal balik hasil besar bersama https://jamu88.asia/

jam88 permainan paling top dan garansi imbal balik hasil besar bersama https://jam88.info/

jam88 permainan paling top dan garansi imbal balik hasil besar bersama https://jam88.asia/

follow88 permainan paling top dan garansi imbal balik hasil besar bersama https://follow88.org/

follow88 permainan paling top dan garansi imbal balik hasil besar bersama https://follow88.net/

dinamo88 permainan paling top dan garansi imbal balik hasil besar bersama https://dinamo88.net/

dinamo88 permainan paling top dan garansi imbal balik hasil besar bersama https://dinamo88.info/

baterai88 permainan paling top dan garansi imbal balik hasil besar bersama https://baterai88.net/

baterai88 permainan paling top dan garansi imbal balik hasil besar bersama https://baterai88.com/

miegacoan permainan paling top dan garansi imbal balik hasil besar bersama https://miegacoan.life/

miegacoan permainan paling top dan garansi imbal balik hasil besar bersama https://miegacoan.asia/

gacoan permainan paling top dan garansi imbal balik hasil besar bersama https://gacoan.org/

gacoan permainan paling top dan garansi imbal balik hasil besar bersama https://gacoan.asia/

website88 permainan paling top dan garansi imbal balik hasil besar bersama https://website88.org/

waweb88 permainan paling top dan garansi imbal balik hasil besar bersama https://waweb88.net/

waweb88 permainan paling top dan garansi imbal balik hasil besar bersama https://waweb88.com/

translate88 permainan paling top dan garansi imbal balik hasil besar bersama https://translate88.net/

translate88 permainan paling top dan garansi imbal balik hasil besar bersama https://translate88.com/

tempur888 permainan paling top dan garansi imbal balik hasil besar bersama https://tempur888.info/

tempur888 permainan paling top dan garansi imbal balik hasil besar bersama https://tempur888.asia/

tambang99 permainan paling top dan garansi imbal balik hasil besar bersama https://tambang99.news/

tambang99 permainan paling top dan garansi imbal balik hasil besar bersama https://tambang99.asia/

support88 permainan paling top dan garansi imbal balik hasil besar bersama https://support88.org/

support88 permainan paling top dan garansi imbal balik hasil besar bersama https://support88.net/

support88 permainan paling top dan garansi imbal balik hasil besar bersama https://support88.asia/

sogoslot88 permainan paling top dan garansi imbal balik hasil besar bersama https://sogoslot88.asia/

siap88 permainan paling top dan garansi imbal balik hasil besar bersama https://siap88.news/

siap88 permainan paling top dan garansi imbal balik hasil besar bersama https://siap88.asia/

rog88 permainan paling top dan garansi imbal balik hasil besar bersama https://rog88.asia/

rog77 permainan paling top dan garansi imbal balik hasil besar bersama https://rog77.info/

pt88 permainan paling top dan garansi imbal balik hasil besar bersama https://pt88.info/

pt88 permainan paling top dan garansi imbal balik hasil besar bersama https://pt88.asia/

pln88 permainan paling top dan garansi imbal balik hasil besar bersama https://pln88.biz/

pln88 permainan paling top dan garansi imbal balik hasil besar bersama https://pln88.asia/

oke99 permainan paling top dan garansi imbal balik hasil besar bersama https://oke99.asia/

oke88 permainan paling top dan garansi imbal balik hasil besar bersama https://oke88.asia/

mining88 permainan paling top dan garansi imbal balik hasil besar bersama https://mining88.org/

livechat88 permainan paling top dan garansi imbal balik hasil besar bersama https://livechat88.info/

livechat88 permainan paling top dan garansi imbal balik hasil besar bersama https://livechat88.asia/

listrik88 permainan paling top dan garansi imbal balik hasil besar bersama https://listrik88.org/

listrik88 permainan paling top dan garansi imbal balik hasil besar bersama https://listrik88.info/

listrik88 permainan paling top dan garansi imbal balik hasil besar bersama https://listrik88.asia/

freeport88 permainan paling top dan garansi imbal balik hasil besar bersama https://freeport88.net/

freeport88 permainan paling top dan garansi imbal balik hasil besar bersama https://freeport88.com/

free88 permainan paling top dan garansi imbal balik hasil besar bersama https://free88.org/

free88 permainan paling top dan garansi imbal balik hasil besar bersama https://free88.asia/

domain88 permainan paling top dan garansi imbal balik hasil besar bersama https://domain88.org/

domain88 permainan paling top dan garansi imbal balik hasil besar bersama https://domain88.asia/

dokter888 permainan paling top dan garansi imbal balik hasil besar bersama https://dokter888.net/

dokter888 permainan paling top dan garansi imbal balik hasil besar bersama https://dokter888.asia/

bmkg88 permainan paling top dan garansi imbal balik hasil besar bersama https://bmkg88.net/

bmkg88 permainan paling top dan garansi imbal balik hasil besar bersama https://bmkg88.com/

asn88 permainan paling top dan garansi imbal balik hasil besar bersama https://asn88.org/

Informasi mengenai KING SLOT, Segera Daftar Bersama king selot terbaik dan terpercaya no satu di Indonesia. Boleh mendaftar melalui sini king slot serta memberikan hasil kembali yang paling tinggi saat sekarang ini hanyalah king slot paling gacor, gilak dan gaco saat sekarang di Indonesia melalui program return tinggi di kingselot serta pg king slot

slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/

akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/

akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/

akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/

akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/

akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/

akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://kdwapp.com/

slot demo gacor

akun demo slot gacor

akun slot demo gacor

akun demo slot pragmatic

akun slot demo pragmatic

akun slot demo

akun demo slot

slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com

akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com

akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com

akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com

akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com

akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com

akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://jebswagstore.com

slot demo gacor

akun demo slot gacor

akun slot demo gacor

akun demo slot pragmatic

akun slot demo pragmatic

akun slot demo

akun demo slot

slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro

akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro

akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro

akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro

akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro

akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro

akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://demoslotgacor.pro

slot demo gacor

akun demo slot gacor

akun slot demo gacor

akun demo slot pragmatic

akun slot demo pragmatic

akun slot demo

akun demo slot

slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net

akun demo slot gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net

akun slot demo gacor permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net

akun demo slot pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net

akun slot demo pragmatic permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net

akun slot demo permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net

akun demo slot permainan paling top dan garansi imbal balik hasil besar bersama https://situsslotterbaru.net

slot demo gacor

akun demo slot gacor

akun slot demo gacor

akun demo slot pragmatic

akun slot demo pragmatic

akun slot demo

akun demo slot

situs slot terbaru

slot terbaru

Artikel terkait

Artikel Terbaru