Mengelola Trafik Besar: Evolusi Infrastruktur Teknologi Uber

Dalam dunia teknologi yang terus berkembang, perusahaan seperti Uber harus menghadapi tantangan besar dalam mengelola trafik yang sangat tinggi. Dengan puluhan juta permintaan per detik, bagaimana Uber dapat menjaga sistem mereka tetap berjalan tanpa gangguan? Artikel ini akan membahas evolusi infrastruktur teknis Uber, termasuk migrasi database, pembatasan beban, dan solusi inovatif yang mereka terapkan.

Migrasi Database: Dari PostgreSQL ke MySQL

Uber memulai perjalanan mereka dengan menggunakan PostgreSQL sebagai sistem database utama. Namun, seiring dengan pertumbuhan pesat, mereka menghadapi masalah yang signifikan, yaitu write amplification. Masalah ini menyebabkan performa database menurun dan keterlambatan dalam replikasi data. Untuk mengatasi hal ini, Uber melakukan migrasi ke MySQL dengan menggunakan InnoDB.

Tetapi, perjalanan mereka tidak berhenti di situ. Saat ini, Uber telah mengembangkan sistem database in-house bernama Schemalis dan Docto untuk memenuhi kebutuhan spesifik mereka. Dengan sistem ini, mereka dapat mengelola data dengan lebih efisien dan mengurangi masalah yang sebelumnya mereka alami.

Kegagalan Rate Limiting Statis

Di awal, Uber mencoba menerapkan rate limiting statis di level query engine untuk mengontrol trafik. Namun, pendekatan ini gagal karena beberapa alasan. Pertama, penambahan network hop yang tidak perlu menyebabkan latensi yang lebih tinggi. Kedua, model biaya yang digunakan tidak akurat, dan kuota sering kali diabaikan oleh sistem.

Pengalaman ini mengajarkan Uber pentingnya memiliki sistem yang lebih adaptif dan responsif terhadap perubahan trafik yang cepat.

Evolusi Load Shedding

Setelah kegagalan tersebut, Uber beralih ke metode concurrency-based load shedding. Mereka menggunakan algoritma Codel yang mengukur waktu tunggu antrean dan sistem Scorecard untuk membatasi beban per tenant. Namun, sistem ini masih memiliki kekurangan, yaitu kurangnya kesadaran prioritas.

Dengan meningkatnya kompleksitas sistem, Uber menyadari bahwa mereka perlu solusi yang lebih canggih untuk mengelola trafik yang terus meningkat.

Solusi Akhir: Cinnamon & PID Controller

Uber akhirnya mengembangkan Cinnamon, sistem load shedding yang sadar prioritas. Sistem ini membagi beban menjadi beberapa tier, mulai dari tier 0 untuk infrastruktur kritis hingga tier 5 untuk pekerjaan latar belakang. Dengan pendekatan ini, Uber dapat memastikan bahwa layanan yang paling penting selalu mendapatkan prioritas dalam pengelolaan trafik.

Selain itu, Cinnamon menggunakan PID Controller, teknologi yang telah ada sejak tahun 1922, untuk mengatur tingkat penolakan permintaan berdasarkan tren historis. Ini berarti bahwa sistem tidak hanya mengandalkan ambang batas tetap, tetapi juga dapat beradaptasi dengan kondisi trafik yang berubah-ubah.

Hasil Penerapan Sistem

Hasil dari penerapan sistem ini sangat mengesankan. Uber melaporkan peningkatan throughput hingga 80% saat terjadi beban berlebih dan penggunaan memori yang jauh lebih stabil. Ini menunjukkan bahwa dengan inovasi yang tepat, perusahaan dapat mengatasi tantangan besar yang dihadapi dalam mengelola trafik tinggi.

Kesimpulan

Perjalanan Uber dalam mengelola trafik besar adalah contoh nyata dari bagaimana inovasi dan adaptasi teknologi dapat membantu perusahaan menghadapi tantangan yang kompleks. Dari migrasi database hingga pengembangan sistem load shedding yang canggih, Uber terus berusaha untuk memberikan layanan yang terbaik bagi penggunanya. Dengan pemahaman yang lebih baik tentang infrastruktur teknis mereka, Uber siap menghadapi masa depan dengan lebih percaya diri.