Dari kompleksitas menuju kejelasan: Cara CloudZero mendukung keputusan cloud dan AI yang lebih cerdas dengan AWS

CloudZero berawal dari ide sederhana: bahwa setiap keputusan rekayasa juga merupakan keputusan keuangan. Dibangun di AWS, startup asal Boston ini membantu pelanggannya memahami nilai sebenarnya dari investasi mereka dalam cloud dan AI, dengan memberikan tim visibilitas dan kontrol secara waktu nyata yang mereka butuhkan untuk membangun secara efisien di era AI.

Sebagian besar transformasi perangkat lunak dimulai dengan spesifikasi teknis. Transformasi ini justru dimulai dengan anggaran. Sebelum menjadi Founder dan Chief Technology Officer di CloudZero, Erik Peterson menemukan prinsip yang akan membentuk masa depan perusahaan: setiap keputusan rekayasa juga merupakan keputusan keuangan. Pada saat itu, ia ditugaskan untuk membangun sistem pemindaian berbasis cloud di sebuah perusahaan keamanan aplikasi, dengan satu syarat ketat: batas pengeluarannya hanya sebesar 3.000 USD.

Alih-alih menganggap anggaran sebagai tantangan yang harus diatasi, tim Peterson menjadikannya sebagai persyaratan dalam desain. Setiap keputusan arsitektur, mulai dari cara penskalaan beban kerja hingga layanan AWS yang digunakan, dibuat dengan mempertimbangkan efisiensi. Beberapa minggu kemudian, mereka menyelesaikan proyek tersebut dengan biaya sebesar 2.972 USD. “Terjadi sesuatu yang luar biasa,” jelas Peterson. “Kami menyelesaikan proyek luar biasa yang membutuhkan skala besar, tetapi dengan efisiensi yang benar-benar mengesankan.”

Selain dampak bisnis proyek ini, proyek tersebut juga benar-benar mengubah perspektif Peterson. Alih-alih memandang biaya sebagai sesuatu yang perlu dioptimalkan setelah deployment, ia menyadari bahwa biaya seharusnya turut membentuk keputusan rekayasa sejak hari pertama. Pergeseran pola pikir ini pada akhirnya menjadi dasar bagi CloudZero.

Kesenjangan antara rekayasa dan keuangan

Peterson segera menyadari bahwa tantangan ini tidak hanya terjadi dalam proyeknya. Ketika organisasi mempercepat migrasi ke cloud, tim rekayasa tiba-tiba memiliki kebebasan untuk menyediakan infrastruktur dengan cepat. Namun, mereka juga harus bertanggung jawab atas konsekuensi finansial dari keputusan rekayasa yang mereka buat.

Alat manajemen biaya yang ada belum dirancang untuk menghadapi kondisi baru ini. Tim keuangan memang dapat melihat tagihan cloud pada akhir setiap bulan, tetapi tim rekayasa hanya memiliki sedikit visibilitas tentang bagaimana produk dan layanan yang mereka bangun berkontribusi terhadap nilai bisnis.

“Saya menyukai segala hal tentang komputasi cloud,” kata Peterson. “Namun, saya sedikit khawatir bahwa semua itu bisa hilang jika kita tidak bisa membuat aspek ekonomi cloud terlihat dengan sangat jelas.”

Penerapan AI generatif yang cepat membuat peluang ini makin penting. AI telah memperkenalkan kategori baru investasi teknologi sehingga organisasi perlu mempertimbangkan hal-hal baru saat mengevaluasi hasil dan dampak bisnis dari inisiatif yang mereka jalankan. Seiring perusahaan terus bereksperimen dengan model dasar, AI agentik, dan arsitektur cloud yang kompleks, mereka membutuhkan cara untuk menghubungkan keputusan rekayasa dengan hasil bisnis secara lebih baik.

Meluncurkan bidang kontrol keuangan

Pada 2016, Peterson mendirikan CloudZero, sebuah platform yang menghubungkan keputusan rekayasa dengan dampaknya terhadap keuangan. CloudZero menggabungkan data penggunaan dan pengeluaran cloud untuk membantu organisasi memahami nilai ekonomi sebenarnya dari produk, layanan, dan beban kerja AI mereka. Alih-alih hanya berfokus pada pengurangan biaya, CloudZero membantu tim memahami sepenuhnya nilai yang dihasilkan dari setiap investasi teknologi.

Peterson menjelaskan, “Yang secara unik dapat dilakukan CloudZero adalah menggabungkan informasi tentang pengeluaran cloud dengan informasi tentang bagaimana Anda menggunakan cloud sehingga Anda mendapatkan gambaran lengkap tentang ekonomi unit. Dengan data tersebut, Anda dapat mengetahui margin sebenarnya, siapa pelanggan Anda yang paling menguntungkan, dan komponen mana dalam sistem Anda yang menghasilkan nilai paling besar.”

Menskalakan dengan arsitektur nirserver

Saat membangun arsitekturnya, tim CloudZero menerapkan prinsip yang sama yang sejak awal menjadi inspirasinya: alih-alih mengelola infrastruktur, mereka ingin fokus pada pengembangan produk. Meskipun komputasi nirserver masih dalam tahap awal, CloudZero memutuskan untuk membangun hampir seluruhnya pada sistem nirserver AWS.

Setelah sebelumnya bekerja dengan AWS di perusahaan lain, Peterson mulai menjalin hubungan dengan AWS tidak lama setelah mendirikan CloudZero. “Sekitar 30 hingga 60 hari setelah kami mendirikan perusahaan, saya mulai menjajaki kemitraan dengan AWS,” katanya. “Kami tahu bahwa AWS adalah akan membuat pelanggan lebih percara kepada kami sekaligus membantu kami mempercepat pengembangan produk”

Saat ini, lebih dari 90 persen komputasi CloudZero berjalan di AWS, termasuk AWS Lambda untuk komputasi nirserver, Amazon Elastic Container Service (ECS) dengan AWS Fargate untuk kontainer, dan AWS Step Functions untuk mengatur alur kerja aplikasi. Secara keseluruhan, hal ini telah membantu startup meminimalkan overhead operasional sehingga para rekayasawan dapat fokus pada pengembangan kemampuan baru daripada memelihara infrastruktur. "Saya senang ketika ada pihak lain yang bisa menangani masalah teknologi untuk kami,” kata Peterson. "Kami tidak ingin mengelola server; kami ingin membangun produk."

Seiring berkembangnya AWS, CloudZero terus mengadopsi kemampuan baru. Startup ini sekarang menggunakan Amazon ECS, tabel Native Iceberg di S3 dengan Amazon Athena dan AWS Glue, serta Amazon Aurora untuk mendukung skala dan kompleksitas platform yang terus meningkat. Peterson menganggap pendekatan yang mengutamakan nirserver ini turut membantu CloudZero mempertahankan tim rekayasa yang kecil sambil terus berinovasi.

Memberdayakan era AI

"AI makin menyulitkan kita memahami ROI dari apa yang sedang dibangun," kata Peterson. "Platform kami yang sebelumnya hanya dianggap sebagai sesuatu yang berguna kini menjadi sangat penting untuk memahami hasil dari berbagai inisiatif AI ini."

Menyadari bahwa infrastruktur cloud dan beban kerja AI menjadi makin saling terhubung, CloudZero memperluas platformnya untuk memberikan visibilitas menyeluruh di seluruh siklus hidup AI. Pada tahun 2026, perusahaan meluncurkan Bidang Kontrol Keuangan untuk AI, yang membantu organisasi memahami biaya yang diperlukan untuk merancang, membangun, dan melakukan deployment aplikasi yang ditenagai AI.

Untuk mendukung perubahan ini, CloudZero mengadopsi Amazon Bedrock untuk mendapatkan fleksibilitas model dasar, serta Amazon Bedrock AgentCore untuk alur kerja agentik. Dengan membangun solusi menggunakan layanan AI yang sama dengan yang digunakan pelanggannya, CloudZero dapat memahami secara langsung bagaimana organisasi mengembangkan aplikasi AI, sekaligus memperluas kemampuannya dalam memantau dan menganalisis pengeluaran terkait AI.

"Kami kini memandang platform kami sebagai bidang kontrol keuangan untuk pengambilan keputusan teknologi," kata Peterson. "Kami memiliki kesempatan untuk memandu pelanggan mulai dari keputusan desain paling awal hingga tahap deployment dan pengoperasian aplikasi AI, serta membantu mereka memahami hasil investasi dari setiap pengeluaran."

Perubahan ini juga tercermin dari perilaku pelanggan. Selama setahun terakhir, volume telemetri AI yang mengalir melalui platform CloudZero meningkat lebih dari 1.171 persen. Dalam periode yang sama, mesin alokasi CloudZero telah memproses 14 triliun peristiwa. Angka ini menunjukkan betapa pesatnya adopsi beban kerja AI dan makin tingginya kebutuhan akan visibilitas keuangan secara waktu nyata.

Satu dekade inovasi bersama

Saat ini, berbagai organisasi menggunakan platform CloudZero untuk mengelola pengeluaran di bidang cloud dan AI senilai lebih dari 14 miliar USD. Meskipun telah berkembang dalam skala besar, startup ini hanya mengalami sedikit gangguan selama dekade terakhir. "Dalam 10 tahun terakhir, gangguan yang disebabkan oleh kesalahan kami sendiri bisa dihitung dengan jari," kata Peterson. "Saya tidak perlu memikirkan tentang patching server. Saya bisa fokus membangun kemampuan dan fitur yang hebat untuk pelanggan kami."

Alih-alih menghabiskan waktu untuk memelihara infrastruktur, tim CloudZero dapat terus mengembangkan platformnya dengan mengadopsi kemampuan baru AWS, sekaligus membantu pelanggan lebih memahami nilai dari setiap keputusan teknologi.

Pertumbuhan ini didukung oleh kemitraan yang kuat dan telah terjalin selama satu dekade dengan AWS. CloudZero bergabung dengan Jaringan Partner AWS hanya beberapa minggu setelah didirikan. Saat ini, antara dua pertiga hingga tiga perempat pelanggannya melakukan pembelian melalui AWS Marketplace sehingga proses pengadaan dan adopsi platform menjadi lebih mudah.

Namun, bagi Peterson, kemitraan ini lebih dari sekadar dukungan teknologi dan pemasaran. "Orang-orang sering mengira kami bisa sampai sejauh ini karena sudah lama bekerja sama dengan AWS. Namun, mulai dari para eksekutif hingga semua orang yang pernah bekerja sama dengan saya, semuanya benar-benar berfokus pada pelanggan. Ini bukan sekadar slogan; fokus pada pelanggan benar-benar menjadi bagian dari cara mereka bekerja."

Pandangan AWS dan CloudZero yang sejalan makin diperkuat pada AWS re:Invent 2023, ketika CTO Amazon Werner Vogels menyebut biaya sebagai persyaratan nonfungsional dalam desain perangkat lunak, sebuah prinsip yang telah diperjuangkan CloudZero sejak awal berdiri.

Masa depan keputusan perangkat lunak

Bagi Peterson, kemunculan AI secara mendasar mengubah kemampuan startup dalam membangun berbagai hal. "Semua orang kini bisa melakukan lebih banyak hal," katanya. "Mereka kini bisa melakukan hal-hal yang sebelumnya bahkan tidak pernah mereka bayangkan."

CloudZero berupaya membantu organisasi mendapatkan gambaran yang jelas tentang aspek keuangan di era AI, dengan menyediakan visibilitas waktu nyata yang mereka butuhkan untuk memahami biaya dalam merancang, membangun, dan menjalankan aplikasi AI yang makin otonom.

Seiring perkembangan industri, CloudZero berencana untuk terus bekerja sama dengan AWS guna membantu pelanggan berinovasi dengan percaya diri dan memahami nilai di balik setiap investasi. "Kami memiliki awal perjalanan yang luar biasa dan kemitraan yang hebat, tetapi yang lebih penting, kami memiliki visi yang sama," kata Peterson. "Kami memiliki tujuan yang sama dengan AWS: membantu pelanggan kami meraih kesuksesan."