Alasan Mengapa AI Perlu Data Center yang Besar

Daftar Isi

Kalau kita mendengar istilah Artificial Intelligence (AI) atau kecerdasan buatan, mungkin yang terbayang adalah chatbot seperti ChatGPT, generator gambar, pembuat video, atau aplikasi yang bisa membantu menjawab berbagai pertanyaan. Dari sisi pengguna, semuanya terlihat sederhana. Tinggal mengetik pertanyaan, klik tombol, lalu beberapa detik kemudian jawabannya muncul.

Alasan Mengapa AI Perlu Data Center yang Besar

Tapi di balik proses yang kelihatannya simpel itu, sebenarnya ada mesin yang bekerja sangat keras. AI membutuhkan komputer dalam jumlah besar, penyimpanan data yang luas, jaringan supercepat, dan sistem pendingin yang tidak main-main. Karena itulah perusahaan teknologi membutuhkan data center berukuran besar untuk menjalankan layanan AI.

Lantas, kenapa AI sampai membutuhkan data center sebesar itu?

AI Membutuhkan Komputasi yang Sangat Besar

Salah satu alasan utamanya adalah kebutuhan komputasi. AI modern, terutama model AI generatif, memiliki jumlah parameter yang sangat banyak. Parameter ini bisa dibayangkan sebagai bagian-bagian yang digunakan model untuk mempelajari pola dari data.

Ketika AI dilatih, komputer harus memproses data dalam jumlah luar biasa besar. Bukan cuma membaca teks seperti manusia membaca artikel, tetapi melakukan perhitungan matematika terhadap miliaran bahkan lebih banyak parameter.

Di sinilah GPU dan akselerator AI berperan penting. Perangkat tersebut dirancang untuk mengerjakan banyak perhitungan secara paralel. Masalahnya, satu GPU saja tidak cukup untuk melatih model AI berskala besar.

Puluhan, ratusan, bahkan ribuan chip komputasi bisa bekerja bersama dalam satu sistem. Nah, kebayang kan kenapa perusahaan AI membutuhkan data center yang besar?

Data yang Dipakai AI Juga Sangat Banyak

AI membutuhkan data untuk belajar. Semakin kompleks kemampuan yang ingin diberikan kepada AI, semakin besar pula kebutuhan datanya.

Model AI dapat dilatih menggunakan berbagai jenis informasi, seperti teks, gambar, suara, video, kode pemrograman, dan data lainnya. Semua data tersebut harus disimpan, diproses, dipindahkan, kemudian digunakan dalam proses pelatihan.

Karena itu, data center AI tidak hanya membutuhkan mesin komputasi. Mereka juga membutuhkan kapasitas penyimpanan yang sangat besar serta jaringan yang mampu memindahkan data dengan cepat.

Kalau jaringan internalnya lambat, GPU yang mahal sekalipun bisa tidak bekerja secara maksimal karena harus menunggu data. Jadi, urusannya bukan sekadar "pasang komputer sebanyak-banyaknya", tetapi seluruh komponen harus dibuat supaya bisa bekerja bersama secara efisien.

AI Bukan Cuma Dilatih, Tapi Juga Harus Melayani Pengguna

Ini bagian yang sering tidak kita sadari.

Setelah model AI selesai dilatih, pekerjaannya belum selesai. Model tersebut harus terus digunakan untuk menjawab permintaan pengguna.

Misalnya ada jutaan orang yang dalam waktu bersamaan meminta AI membuat tulisan, menerjemahkan bahasa, membuat gambar, menganalisis dokumen, atau membantu coding. Setiap permintaan tersebut membutuhkan proses komputasi.

Proses ketika AI menghasilkan jawaban disebut inference. Walaupun tidak selalu seberat proses pelatihan model, inference dalam skala jutaan pengguna tetap membutuhkan sumber daya yang sangat besar.

Makanya, ketika layanan AI sedang ramai, perusahaan harus mempunyai kapasitas komputasi yang cukup agar pengguna tidak mengalami antrean panjang atau layanan menjadi lambat.

GPU AI Menghasilkan Panas

Ada satu masalah lain yang kelihatannya sepele, tetapi sebenarnya sangat penting: panas.

Chip komputasi berkinerja tinggi mengonsumsi energi dalam jumlah besar. Ketika bekerja terus-menerus, perangkat tersebut menghasilkan panas yang harus segera dibuang.

Kalau temperatur terlalu tinggi, performa perangkat dapat terganggu dan umur komponen bisa berkurang. Karena itu, data center AI membutuhkan sistem pendingin yang serius.

Bukan sekadar memasang beberapa kipas seperti di komputer rumahan, bro. Data center berskala besar dapat menggunakan sistem pendingin khusus untuk menjaga temperatur perangkat tetap stabil.

Semakin banyak GPU yang dipasang, semakin besar pula kebutuhan listrik dan sistem pendinginnya.

Konsumsi Listriknya Juga Tidak Sedikit

Selain pendinginan, kebutuhan listrik menjadi tantangan besar.

Bayangkan satu fasilitas yang menampung ribuan perangkat komputasi berkinerja tinggi dan harus beroperasi sepanjang waktu. Tentunya kebutuhan listriknya jauh berbeda dibandingkan sebuah kantor biasa.

Belum lagi listrik tersebut tidak hanya digunakan untuk GPU. Ada server, sistem penyimpanan, perangkat jaringan, pendingin, pencahayaan, sistem keamanan, hingga berbagai perangkat pendukung lainnya.

Karena itulah pembangunan data center AI sering kali membutuhkan perencanaan energi yang sangat matang. Perusahaan harus memastikan pasokan listrik cukup stabil untuk menjalankan seluruh infrastrukturnya.

Data Center AI Harus Terhubung dengan Internet dan Jaringan Cepat

AI juga membutuhkan jaringan dengan bandwidth tinggi dan latensi rendah.

Ketika pengguna mengirimkan pertanyaan, gambar, file, atau perintah lainnya, data tersebut harus dikirim ke server AI. Setelah diproses, hasilnya dikirim kembali kepada pengguna.

Untuk layanan yang digunakan jutaan orang, lalu lintas datanya tentu bukan kaleng-kaleng.

Karena itu, data center AI membutuhkan infrastruktur jaringan yang mampu menangani transfer data dalam jumlah besar dan komunikasi cepat antarperangkat di dalam pusat data.

Mengapa Tidak Menggunakan Satu Komputer Saja?

Pertanyaan ini mungkin muncul di kepala kita.

Kenapa tidak dibuat satu komputer superkuat saja?

Masalahnya adalah AI modern membutuhkan kemampuan komputasi yang sangat besar. Dengan membagi pekerjaan ke banyak GPU dan server, perusahaan dapat menjalankan proses secara paralel.

Sederhananya, kalau satu orang disuruh mengangkat seratus kardus, tentu bakal lama. Tapi kalau ada seratus orang dan masing-masing membawa satu kardus, pekerjaannya jauh lebih cepat.

Konsepnya kurang lebih seperti itu, walaupun sistem AI sebenarnya jauh lebih kompleks.

Jadi, Data Center Adalah "Dapur" AI

Kalau aplikasi AI yang kita lihat di layar adalah bagian depannya, maka data center bisa dibilang sebagai dapur besar di belakangnya.

Di sanalah model AI dilatih, disimpan, dijalankan, dan melayani permintaan pengguna. Tanpa infrastruktur tersebut, AI modern tidak akan bisa bekerja dalam skala seperti sekarang.

Itulah alasan mengapa perkembangan AI tidak hanya soal membuat model yang semakin pintar. Perusahaan juga harus membangun infrastruktur fisik yang semakin kuat untuk mendukungnya.

Jadi, lain kali ketika kita mengetik pertanyaan sederhana kepada AI dan mendapatkan jawaban dalam hitungan detik, jangan kira prosesnya sesederhana yang terlihat di layar. Di belakangnya ada GPU, server, penyimpanan, jaringan, listrik, pendinginan, dan data center besar yang bekerja bersama.