Perkembangan teknologi Artificial Intelligence (AI) atau kecerdasan buatan telah menciptakan tantangan baru bagi industri data center. Saat ini, kebutuhan komputasi untuk menjalankan model AI generatif terus meningkat secara drastis. Namun, di sisi lain, ketersediaan listrik menjadi salah satu hambatan terbesar dalam pembangunan dan ekspansi data center modern.
Dulu, operator data center lebih fokus mencari ruang untuk menambah server. Kini, tantangan utamanya adalah bagaimana memanfaatkan setiap watt listrik yang tersedia secara maksimal. Karena itulah muncul pendekatan baru dalam mengukur efisiensi data center, yaitu beralih dari metrik PUE (Power Usage Effectiveness) menuju konsep Tokens-per-Watt.
Apa Itu PUE?
Selama lebih dari satu dekade, PUE menjadi standar utama untuk mengukur efisiensi energi sebuah data center. PUE membandingkan total energi yang digunakan fasilitas dengan energi yang benar-benar dipakai oleh perangkat IT seperti server dan storage.
Semakin rendah nilai PUE, semakin efisien data center tersebut.
Meskipun masih relevan, PUE memiliki keterbatasan. Metrik ini hanya menunjukkan seberapa banyak energi yang digunakan setelah proses berlangsung. PUE tidak memberikan gambaran detail secara real-time mengenai bagaimana energi tersebut digunakan untuk menghasilkan komputasi AI.
Mengenal Konsep Tokens-per-Watt
Di era AI, ukuran efisiensi mulai bergeser.
Alih-alih hanya menghitung konsumsi listrik, operator kini mulai mengukur seberapa banyak pekerjaan AI yang dapat diselesaikan dari setiap watt listrik yang digunakan. Konsep inilah yang dikenal sebagai Tokens-per-Watt.
Token dapat diibaratkan sebagai satuan pekerjaan yang diproses oleh model AI. Semakin banyak token yang dapat diproses dengan energi yang sama, semakin efisien sistem tersebut.
Dengan kata lain, fokusnya bukan lagi “berapa listrik yang digunakan”, melainkan “berapa hasil komputasi yang dihasilkan dari listrik tersebut”.
Masalah Kapasitas Listrik yang Terbuang
Banyak data center saat ini ternyata menyimpan potensi daya yang belum dimanfaatkan secara optimal. Kondisi ini dikenal sebagai stranded capacity atau kapasitas menganggur.
Sebagai langkah keamanan, operator biasanya menyediakan cadangan daya sebesar 20% hingga 30% dari total kapasitas listrik yang tersedia. Cadangan ini disiapkan untuk mengantisipasi lonjakan beban atau kondisi darurat.
Masalahnya, tanpa data yang akurat dan real-time, cadangan tersebut sering kali terlalu besar dan tidak pernah digunakan.
Akibatnya, ada sejumlah besar daya listrik yang sebenarnya bisa digunakan untuk menjalankan server AI tambahan, tetapi justru menganggur.
Mengapa AI Membutuhkan Pemantauan yang Lebih Cepat?
Beban kerja AI sangat berbeda dibandingkan aplikasi tradisional.
Sebuah kluster GPU yang menjalankan proses pelatihan AI dapat berubah dari kondisi hampir tidak menggunakan daya menjadi penggunaan maksimum hanya dalam hitungan milidetik. Lonjakan ini dapat menimbulkan tekanan besar pada sistem kelistrikan maupun pendinginan.
Karena perubahan terjadi sangat cepat, operator membutuhkan data real-time agar dapat mengambil keputusan yang tepat.
Inilah alasan mengapa sistem pemantauan modern menjadi sangat penting dalam data center AI.
Menggabungkan Data IT dan OT
Untuk mengoptimalkan penggunaan energi, data center perlu menggabungkan informasi dari dua dunia yang selama ini sering terpisah:
IT (Information Technology)
Meliputi server, storage, GPU, dan perangkat komputasi lainnya.
OT (Operational Technology)
Meliputi UPS, sistem pendingin, panel distribusi daya, generator, dan infrastruktur fasilitas.
Biasanya tim IT fokus memantau performa server, sedangkan tim fasilitas memantau sistem listrik dan pendinginan.
Padahal, untuk mengetahui penggunaan energi secara menyeluruh, kedua jenis data tersebut harus digabungkan dalam satu platform yang sama.
Pentingnya Data Real-Time
Sistem manajemen daya modern atau Electrical Power Management System (EPMS) hanya akan bekerja efektif jika mendapatkan data yang akurat dan terkini.
Data tersebut berasal dari berbagai perangkat seperti:
-
UPS (Uninterruptible Power Supply)
-
Power Distribution Cabinet (PDC)
-
Sensor lingkungan
-
Sistem pendingin
-
Meter listrik
Tantangannya, perangkat-perangkat ini sering berasal dari vendor yang berbeda dan menggunakan protokol komunikasi yang berbeda pula seperti Modbus RTU, Modbus TCP, maupun SNMP.
Agar seluruh data dapat dibaca dalam satu sistem, diperlukan perangkat penghubung seperti protocol gateway dan serial device server.
Perangkat ini bertugas menerjemahkan data dari berbagai sumber menjadi format yang seragam sehingga dapat dianalisis secara real-time.
Langkah Membangun Data Center yang Lebih Efisien
Untuk memaksimalkan penggunaan energi dan mengurangi kapasitas yang terbuang, operator dapat menerapkan beberapa langkah berikut:
1. Menghilangkan Silo Data
Semua data dari sistem IT dan OT harus dikumpulkan dalam satu platform terpadu.
2. Memasang Sensor di Titik Penting
Sensor lingkungan dan sensor listrik harus ditempatkan dekat sumber data untuk mendapatkan informasi yang lebih akurat.
3. Menjamin Keandalan Jaringan
Jaringan komunikasi harus mampu mengirim data tanpa gangguan menggunakan mekanisme redundansi dan failover.
4. Melakukan Visualisasi Real-Time
Dashboard monitoring memungkinkan operator melihat perbedaan antara daya yang dialokasikan dan daya yang benar-benar digunakan.
Dengan cara ini, kapasitas listrik yang selama ini menganggur dapat dimanfaatkan kembali secara aman.
Masa Depan Efisiensi Data Center AI
Di era AI generatif, energi telah menjadi aset yang sangat berharga. Operator data center tidak lagi hanya berfokus pada pengurangan konsumsi listrik, tetapi juga pada peningkatan produktivitas setiap watt yang digunakan.
Peralihan dari PUE menuju Tokens-per-Watt menunjukkan perubahan besar dalam cara industri memandang efisiensi energi.
Dengan memanfaatkan telemetri real-time, integrasi data IT dan OT, serta sistem monitoring yang cerdas, operator dapat merebut kembali kapasitas listrik yang selama ini terbuang. Hasilnya adalah data center yang lebih efisien, lebih siap menghadapi pertumbuhan AI, serta lebih mampu memenuhi target keberlanjutan dan efisiensi energi di masa depan.
moxa Indonesia merupakan bagian dari PT. iLogo Infralogy Indonesia, yang bertindak sebagai partner resmi moxa.
Selain itu, kami juga berperan sebagai penyedia layanan (vendor) sekaligus distributor berbagai produk Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
