Jakarta, Technologue.id — Vertiv Holdings Co. (NYSE: VRT) bersama Deloitte Center for Integrated Research memperkenalkan kolaborasi untuk membantu perusahaan menentukan lokasi beban kerja AI yang paling tepat. Langkah ini menjawab tantangan utama saat transisi AI dari eksperimen menuju implementasi produksi. Panduan baru bertajuk Designing Infrastructure for Enterprise AI Guide dikembangkan bersama STL Partners.
Panduan tersebut menyediakan kerangka kerja berbasis beban kerja bagi pimpinan bisnis, IT, dan fasilitas infrastruktur AI. Kerangka ini membantu pengambilan keputusan sebelum perusahaan menetapkan rencana infrastruktur. Pendekatan dimulai dari tujuan bisnis dan beban kerja AI yang akan dijalankan organisasi.
Dengan pendekatan itu, organisasi dapat mengevaluasi lokasi implementasi, kebutuhan infrastruktur, serta kesiapan fasilitas. Setiap beban kerja kemudian disesuaikan dengan model infrastruktur fisik dan desain referensi yang tepat. Hasilnya menjadi dasar perencanaan dan validasi teknis lebih lanjut.
Riset yang mendasari panduan menyoroti kesiapan infrastruktur sebagai pertimbangan penting. Kesiapan ini menentukan di mana AI dapat diimplementasikan dan seberapa cepat beban kerja masuk ke operasional. Ketersediaan daya, pendinginan, konektivitas, dan kapasitas operasional menjadi faktor penentu utama.
Faktor-faktor tersebut menentukan apakah fasilitas yang ada mampu mendukung beban kerja AI. Jika tidak memadai, perusahaan membutuhkan model implementasi yang berbeda. Panduan ini menerjemahkan pertimbangan tersebut ke dalam empat langkah utama yang runut.
Keempat langkah itu meliputi penentuan tujuan bisnis dan beban kerja AI, evaluasi skala serta kebutuhan performa dan operasional. Selanjutnya penentuan lokasi implementasi paling sesuai, lalu pencocokan beban kerja dengan model infrastruktur fisik. Desain referensi yang tepat membantu perusahaan memetakan kebutuhan secara lebih konsisten.
CEO Vertiv Giordano Albertazzi menyebut fase berikutnya dari AI enterprise tidak hanya ditentukan model AI dan kemampuan komputasi. Menurutnya, kemampuan organisasi menyediakan daya, pendinginan, konektivitas, dan lingkungan operasional juga menentukan. "Dengan memulai dari pemahaman terhadap beban kerja tersebut, perusahaan dapat mengambil keputusan terkait infrastruktur lebih awal, mengidentifikasi keterbatasan dengan lebih cepat, dan membangun jalur yang lebih realistis untuk melakukan transisi AI dari tahap uji coba menuju implementasi produksi," ujarnya.
Nicholas Merizzi, Principal dan Silicon2Service U.S. Lead di Deloitte Consulting LLP, menambahkan kebutuhan operasional dan pertimbangan ekonomi AI akan berubah seiring peralihan ke tahap produksi. Organisasi perlu mempertimbangkan nilai bisnis, tata kelola, kepemilikan operasional, dan infrastruktur secara bersamaan. "Membahas berbagai aspek tersebut sejak tahap perencanaan memberikan landasan yang lebih kuat bagi para pemimpin untuk menentukan di mana beban kerja AI sebaiknya dijalankan dan bagaimana cara mendukungnya dalam jangka panjang," kata Merizzi.
Baca Juga:
Pendekatan ini berangkat dari pemahaman bahwa penggunaan AI di perusahaan terdiri dari berbagai jenis beban kerja. AI bukan sekadar satu keputusan infrastruktur tunggal. Beban kerja yang masih eksplorasi dapat tetap dijalankan di penyimpanan awan atau cloud.
Sebaliknya, beban kerja yang berkelanjutan atau kritikal bagi bisnis mungkin lebih cocok dijalankan pada infrastruktur hybrid. Kapasitas yang dikelola sendiri oleh perusahaan juga menjadi opsi yang relevan. Beban kerja dengan kebutuhan respons cepat, kontrol tinggi, atau kedekatan dengan sumber data mungkin perlu dijalankan di edge.
Pendekatan berbasis karakteristik beban kerja ini memungkinkan public cloud, colocation, penyimpanan perusahaan, lingkungan hybrid, dan infrastruktur edge berperan sesuai kebutuhan. Panduan ini tidak mendorong atau menolak penggunaan cloud secara umum. Sebaliknya, tersedia metode konsisten untuk menentukan lingkungan operasional paling sesuai bagi setiap beban kerja AI.
Riset ini mengelompokkan beban kerja AI enterprise ke dalam enam arketipe. Enam arketipe itu mencakup pengembangan model, pelatihan ulang model, serta empat kategori penggunaan AI di lingkungan produksi. Arketipe tersebut membantu organisasi mengidentifikasi workload dengan kebutuhan performa, operasional, dan infrastruktur yang serupa.
Setiap karakteristik beban kerja kemudian dipetakan ke salah satu dari empat model infrastruktur fisik. Keempat model itu adalah Edge AI Cluster, Small AI Cluster, Large AI Cluster, dan High-Density AI Cluster. Keempatnya menjadi titik awal pengambilan keputusan terkait kebutuhan daya, pendinginan, sistem kontrol, konektivitas, resiliensi, dukungan operasional, hingga kebutuhan pertumbuhan di masa depan.
Desain referensi yang tersedia selanjutnya dapat disesuaikan berdasarkan hasil asesmen lokasi dan kebutuhan beban kerja. Perencanaan teknis yang lebih mendetail juga menjadi dasar penyesuaian tersebut. Pendekatan ini sejalan dengan perkembangan infrastruktur AI di Tanah Air, seperti yang terlihat pada Infrastruktur AI Indonesia yang terus didorong lewat konektivitas 5G.
Kesiapan fasilitas menjadi faktor penting di seluruh model tersebut. Panduan ini membantu perusahaan mengevaluasi apakah lokasi yang dipilih memiliki kapacitas daya, pendinginan, konektivitas, kapasitas operasional, serta ruang ekspansi yang memadai. Asesmen sejak awal membantu mengidentifikasi keterbatasan infrastruktur sebelum menjadi hambatan implementasi.
Kebutuhan akan fondasi infrastruktur yang matang juga tercermin dari langkah sejumlah vendor. Lenovo, misalnya, memperluas Infrastruktur Virtualisasi sebagai fondasi AI perusahaan. Sementara itu, solusi penyimpanan seperti VSP One Block High End hadir memenuhi kebutuhan infrastruktur data di era AI.
Panduan lengkap Designing Infrastructure for Enterprise AI menjelaskan secara rinci enam arketipe workload dan empat model infrastruktur fisik. Dokumen ini juga memuat roadmap empat fase untuk merencanakan, mengimplementasikan, dan mengembangkan infrastruktur AI enterprise. Panduan tersebut dapat diakses melalui Vertiv.com.
