Akamai dan NVIDIA Luncurkan Jaringan AI Grid Global untuk Komputasi Edge
Sumber Foto: Liputan6.com
Teknologi

Akamai dan NVIDIA Luncurkan Jaringan AI Grid Global untuk Komputasi Edge

Ruang Press - Liputan6.com, Jakarta - Akamai Technologies mengukuhkan posisinya dalam peta jalan evolusi kecerdasan buatan (AI) global dengan meluncurkan implementasi pertama desain referensi NVIDIA AI Grid.

Langkah strategis ini mengintegrasikan infrastruktur AI mutakhir milik NVIDIA ke dalam jaringan distribusi luas Akamai, yang bertujuan mengalihkan fokus industri dari sekadar "pabrik AI" terpusat menuju sistem inferensi yang terdistribusi secara global.

Melalui pengembangan Akamai Inference Cloud ini, ribuan unit GPU NVIDIA RTX PRO 6000 Blackwell Server Edition telah mulai dioperasikan.

Integrasi ini memungkinkan perusahaan menjalankan AI berbasis agen dan fisik dengan kecepatan respons sekelas komputasi lokal, namun tetap memiliki skalabilitas jaringan web global. Terobosan ini menjawab tantangan latensi yang selama ini menjadi kendala utama dalam penerapan AI real-time.

Chief Operating Officer dan General Manager Cloud Technology Group Akamai, Adam Karon, menilai meski infrastruktur terpusat tetap penting untuk pelatihan model dasar, kebutuhan akan video real-time dan AI fisik menuntut proses inferensi di titik kontak pengguna.

"Orkestrasi cerdas AI Grid kami memberikan cara bagi pabrik AI untuk memperluas inferensi ke luar—memanfaatkan arsitektur terdistribusi yang sama seperti yang telah merevolusi pengiriman konten untuk mengarahkan beban kerja AI ke 4.400 lokasi, dengan biaya yang tepat, pada waktu yang tepat," ujar Karon dalam keterangannya, Kamis (19/3/2026).

Salah satu inovasi kunci dalam arsitektur AI Grid ini adalah sistem orkestrator cerdas yang berfungsi sebagai perantara real-time untuk permintaan AI.

Sistem ini diklaim mampu mengoptimalkan tokenomics—istilah untuk efisiensi ekonomi dalam pemrosesan data AI—dengan menekan biaya per token, mempercepat waktu respons (time to first token), dan meningkatkan throughput.

Akamai memberikan keunggulan kompetitif bagi perusahaan dengan memungkinkan akses ke model-model AI yang telah disesuaikan secara mendetail melalui jangkauan edge global yang luas.

Hal ini sangat krusial bagi beban kerja AI skala kecil yang membutuhkan efisiensi biaya tinggi. Infrastruktur ini juga didukung oleh ekosistem sumber terbuka (open source) dengan kuota lalu lintas data keluar yang besar, memudahkan operasional AI yang intensif data dalam skala masif.

Implementasi Lintas Industri

Dampak dari teknologi ini mulai dirasakan di berbagai sektor, antara lain:

Industri Gaming: Studio game kini dapat menghadirkan interaksi karakter non-pemain (NPC) berbasis AI dengan latensi di bawah 50 milidetik, menjaga pengalaman imersif tanpa gangguan.

Sektor Finansial: Lembaga perbankan memanfaatkan jaringan ini untuk deteksi penipuan dan pemasaran personalisasi instan saat nasabah melakukan login.

Media dan Ritel: Memungkinkan sulih suara (dubbing) konten secara real-time serta penerapan AI di dalam toko untuk meningkatkan produktivitas titik penjualan (point of sales).

Global VP Business Development Telco NVIDIA, Chris Penrose, menyebut kehadiran NVIDIA AI Grid di jaringan Akamai merupakan jembatan penting bagi masa depan AI generatif dan otonom.

Menurutnya, kecerdasan buatan kini dapat diterapkan langsung pada sumber data untuk membuka peluang bagi gelombang baru aplikasi real-time.

Masa Depan AI Terdistribusi

Seiring dengan pergeseran beban kerja dari tahap pelatihan ke tahap inferensi, model AI terpusat mulai menghadapi kendala skalabilitas.

Pendekatan Akamai yang mendistribusikan daya komputasi dari inti (core) ke titik terjauh (edge) dianggap sebagai solusi jangka panjang. Hal ini memungkinkan perusahaan menerapkan agen AI yang peka terhadap konteks dan responsif secara adaptif.

Saat ini, Akamai Inference Cloud telah tersedia bagi pelanggan korporat yang memenuhi syarat. Perusahaan juga dilaporkan telah mengamankan perjanjian layanan senilai USD 200 juta untuk pengoperasian klaster GPU di jaringan edge perkotaan, menandakan kepercayaan pasar yang kuat terhadap model AI terdistribusi ini.