Adopsi kecerdasan buatan di dunia bisnis memasuki tahap baru seiring meningkatnya perhatian terhadap agen AI yang dapat menjalankan serangkaian tugas secara mandiri. Perusahaan tidak lagi hanya memakai AI generatif untuk menjawab pertanyaan atau membuat konten, tetapi juga untuk mendukung proses operasional dan penciptaan nilai bisnis.
Agen AI memiliki tingkat otonomi lebih tinggi dibandingkan chatbot konvensional karena dapat mengakses sistem, menjalankan alur kerja, dan mengambil tindakan sesuai kewenangan yang diberikan. Kemampuan tersebut membuka peluang efisiensi, namun juga menuntut kesiapan infrastruktur, keamanan, serta tata kelola yang ketat.
Peralihan Dari Eksperimen ke Penggunaan Operasional
Chief Technology Officer Akamai Cloud Computing, Jay Jenkins, mengatakan perusahaan mulai bergeser dari pemanfaatan AI untuk efisiensi menuju penciptaan nilai bisnis baru. Pergeseran ini terlihat pada penggunaan AI untuk membangun pengalaman pelanggan, mengembangkan produk, dan membuka peluang pendapatan.
Perhatian perusahaan juga mulai beralih dari pelatihan model menuju inference, yaitu penggunaan model yang telah dilatih untuk memproses masukan dan menghasilkan keluaran. Tahap ini membutuhkan komputasi, memori, jaringan, serta respons sistem yang memadai agar layanan AI dapat digunakan secara konsisten.
Di Indonesia, kebutuhan akan infrastruktur yang dirancang untuk AI mulai meningkat. Jay menyebut 63 persen organisasi di Indonesia telah mempertimbangkan kebutuhan tersebut sebagai salah satu faktor dalam menentukan pilihan infrastruktur teknologi.
Namun, penerapan AI generatif di perusahaan kawasan ASEAN masih berada pada tahap awal. Sebanyak 16 persen perusahaan di ASEAN telah membawa aplikasi AI generatif ke tahap produksi, sedangkan 84 persen lainnya masih berada pada fase pengujian dan proof of concept.
Agen AI Menawarkan Otomatisasi Lebih Luas
Penggunaan agen AI dinilai menjadi tahap lanjutan setelah pemanfaatan model bahasa besar, pembuat gambar, video, dokumen, dan kode pemrograman. Teknologi ini dapat membantu perusahaan mengotomatisasi pekerjaan yang sebelumnya memerlukan banyak intervensi manusia.
Sektor finansial disebut sebagai salah satu bidang yang berpotensi memperoleh manfaat besar dari teknologi tersebut. Perusahaan e-commerce juga mulai bereksperimen dengan AI untuk membangun pengalaman pelanggan yang lebih baik.
Ekosistem super app di Indonesia turut menjadi area yang berpotensi menerapkan otomatisasi berbasis agen AI. Berbagai alur kerja yang biasa dilakukan pengguna melalui aplikasi tersebut dapat diotomatisasi apabila perusahaan mampu menetapkan batas akses dan prosedur yang jelas.
Meski begitu, otonomi yang lebih tinggi juga meningkatkan risiko ketika agen AI diberi akses ke sistem internal perusahaan. Risiko dapat muncul dari perilaku AI yang tidak semestinya maupun masukan berbahaya yang dirancang untuk mengganggu sistem.
“Karena itu, kami melihat peningkatan investasi yang sangat besar dalam aspek kepercayaan dan akuntabilitas,” kata Jay. Perusahaan perlu memastikan setiap tindakan AI dapat dipantau, dibatasi, dan ditelusuri apabila terjadi masalah.
Lima Tantangan Utama Adopsi AI
Keterbatasan kapasitas komputasi menjadi tantangan pertama, terutama terkait ketersediaan GPU dan kemampuan pemrosesan. Beban kerja AI membutuhkan sumber daya yang berbeda dibandingkan sistem digital biasa.
Latensi menjadi tantangan berikutnya karena banyak infrastruktur AI masih dibangun secara terpusat. Kondisi geografis Indonesia sebagai negara kepulauan membuat penyediaan konektivitas berlatensi rendah secara konsisten menjadi lebih kompleks.
Kedaulatan data dan kepatuhan regulasi juga perlu diperhatikan ketika agen AI memproses informasi sensitif di berbagai lokasi. Perpindahan data lintas negara dapat menimbulkan kewajiban kepatuhan, termasuk terhadap Undang-Undang Pelindungan Data Pribadi.
Kesenjangan keamanan AI dan tata kelola muncul karena agen AI dapat mengakses sistem serta melakukan tindakan secara mandiri. Serangan manipulasi prompt atau prompt injection dan akses tanpa izin dapat memperbesar dampak insiden keamanan.
Biaya infrastruktur serta risiko ketergantungan pada satu penyedia layanan juga menjadi pertimbangan perusahaan. Pengeluaran dapat mencakup penyewaan GPU, inference, memori, dan biaya pengiriman data.
Ketergantungan terhadap model atau API proprietary dari satu penyedia dapat membatasi fleksibilitas perusahaan ketika kebutuhan teknologi berubah. Jay menilai keputusan memakai seluruh layanan dari satu penyedia dapat membuat organisasi sulit berpindah ke pilihan lain.
Infrastruktur dan Pengawasan Bertahap
Untuk menjalankan AI secara efektif, perusahaan membutuhkan infrastruktur AI yang mencakup GPU, CPU, memori, dan jaringan yang andal. Infrastruktur yang terdistribusi juga diperlukan agar pemrosesan real-time tidak terlalu bergantung pada pusat komputasi yang jauh dari pengguna.
Pilihan penerapan dapat disesuaikan dengan kebutuhan perusahaan, termasuk serverless inference bagi organisasi yang belum dapat memperkirakan kapasitas komputasi. Pendekatan dedicated inference dapat digunakan oleh perusahaan yang telah memahami kebutuhan kapasitas dan mampu mengelola infrastruktur khusus.
Penggunaan model open weight dan endpoint yang kompatibel dengan OpenAI API dapat memberi fleksibilitas integrasi maupun perpindahan model. Model berbasis retrieval-augmented generation atau RAG juga dapat membantu memverifikasi informasi dan mengurangi halusinasi AI.
Jay menyarankan perusahaan untuk tidak langsung menyerahkan seluruh tugas kepada agen AI. Organisasi perlu memulai dari alur kerja yang jelas, menentukan batas tugas, lalu memantau keputusan yang dihasilkan sistem.
Pada tahap awal, mekanisme human-in-the-loop dapat diterapkan agar manusia tetap memeriksa dan memvalidasi keputusan AI. Pola ini serupa dengan proses maker-checker yang umum digunakan dalam industri keuangan.
Perusahaan juga perlu memahami alur kerja normal atau happy path serta berbagai skenario pengecualian yang mungkin terjadi. Setelah tingkat kepercayaan meningkat dan batas operasional telah teruji, otonomi agen AI dapat ditingkatkan tanpa menghapus pengawasan, kemampuan audit, dan kontrol keamanan.
