Desain Zona Pendaratan AI: Pola Kontainer dan Meja Kerja

AI Container dan AI Workbench: merancang zona pendaratan AI untuk pembangun dan pengguna bisnis

Pada bagian pertama seri ini saya melihat cara kerja platform pembuatan agen multi-model, Microsoft Foundry, AWS Bedrock, dan Vertex AI Agent Builder Google, serta cara memilih di antara keduanya. Pertanyaan yang diajukan klien selanjutnya lebih menarik: setelah model dan platform dipilih, bagaimana Anda menyusun zona pendaratan AI sehingga agen pembangun dan orang yang menggunakannya dapat memperoleh manfaat darinya dengan aman?

Keterlibatan klien baru-baru ini menggambarkannya dalam istilah-istilah konkret yang bermanfaat. Mereka meminta dua hal: an Wadah AItempat tinggal para tukang pipa teknis dan pengembang serta profesional data yang mengutamakan kode bekerja, dan sebuah Meja Kerja AIdi mana pengguna non-teknis dapat dengan aman menemukan dan menggunakan agen dan layanan AI yang disetujui. Saya menyukai bahasanya karena memaksa desain untuk melayani dua audiens yang sangat berbeda daripada berpura-pura bahwa satu lingkungan cocok untuk keduanya. Posting ini membahas desain tersebut, pada lingkungan yang berpusat pada Microsoft, dengan catatan tentang di mana pola tersebut digeneralisasikan.

Apa yang salah tanpa perpecahan

Ketika pembangun dan pengguna bisnis berbagi satu lingkungan AI yang tidak terdiferensiasi, kegagalannya bukanlah ‘tata kelola’ yang abstrak. Itu muncul dalam tiga baris yang menjadi perhatian sponsor.

• Biaya. Setiap eksperimen, setiap bukti konsep yang ditinggalkan, setiap pengguna bisnis yang menggunakan titik akhir model mentah diambil dari kumpulan terukur yang sama. Tidak ada yang bisa mengatakan berapa biaya yang harus dikeluarkan untuk menjalankan sebuah agen, jadi tidak ada yang bisa mengatakan agen mana yang layak untuk dijalankan.
• Mempertaruhkan. Pengguna bisnis hanya mendapatkan satu koneksi yang salah dikonfigurasi dari data yang seharusnya tidak mereka lihat, dan pengembang akhirnya menjadi agen pengiriman ke rekan kerja tanpa meninjau apa yang dapat dijangkau oleh agen tersebut. Satu insiden data di awal peluncuran akan menghentikan adopsi selama satu tahun. Saya telah menyaksikan hal itu terjadi.
• Adopsi. Inilah yang dirindukan. Dihadapkan pada pipa ledeng mentah, sebagian besar pengguna non-teknis langsung melepaskan diri, dan TI merespons risiko tersebut dengan mengunci semuanya di balik tiket. Anda akan mendapatkan hal terburuk dari keduanya: platform yang mahal dan tenaga kerja yang diam-diam kembali ke kebiasaan lama, atau ke alat yang tidak disetujui.

Pemisahan Container dan Workbench dilakukan untuk melindungi satu hasil: adopsi yang cepat, aman, dan diatur pada saat yang sama, dibandingkan saling menukar satu sama lain.

AI Container: membangun kecepatan tanpa biaya atau paparan yang tidak terkendali

Kontainer adalah lapisan teknis. Tugasnya adalah membiarkan para pembangun bergerak cepat dan menambahkan nilai dalam lapisan tipis sementara organisasi tetap mengontrol pembelanjaan dan data. Dalam istilah Azure, ini adalah zona pendaratan aplikasi, langganannya sendiri atau pasangan langganan di bawah grup manajemen khusus, yang berisi:

• Akses model. Proyek Foundry menampung penerapan model yang dipilih di bagian pertama, termasuk perutean multi-model. Semua titik akhir model berada di belakang titik akhir privat; tidak ada yang dapat dijangkau dari internet publik.
• Perkakas pembuatan agen. Layanan Agen Pengecoran untuk pekerjaan yang mengutamakan kode, Copilot Studio untuk pembuat kode rendah, dengan kontrol sumber dan saluran CI/CD yang memperlakukan agen sebagai artefak yang dapat diterapkan, bukan eksperimen portal. Jika tidak ada di repo, maka tidak akan dipromosikan.
• Koneksi data. Koneksi terkelola dan tercakup baca ke platform data melalui identitas terkelola, yang dikatalogkan di Microsoft Purview. Pembangun meminta sambungan; mereka tidak mencetak kredensial mereka sendiri.
• Batasan identitas dan jaringan. Grup ID masuk dengan kontrol akses berbasis peran, Manajemen Identitas Istimewa untuk segala hal yang lebih tinggi, dan segmentasi jaringan yang menjaga jaringan virtual Kontainer tetap terhubung ke zona pendaratan platform tetapi tidak terlihat oleh pengguna umum.
• Pengendalian biaya. Anggaran dan peringatan per proyek, penandaan wajib (pemilik, agen, pusat biaya), dan pilihan yang disengaja antara kapasitas model yang disediakan dan model bayar sesuai penggunaan setelah pola penggunaan diketahui.

Akses terbatas pada pengembang, insinyur data, dan tim platform. Alasan bisnis untuk setiap kontrol di atas adalah sama: pembangun menjaga kecepatannya karena pagar pembatas berada di lingkungan, bukan dalam antrean email persetujuan.

AI Workbench: adopsi layanan mandiri tanpa antrian tiket

Workbench bukanlah lingkungan teknis kedua. Ini adalah lapisan konsumsi: katalog agen dan layanan yang disetujui, muncul di tempat pengguna bisnis sudah bekerja.

• Katalog agen yang dikurasi. Hanya agen yang telah melewati gerbang promosi yang muncul. Di lingkungan Microsoft, hal ini biasanya berarti agen yang dipublikasikan ke Microsoft 365 Copilot dan Teams melalui katalog agen organisasi, jadi ‘menemukan AI’ berarti membuka alat yang sudah dimiliki orang-orang.
• Lapisan akses yang disederhanakan. Pengguna bisnis mengautentikasi dengan identitas Entra ID yang ada. Tidak ada akses portal Microsoft Azure, tidak ada URL titik akhir, tidak ada kunci. Hak diberikan berdasarkan keanggotaan grup, jadi bergabung dengan kelompok baru merupakan perubahan grup, bukan proyek.
• Pagar pembatas. Kebijakan pencegahan kehilangan data, label sensitivitas Azure Purview diterapkan secara menyeluruh, pemfilteran konten dikonfigurasikan pada penerapan model di belakang setiap agen, dan akses bersyarat yang memastikan Workbench hanya dapat dijangkau dari perangkat terkelola jika hal tersebut penting.

Hasil yang didapat dari lapisan ini adalah adopsi dengan cepat. Ketika sebuah tim menginginkan agen yang disetujui, mereka mendapatkannya pada hari yang sama melalui tugas kelompok, dan TI tidak pernah melihat tiketnya. Itulah yang membuat kasus bisnis sponsor berhasil: nilai berasal dari penggunaan, dan penggunaan berasal dari menghilangkan gesekan bagi sebagian besar orang yang tidak akan pernah menyentuh pipa ledeng.

Jalur promosi: tempat bertemunya dua lapisan

Koneksi antara Container dan Workbench adalah jalur promosi, dan merupakan bagian yang dilewati sebagian besar desain. Agen bergerak melalui lingkungan pengembangan dan pengujian di dalam Kontainer, lalu melewati gerbang persetujuan sebelum dipublikasikan ke katalog Workbench. Gerbang tersebut memeriksa empat hal: data apa yang dapat dijangkau oleh agen, tindakan apa yang dapat diambil, berapa biaya untuk menjalankannya, dan apakah kualitas keluarannya telah dievaluasi berdasarkan rubrik yang disepakati dan bukan berdasarkan demo yang baik.

Batasan itu sendiri diterapkan dengan mekanisme Azure yang sudah dikenal: pemisahan grup manajemen dengan Kebijakan Azure yang diterapkan di setiap tingkat, RBAC yang tidak memberi pengguna bisnis akses tetap ke sumber daya Kontainer, segmentasi jaringan antar lapisan, dan Azure API Management sebagai pintu depan bagi agen mana pun yang terekspos di luar permukaan Microsoft 365, yang juga memberi Anda penggunaan per agen dan atribusi biaya.

Ketegangan desain yang harus dikelola adalah kecepatan. Jika promosi memakan waktu enam minggu, pembangun akan mengatasinya dan Anda kembali ke bayangan AI. Gerbang tersebut harus menjadi daftar periksa yang dapat diselesaikan oleh pemilik platform dalam hitungan hari, melindungi hasil yang penting: tidak ada hal yang tidak diatur yang akan menjangkau pengguna bisnis, dan tidak ada hal yang diatur akan menunggu cukup lama untuk mematikan momentum.

Pertanyaan yang sebenarnya ditanyakan klien

Bagaimana cara menghentikan pengguna non-teknis menjangkau pipa ledeng tanpa memperlambat akses layanan mandiri?

Jadikan identitas sebagai batasannya, bukan jaringannya saja. Pengguna bisnis tidak memiliki akses portal Microsoft Azure dan tidak memiliki rute ke titik akhir model; satu-satunya jalan mereka menuju AI adalah katalog yang diterbitkan. Karena pemberian hak didasarkan pada kelompok, layanan mandiri tetap berjalan cepat: mekanisme yang sama yang menghalangi saluran pipa memberikan hibah kepada agen.

Bagaimana cara menghentikan container agar tidak menjadi agent sprawl dan shadow cost?

Tiga kontrol: penandaan wajib sehingga setiap sumber daya memiliki pemilik dan pusat biaya, atribusi biaya per agen melalui langganan API Management dan batas proyek Foundry, dan batas waktu eksperimen, dengan apa pun yang tidak tersentuh selama enam puluh hari ditandai untuk dihapus. Sprawl adalah masalah visibilitas sebelum menjadi masalah disiplin; memberi pemilik platform pandangan bulanan tentang agen, pemilik, dan biaya operasional dan sebagian besar melakukan koreksi sendiri.

Apakah ini memerlukan dua zona pendaratan Azure terpisah, atau satu dengan akses berlapis?

Bagi sebagian besar organisasi, satu zona pendaratan aplikasi dengan akses berlapis adalah keputusan yang tepat: langganan terpisah untuk beban kerja Kontainer di bawah satu grup manajemen, dengan Meja Kerja dikirimkan melalui platform Microsoft 365, bukan infrastruktur Azure. Dua zona pendaratan penuh kira-kira menggandakan overhead platform dan memperlambat jalur promosi, dan hanya dapat dipertahankan jika peraturan menuntut pemisahan yang tegas, persyaratan kedaulatan yang jelas, atau model operasi yang benar-benar terpisah. Pilih zona pendaratan tunggal kecuali jika regulator memberikan argumen yang mendukung Anda.

Berapa versi minimum yang layak untuk uji coba pertama?

Satu langganan Kontainer, satu proyek Foundry dengan penerapan model tunggal di belakang titik akhir privat, Manajemen API di depan, kontrol sumber dan saluran dasar, serta tiga hingga lima agen yang dibangun berdasarkan kasus penggunaan nyata, dipromosikan melalui gerbang ringan ke kelompok pertama yang terdiri dari dua puluh hingga lima puluh pengguna bisnis di Teams. Hal ini cukup untuk membuktikan hasilnya, agen yang bekerja dalam produksi, dengan aman, dengan biaya yang diketahui, tanpa membangun negara target penuh terlebih dahulu.

Polanya tidak spesifik untuk Azure. Tukar Foundry untuk Bedrock atau Vertex AI Agent Builder, grup manajemen untuk folder AWS Organizations atau GCP, dan ID Entra untuk bidang identitas yang setara, serta Kontainer, Meja Kerja, dan gerbang promosi diterjemahkan secara langsung.

Apa sebenarnya isi desain tahap pertama

Jika saya melakukan pelingkupan ini untuk klien, fase pertama berisi: langganan Kontainer dan struktur grup manajemen dengan kebijakan yang diterapkan; satu penerapan model yang diatur dan pola koneksi data; kerangka CI/CD untuk agen; Manajemen API dengan atribusi per agen; daftar periksa promosi yang disepakati dengan pemilik platform; dan agen pertama yang dipublikasikan di Workbench. Dinyatakan sebagai hasil: agen pertama yang berproduksi dalam waktu empat hingga enam minggu, kelompok bisnis pertama yang bergabung dengan selamat pada minggu ke enam hingga ke delapan, dan angka biaya per agen yang dapat dilihat sponsor sejak hari pertama. Hal terakhir itulah yang membuat program tetap didanai.

Ke mana harus pergi selanjutnya

Penataan lingkungan merupakan salah satu bagian dari permasalahan; membuat orang menggunakannya dengan baik adalah hal lain, dan biasanya ini adalah bagian yang lebih sulit. Hal inilah yang menjadi tujuan Program Pemberdayaan AI: kesiapan, kasus penggunaan berbasis peran, dan tata kelola yang menjadikan nilai tetap ada setelah dorongan awal. Jika peluncuran Anda memiliki lisensi tetapi belum mencapai landing zone, hal ini layak untuk dibicarakan.

Dan jika Anda belum membuat keputusan platform dan model yang menjadi dasar desain ini, mulailah dengan bagian pertama: memilih platform agen multi-model.