Selama sebagian besar era cloud, komputasi diperlakukan sebagai infrastruktur. Anda mengaturnya, mengukurnya ketika diperlukan, dan mengasumsikan bahwa sumber daya yang identik berperilaku sama. biaya cukup dapat diprediksi untuk merencanakan. masalah kinerja biasanya adalah bug, kesalahan konfigurasi, atau kekurangan kapasitas. Model mental itu sudah rusak. Bukan karena awan gagal, tetapi karena AI mengubah ekonomi komputasi yang mendasarinya.Apa yang kita lihat sekarang terlihat jauh lebih sedikit seperti infrastruktur tradisional dan jauh lebih seperti pasar.Satu dengan volatilitas, informasi yang tidak merata, efek waktu, dan konsekuensi keuangan nyata untuk keputusan yang dibuat terlalu dini atau terlalu terlambat. Pergeseran ini halus, tetapi sudah membentuk ulang bagaimana tim teknik, keuangan, dan operasi mengalami AI dalam praktek. Tanda Pertama Sesuatu Berubah Pasar memiliki beberapa karakteristik yang menentukan. harga bergerak. ketersediaan berfluktuasi. aset identik jelas pada nilai yang berbeda tergantung pada konteks. peserta jarang memiliki informasi yang sempurna. Compute sekarang menampilkan semua perilaku ini. Tim secara rutin menghadapi situasi di mana konfigurasi GPU yang sama memberikan kinerja yang berbeda secara signifikan tergantung pada kapan dan di mana tersedia. kapasitas yang tersedia pekan lalu menghilang sepanjang malam. harga yang stabil tiba-tiba naik atau melembutkan tanpa penjelasan yang jelas di konsol penagihan. Ini bukan lagi kasus edge. mereka menjadi kondisi operasi normal untuk beban kerja AI. Ketika infrastruktur berperilaku seperti ini, asumsi lama berhenti bekerja. Mitos tentang GPU yang identik Salah satu asumsi terkuat yang diwariskan dari era cloud adalah bahwa perangkat keras yang identik berperilaku identik. Pada kertas, itu harus benar. GPU adalah GPU. memori yang sama, komputasi yang sama, spesifikasi yang sama. Pada kenyataannya, kinerja bervariasi lebih dari kebanyakan tim mengharapkan. Penarikan tergantung pada faktor-faktor yang jarang muncul dalam diskusi pembelian. penyumbatan jaringan. tekanan memori dari beban kerja tetangga. pembatasan daya dan pendinginan. penempatan dalam pusat data. waktu relatif terhadap permintaan lainnya. Dua GPU yang terlihat sama dalam katalog dapat menghasilkan hasil yang berbeda dalam produksi.Di pasar, aset dibayar berdasarkan kinerja yang terwujud, bukan spesifikasi.Compute bergerak ke arah itu, apakah tim siap untuk itu atau tidak. Token mengubah penggunaan menjadi variabel keuangan Harga berbasis token mempercepat perubahan ini. Token tidak hanya menyederhanakan penagihan, mereka mengubah penggunaan menjadi sinyal ekonomi real-time.Karena model berubah, jendela konteks berkembang, dan pola penggunaan berkembang, biaya token berfluktuasi dengan cara yang lebih mirip dengan harga komoditas daripada biaya SaaS tradisional. Ini memperkenalkan jenis risiko baru. Tim dapat membuat keputusan yang benar secara teknis dan masih berakhir dengan hasil ekonomi yang tidak menguntungkan. Upgrade model meningkatkan kualitas tetapi meningkatkan pembakaran token. Perubahan routing menurunkan latensi tetapi meningkatkan volatilitas biaya. Dalam lingkungan pasar, penggunaan tidak lagi hanya masalah operasional. Biaya, kinerja, dan kapasitas tidak lagi masalah terpisah Secara historis, tanggung jawab dibagi dengan jelas. Insinyur khawatir tentang kinerja, keuangan khawatir tentang biaya, dan operasi khawatir tentang kapasitas. Dia melanggar batas-batas tersebut. Optimalisasi kinerja dapat mendorong konsumsi token yang lebih tinggi. keputusan kapasitas dapat memperkenalkan varian kinerja. kontrol biaya dapat mengurangi output atau keandalan. kompromi ini sekarang erat dihubungkan. Pasar memaksa koordinasi di antara peran.Compute melakukan hal yang sama.Organisasi yang menangani kekhawatiran ini dalam perjuangan isolasi untuk menjelaskan hasil setelah fakta. Resiko yang sebenarnya adalah terbang buta Risiko terbesar bukanlah volatilitas itu sendiri. Risiko adalah beroperasi dengan alat yang dibuat untuk dunia yang berbeda. Banyak tim masih bergantung pada lembar harga statis, perkiraan kuartal, dan asumsi kinerja rata-rata. alat-alat ini bekerja ketika kondisi stabil. Ketika biaya melonjak, tim menandai itu sebagai anomali. Ketika kinerja turun, mereka mencari bug. Ketika kapasitas menegangkan, mereka memperlakukannya sebagai gangguan. Seringkali, ini bukan kegagalan. mereka adalah sinyal. Di pasar, pergerakan harga dan pergeseran ketersediaan menyampaikan informasi. mengabaikan sinyal-sinyal tersebut tidak membuat mereka pergi. Apa Adaptasi Sebenarnya Terlihat Menyesuaikan diri dengan perilaku pasar tidak memerlukan memprediksi harga dengan sempurna atau mengatur waktu pasar. Ini membutuhkan perubahan apa yang diukur dan bagaimana keputusan dibentuk. Rata-rata kurang penting daripada varians. snapshots kurang penting daripada tren. waktu dan penempatan menjadi pertimbangan pertama, bukan pemikiran setelahnya. Tim yang berhasil memperlakukan keputusan komputasi sebagai dinamis. mereka mengharapkan kondisi untuk berubah. mereka membangun lingkaran umpan balik yang menampilkan sinyal ekonomi dan kinerja lebih awal, sebelum mereka menjadi kejutan yang menyakitkan. Ini kurang tentang kontrol dan lebih tentang kesadaran. Akhir dari Set It dan Lupa It Compute Infrastruktur menghargai standardisasi dan skala. pasar menghargai kesadaran situasi dan adaptabilitas. AI compute sekarang memberi penghargaan kepada tim yang memahami bagaimana harga, kinerja, dan ketersediaan berinteraksi dari waktu ke waktu. Mereka akan menjadi orang-orang yang menyadari bahwa komputer tidak lagi hanya sesuatu yang Anda manfaatkan. Ini adalah sesuatu yang Anda ambil bagian. Dan begitu komputasi berperilaku seperti pasar, berpura-pura itu masih hanya infrastruktur menjadi kesalahan yang mahal.

The is an opinion piece based on the author’s POV and does not necessarily reflect the views of HackerNoon.

Read My Stories

Audio ini diproduksi dalam bahasa asli cerita!

Ketika Compute berhenti menjadi infrastruktur dan mulai berperilaku seperti pasar

About Author

KOMENTAR

HANG TAG

ARTIKEL INI DISAJIKAN PADA

Related Stories

THE DAWN COMES, AND MY UNCLE APPEARS IN A NEW SILK HAT

NIGHT (continued)

The Crypto Trading Writing Contest: Submission Deadline Extended!

THE BEGINNING OF THE SEARCH FOR THE KEY AND THE COAT.

THE DAWN COMES, AND MY UNCLE APPEARS IN A NEW SILK HAT

NIGHT (continued)

The Crypto Trading Writing Contest: Submission Deadline Extended!

THE BEGINNING OF THE SEARCH FOR THE KEY AND THE COAT.

Light-Mode

Classic

Newspaper

Minty

Dark-Mode

Neon Noir

Minty

HN StartUps