Beli sebuah keputusan, bukan rangkaian tanpa akhir.

Menentukan apa yang akan menutup kampanye

“Melatih model” tidak mendefinisikan pekerjaan yang dibeli maupun kapan pekerjaan itu selesai. Pilih tujuan seperti membandingkan satu kontrol dan dua varian pada korpus yang dibekukan, lalu serahkan prediksi mereka, analisis kesalahan, dan artefak yang dapat dimuat ulang. Hasil negatif pun bisa cukup: menunjukkan bahwa tidak ada varian yang memenuhi ambang batas mencegah kampanye yang lebih panjang namun salah sasaran.

Pisahkan tiga kategori sebelum memesan: penting untuk menyimpulkan, berguna jika waktu memungkinkan, eksploratif. Kontrol, pemeriksaan data, dan verifikasi pengulangan umumnya termasuk kategori pertama. Tetapkan titik keputusan setelah pilot: lanjutkan, kurangi varian opsional, atau tinjau kembali pertanyaannya. Paket yang tersedia tidak boleh menjadi kewajiban untuk mengisi setiap jam.

Menyusun jadwal dari awal hingga akhir

Ekstrapolasi dari langkah pelatihan yang sudah panas terkadang melupakan pemuatan, input panjang, validasi, dan berkas keluaran. Bedakan rentang waktu ketika mesin digunakan dan waktu manusia untuk persiapan. Rentang yang independen dapat tumpang tindih; dua langkah yang menggunakan GPU yang sama tidak menjadi paralel hanya karena keduanya punya dua baris dalam tabel.

Berikut adalah jadwal ilustratif, tanpa kecepatan GPU yang diukur. Jadwal ini menyediakan 48 jam berurutan sejak awal persiapan hingga pengambilan hasil. Dalam jendela 72 jam, jadwal ini menyisakan 24 jam yang tidak terpakai. Pengurangan ini hanya memverifikasi jadwal: baik instalasi maupun varian sepuluh jam bukanlah tenggat yang dijanjikan oleh IteraGPU.

Bandingkan paket tanpa mengarang penagihan per jam

Harga sebuah batch mencakup durasi yang dipilih. RTX 4090 dari katalog berharga 47,14 USD untuk tiga hari, 110 USD untuk tujuh hari, dan 390 USD untuk tiga puluh hari. Jumlah ini adalah tarif IteraGPU; jumlah ini tidak mengukur berapa banyak model yang dilatih. Dua batch selama tiga hari berarti 94,28 USD. Batch B200 sudah mencakup dua GPU: komposisinya tidak mengalikan harganya untuk kedua kalinya.

Jika jadwal ilustratif bertambah 30 jam, jadwal itu mencapai 78 jam dan melebihi tiga hari sebanyak enam jam. Tinjau kemudian paket tujuh hari, atau protokol yang dikurangi yang masih menjawab pertanyaan tersebut. Membeli dua batch dapat membantu varian independen jika lingkungan Anda memungkinkan; hal ini tidak secara otomatis memperpendek eksekusi dan tidak menggabungkan memori.

Sumber teknis: Tarif IteraGPU dan unit sewa · Hitung paket dan verifikasi jendela

Prioritaskan varian berdasarkan kegunaannya bagi keputusan

Setelah pilot, perbarui asumsi durasi Anda dan tanyakan hasil mana yang akan mengubah pilihan. Varian yang hampir identik dengan kontrol bisa jadi kurang informatif dibandingkan kontrol yang mengisolasi satu penyebab. Hindari menjalankan sekaligus semua kombinasi rank, presisi, laju pembelajaran, dan panjang. Panduan ablasi menunjukkan cara menyusun rencana kecil yang dapat diinterpretasikan.

Tetapkan aturan penghentian sebelum pengujian: loss tidak terhingga, kualitas di bawah ambang batas, input penting yang terpotong, atau tidak adanya pemulihan yang dapat digunakan. Jika penghentian terjadi, simpan pengidentifikasi dan alasannya. Eksekusi yang terhenti tidak menjadi hasil yang diterima, tetapi tetap merupakan pengeluaran dan terkadang informasi yang menentukan. Konfigurasi baru setelah perbaikan berhak mendapatkan pengidentifikasi baru.

Perhitungkan biaya sebuah interupsi

Melanjutkan pelatihan membutuhkan lebih dari sekadar bobot. Dokumentasi PyTorch membedakan parameter model dan status optimizer; kemajuan juga harus disimpan. Tergantung pada loop, tambahkan status yang diperlukan dari scheduler, scaler, randomness, dan alur data. Putuskan apakah Anda ingin melanjutkan pelatihan atau sekadar menjalankan ulang inferensi.

Uji pencadangan awal lalu muat ulang dalam proses baru. Hitung waktu penulisan, transfer, dan pemulihan dalam jadwal. Interval pencadangan tidak dipilih hanya untuk menghasilkan banyak file: dekatkan kerugian pekerjaan yang dapat ditoleransi dengan biaya operasi yang diamati. Periksa juga di mana file-file ini berada dan bagaimana Anda akan mengambilnya sebelum periode berakhir.

Sumber teknis: PyTorch — pencadangan dan pemulihan

Kaitkan anggaran dengan hasil yang berguna

Pada penutupan, berikan paket yang digunakan, pengeluaran lain yang benar-benar termasuk, dan jumlah hasil yang telah melewati pemeriksaan yang diumumkan. Pengeluaran eksternal yang mungkin ada tetap terpisah dari harga sewa; jangan mengarang tarif pajak atau biaya transfer yang tidak diberikan. Biaya sebuah kampanye tidak terhapus ketika hasilnya negatif.

Contoh aritmetika bersyarat: jika paket senilai 47,14 USD memungkinkan pengiriman dua korpus lengkap yang berbeda dan diterima, bagian sewa per korpus adalah 23,57 USD. Menjalankan korpus yang sama lima kali untuk mengukur waktu tidak menghasilkan lima korpus yang berguna. Dengan nol korpus yang diterima, rasio menjadi tak terdefinisi; tampilkan biaya yang dikeluarkan dan alasan penolakan, jangan pernah biaya nol. Untuk keputusan riset, deskripsikan kesimpulan yang diperoleh daripada menciptakan unit artifisial.

Menutup dengan berkas yang dapat Anda tinjau ulang

Siapkan dossier keluaran selama kampanye: manifes, parameter, pengukuran mentah, prediksi, alasan penghentian, dan instruksi pemuatan ulang. Periksa pengenal yang diharapkan, berkas kosong, dan jalur yang bergantung pada folder sementara. Untuk adaptor, simpan revisi persis dari basis. Berkas yang ada tetapi tidak dapat dimuat ulang bukanlah keluaran yang terverifikasi.

Bandingkan rencana dan realisasi tanpa menulis ulang rencana awal: waktu yang disediakan, waktu yang tercatat, selisih yang dijelaskan, keputusan yang diambil. Buku catatan IteraGPU dapat menyimpan ringkasan dan referensi pesanan; berkas mentah dan cadangan Anda tetap perlu diatur. Kampanye berikutnya pun dimulai dengan estimasi yang lebih baik dan daftar ketidakpastian yang lebih pendek.

Pertanyaan praktis