Những câu hỏi trước lần thử đầu tiên.

Hãy xuất phát từ mô hình và câu hỏi cần giải quyết. Ước tính trọng số, rồi cộng thêm cache, activations và buffers trong lần chạy của bạn. Một lần thử 3 ngày có thể dùng để nạp mô hình, kiểm tra các phụ thuộc và đo đỉnh bộ nhớ. Sau đó so sánh các cấu hình có dung lượng đủ : một card mới hơn không thay thế được một quy trình phù hợp với khối lượng công việc của bạn.

Các gói thuê kéo dài 3, 7 hoặc 30 ngày. Bạn chọn từ 1 đến 10 lô ở bước thanh toán : một lô gồm một card, trừ B200 gồm hai card. Ba ngày phù hợp cho một xác nhận có mục tiêu, bảy ngày cho một loạt biến thể và ba mươi ngày cho một chiến dịch có tổ chức. Hãy chuẩn bị dữ liệu và một điểm khôi phục trước khi bắt đầu tính toán để dành trọn thời gian cho mục tiêu của bạn.

Giá hiển thị tương ứng với một lô cho thời hạn đã chọn, bằng USD. Tổng đơn hàng nhân gói này với số lô. Tồn kho cho biết số card khả dụng, hoặc số lô hai card đối với B200. Ví dụ, hai lô B200 đại diện cho bốn GPU : không được nhân giá của lô với hai lần thứ hai.

Hãy chọn GPU, thời hạn, số lô và môi trường bạn muốn : Ubuntu, PyTorch, Blender hoặc khác. Sau đó tạo tài khoản với tên, họ, email và mật khẩu, hoặc chọn « Tôi đã có tài khoản » để đăng nhập. Kiểm tra thông tin điền sẵn nếu bạn đã đăng nhập, rồi đến phần tóm tắt. Không có giấy tờ tùy thân nào được yêu cầu.

Mỗi card có bộ nhớ riêng. Một chương trình phân tán phải đặt dữ liệu hoặc tính toán của mình một cách tường minh trên nhiều thiết bị ; hai GPU không tự động hợp thành một GPU lớn duy nhất. Việc nhân bản mô hình, phân chia các lớp và chia nhỏ trạng thái huấn luyện đáp ứng những nhu cầu khác nhau. Hãy chọn chiến lược của bạn trước khi đặt nhiều lô.

Hãy xác định những thử nghiệm thiết yếu, các biến thể tùy chọn và tiêu chí dừng của bạn. Hãy cho chạy một trường hợp nhỏ hoàn chỉnh trước khi khởi động các lô dài. Lưu lại các phiên bản mã, tham số, số đo và một checkpoint mà bạn đã thực sự nạp lại. Cũng nên dự trù thời gian kiểm tra và xuất kết quả, để không dành toàn bộ khoảng thời gian chỉ cho việc tính toán.

IteraGPU không yêu cầu giấy tờ tùy thân hay quy trình xác minh danh tính KYC để thuê. Tuy nhiên, bước thanh toán vẫn lưu tên, họ và email liên hệ của bạn. Bạn chọn một tài sản và mạng lưới của nó, sau đó thực hiện chuyển khoản từ ví của mình. Quy trình không kiểm tra danh tính này không có nghĩa là các giao dịch trên một blockchain công khai trở nên ẩn danh.

Các phương thức gồm BTC trên Bitcoin, ETH trên Ethereum, USDT và USDC trên Ethereum, SOL trên Solana, TRX và USDT trên Tron, cùng LTC trên Litecoin. Hãy chọn cặp tài sản/mạng lưới được hiển thị trong đơn hàng. Với một token như USDT, chỉ tên thôi không đủ để xác định điểm đến: hướng dẫn phân biệt rõ Ethereum và Tron.

Đơn hàng giữ nguyên tổng tiền bằng USD. Hướng dẫn nêu một số tiền crypto chính xác, một tỷ giá và một thời hạn. Hãy dùng ý định còn hiệu lực khi bạn chuẩn bị chuyển khoản. Nếu nó hết hạn trước khi bạn gửi, hãy yêu cầu hướng dẫn mới từ đơn hàng này; số tiền mới tương ứng với tỷ giá tại thời điểm đó.

Sau khi chuyển khoản, hãy nhấp vào nút của ý định liên quan. Thông báo « Đã báo thanh toán. Đang chờ xác minh. » cho biết việc báo cáo đã được ghi lại và vẫn hiển thị khi bạn quay lại. Việc thanh toán sau đó sẽ qua bước xác minh. Nếu bạn đã dùng một ý định cũ, hãy mở nó trong lịch sử và dùng nút riêng của nó.

Một khoản nạp crypto đã xác nhận sẽ nạp vào số dư USD của bạn. Sau đó mở đơn hàng thuê và chọn thanh toán bằng số dư khi số dư đủ để trả số tiền của đơn. Khoản nạp và khoản thuê mỗi bên giữ mã tham chiếu riêng, và sổ đăng ký cho phép theo dõi khoản ghi có rồi khoản ghi nợ. Việc chỉ ghi nhận một khoản nạp không thêm tiền khả dụng.

Bạn tìm hồ sơ trong « Các đơn thuê của tôi », rồi trong danh sách đơn hàng. Hồ sơ trình bày riêng biệt số tiền, việc thanh toán và bước cung cấp. « Đã báo thanh toán » tương ứng với khai báo của bạn; « Đã trả » tương ứng với một khoản thanh toán đã được xác nhận. Sau đó xem trạng thái chuẩn bị và thông tin truy cập khi chúng được cung cấp.

Có. Bạn chọn mã, mô hình, các phụ thuộc và cách xử lý mà bạn chạy trên GPU đã thuê. Hãy chuẩn bị một môi trường mà bạn biết rõ các phiên bản và nhu cầu. Để đổi sang dòng phần cứng khác, hãy kiểm tra khả năng tương thích của các thư viện và tiện ích mở rộng trước khi chuyển toàn bộ một quy trình.

Dịch vụ không tiến hành kiểm tra nội dung các tệp, prompt hay phép tính của bạn. Bạn giữ quyền kiểm soát cách xử lý và kết quả của mình. Việc theo dõi thương mại sử dụng thông tin đơn hàng và thanh toán; chính sách này không phải là một lời hứa về việc không có bất kỳ dữ liệu kỹ thuật nào cũng như không có sự ẩn danh tuyệt đối.

Nhật ký tập hợp các giả thuyết, phiên bản môi trường, tham số và quan sát mà bạn ghi vào đó. Hãy dùng một phiếu cho mỗi câu hỏi thực nghiệm: ví dụ, so sánh hai độ chính xác ở batch không đổi hoặc đo tác động của ngữ cảnh lên cache. Một ghi chú rõ ràng gắn cấu hình với phép đo và kết luận; nó không nhầm lẫn một ước lượng với một kết quả đã quan sát.

Hãy đăng nhập vào IteraGPU bằng email và mật khẩu của tài khoản để tìm lại đơn hàng, số dư và nhật ký của bạn. Việc đăng xuất chỉ đóng phiên. Dữ liệu của một phiên khách cũ có thể được giữ lại khi đăng ký mới từ phiên đó, nếu phiên vẫn còn hiệu lực và chưa được liên kết. Một địa chỉ email giống nhau không đủ để khôi phục hồ sơ từ một trình duyệt khác. Hãy tải bản tóm tắt các đơn hàng để lưu giữ các mã tham chiếu cần thiết.

Giữ nguyên mô hình, tập dữ liệu, phiên bản, độ dài đầu vào và quy tắc đo lường. Chỉ thay đổi một biến mỗi lần. Phân biệt các lần chạy đầu tiên với trạng thái ổn định và cũng đo chất lượng đầu ra, không chỉ tốc độ. Ghi lại các thất bại: một đỉnh bộ nhớ bị vượt là thông tin hữu ích để chọn cấu hình tiếp theo.

Ghi lại mã đơn hàng, mô hình GPU, phiên bản thư viện và các bước tái hiện vấn đề. Nếu có thể, hãy thu gọn trường hợp về một đầu vào đại diện và nêu rõ điều gì đã được mong đợi. Trong yêu cầu riêng tư, hãy loại bỏ các thông tin bí mật và đính kèm các thông báo hữu ích dưới dạng văn bản; giữ dữ liệu nghiệp vụ và các tệp đầy đủ trong tầm kiểm soát của bạn.

Không. Nó đưa ra một cơ sở cho việc lưu trữ các tham số. Quá trình làm việc thêm vào những đối tượng khác: các activation và cấp phát tạm thời, gradient và trạng thái trình tối ưu trong lúc huấn luyện, bộ nhớ đệm có thể có trong lúc sinh. Hãy chuẩn bị một ước tính với các kích thước của khối lượng công việc của bạn, rồi đo một lần thử mang tính đại diện.

Đó là một giả định được tính từ các đầu vào của bạn và những mục được hiển thị rõ ràng. Nó giúp tổ chức việc lựa chọn; nó không đảm bảo việc nạp một mô hình cũng như tốc độ của nó. Các kích thước, định dạng và chi phí phụ riêng của phần mềm bạn dùng có thể làm thay đổi nhu cầu. Hãy giữ ước tính kèm ngày của nó, rồi so sánh với đỉnh đã đo.

Độ chính xác thấp hơn làm thay đổi sự thỏa hiệp giữa bộ nhớ, tính toán và hành vi số. Hãy so sánh nó trên cùng các đầu vào với các tiêu chí chất lượng của bạn. Hãy giữ nguyên định dạng của trọng số, định dạng của phép tính và các phiên bản thư viện: sự kết hợp của chúng cho phép tái tạo biến thể đã chọn.

Chương trình phải phân chia công việc và, nếu cần, cả trạng thái của mô hình giữa các thiết bị. Nhiều card không tự động trở thành một không gian bộ nhớ duy nhất. Hãy chọn chiến lược song song hóa dựa trên mô hình, rồi đo mức đỉnh trên từng GPU. Lô B200 gồm hai GPU; bộ nhớ vẫn được mô tả theo từng card.

Trước tiên hãy xác định câu hỏi, các chỉ số và tiêu chí chất lượng. Giữ lại đầu vào, phiên bản, tham số, phương pháp đo và kết quả của từng lần. Giải thích điều gì thay đổi giữa các biến thể. Nếu nhiều yếu tố thay đổi cùng lúc, bạn có thể so sánh các cấu hình đầy đủ, nhưng không thể quy chênh lệch cho chỉ một trong các yếu tố đó.

Nó kiểm soát một số nguồn ngẫu nhiên, chứ không phải mọi khác biệt khi thực thi. PyTorch không đảm bảo khả năng tái lập hoàn toàn giữa các phiên bản, nền tảng và thiết bị. Hãy ghi lại các hạt giống, các thiết lập tất định và môi trường. Đồng thời xác định bạn coi thế nào là tái lập được: các giá trị chính xác giống nhau hay kết quả tương đương theo một dung sai đã giải thích.