Thông tin dịch vụ
IteraGPU là tên dịch vụ được giới thiệu trên trang này. Các mốc dưới đây mô tả gói của chúng tôi và các công cụ hiện có. Giá chi tiết và tồn kho của từng cấu hình có thể xem trong danh mục; dung lượng của một card không thể tự nó mô tả máy chủ hay kết quả phần mềm của bạn.
| Mốc tham chiếu | Giá trị hoặc cách hoạt động | Điều kiện đọc |
|---|---|---|
| Đối tượng | Nghiên cứu và kỹ thuật ML | Huấn luyện, suy luận và tinh chỉnh theo giao thức của bạn |
| Danh mục | 15 cấu hình NVIDIA và AMD | Chọn theo phần mềm tương thích, bộ nhớ và tải đã đo |
| Bộ nhớ | 24 đến 192 GB danh nghĩa mỗi GPU | GB ở đây theo GB của nhà sản xuất; không phải Gio trống cũng không phải RAM của máy chủ |
| Thành phần | 1 GPU mỗi lô; 2 GPU cho B200 | Giá của lô bao gồm các card trong lô; bộ nhớ của chúng không tự động gộp lại |
| Location | 3, 7 hoặc 30 ngày; 1 đến 10 lô | Số tiền đầy đủ bằng USD mỗi lô, nhân với số lượng |
| Tình trạng sẵn có | Tồn kho hiển thị trên từng trang sản phẩm | Xác nhận thanh toán và chuẩn bị quyền truy cập là hai bước riêng biệt |
| Chuẩn bị phần mềm | Môi trường mong muốn khi đặt hàng | Một tùy chọn không đồng nghĩa với bằng chứng đã cài đặt hay mô hình của bạn tương thích |
| Theo dõi | Tài khoản, đơn hàng và sổ tay ML | Ghi chú nhập vào không thay thế tệp, bản sao lưu hay đo lường bên ngoài của bạn |
Nguồn kỹ thuật: Danh mục và đặc điểm các gói · Giá các gói phí · Điều kiện đặt hàng
GPU là một quyết định về giao thức
Bộ nhớ phải chứa được công việc dự kiến, môi trường phải phù hợp với mô hình và lịch trình phải bao gồm chuẩn bị, đo lường, chạy lại và xuất. Với suy luận, hãy cố định độ dài đầu vào và đầu ra cũng như số yêu cầu đồng thời. Với huấn luyện, hãy xem xét bước hoàn chỉnh và các trạng thái cần thiết để chạy lại.
Công cụ tính cấu hình tính toán một mức bao từ tham số, định dạng trọng số và dự phòng thực thi của bạn. Dự phòng này là một giả định rõ ràng; nó không phải là dung lượng được đảm bảo. Để phân định hai cấu hình, hãy giữ một bộ đầu vào và một quy tắc chất lượng chung, rồi đo các trường hợp quan trọng với dự án của bạn.
Nguồn kỹ thuật: Công cụ tính cấu hình và các giả định · Chuẩn bị các yêu cầu suy luận
Tài nguyên gốc, với phạm vi rõ ràng
IteraGPU Lab v1 bao gồm một notebook tính toán và đo bộ nhớ, hai script Python, một quy trình chất lượng, bảng giá các gói và một bảng thô còn trống. Mã nguồn và tài liệu gốc được phát hành theo giấy phép MIT. Hướng dẫn nêu rõ các điều kiện tiên quyết và lỗi cụ thể khi thiếu PyTorch hoặc GPU.
Script đo đã được thử nghiệm trên một RTX 5070 ngoài danh mục với một mạng 8.320 tham số. Thử nghiệm này kiểm tra việc đo lường; nó không đo một mô hình lớn hay hiệu năng của các gói thuê. Hồ sơ bộ nhớ nêu rõ các điều kiện và kết quả.
Phương pháp bộ nhớ giải thích các bộ đếm; phương pháp benchmark so sánh kết quả ở chất lượng cố định và chi phí gói đã cam kết. Các tài nguyên được phân phối không chứa đầu ra notebook hay kết quả GPU điền sẵn. Hãy đo khối lượng công việc của bạn trước khi rút ra khuyến nghị.
- Tải IteraGPU Lab v1
Lưu trữ có phiên bản: quy trình, notebook, script, bảng, hướng dẫn, danh mục và giấy phép.
- Đọc điều kiện tiên quyết và phạm vi xác thực
Điều kiện tiên quyết, tham số đã thử nghiệm và giới hạn của thử nghiệm.
Nguồn kỹ thuật: Ước tính và đỉnh bộ nhớ · So sánh và chi phí trên mỗi corpus đã xác thực
Quyền tự chủ trong xử lý của bạn
Bạn chọn phần mềm, mô hình và cách tổ chức tính toán của mình. IteraGPU không kiểm tra nội dung các tệp, prompt hay xử lý của bạn. Chính sách này liên quan đến nội dung công việc; nó không xóa bỏ thông tin cần thiết cho tài khoản, đơn hàng và theo dõi thanh toán.
Hãy chuẩn bị các phụ thuộc và phiên bản, kiểm tra quyền sử dụng và sắp xếp sao lưu. Môi trường được chọn khi đặt hàng thể hiện nhu cầu chuẩn bị của bạn. Cần kiểm tra khả năng tương thích với thư viện, tiện ích mở rộng và mô hình trước khi chạy toàn bộ chiến dịch.
Nguồn kỹ thuật: Dữ liệu và quyền riêng tư
Một cuốn sổ để lưu lý do lựa chọn
Sổ ML lưu giữ mục tiêu, tham số và quan sát mà bạn nhập. Hãy liên kết giả thuyết của bạn với một phiên bản mã, một tập đầu vào và một tham chiếu đơn hàng. Cũng nên giữ lại các biến thể bị loại: vượt bộ nhớ, chất lượng không đủ hoặc kết quả chưa đầy đủ giải thích cho quyết định tiếp theo.
Sổ không chạy mã của bạn, không tự động thu thập dữ liệu đo từ xa của GPU và không tải lên tập dữ liệu của bạn. Hãy giữ các tệp thô, đầu ra và checkpoint trong bản sao lưu của riêng bạn. Một ghi chú phải giúp tìm lại bằng chứng, chứ không thay thế nó.
Từ gói đến theo dõi việc thuê
Chọn mô hình, thời lượng và số lô, rồi kiểm tra tổng USD. Giá tương ứng với toàn bộ gói; đây không phải là đồng hồ tính theo giờ. Thanh toán crypto không cần KYC hay yêu cầu giấy tờ tùy thân. Tên, họ và email dùng để theo dõi đơn hàng.
Sau khi chuyển khoản, « Tôi đã thanh toán » ghi lại thông báo của bạn để xác minh. Thanh toán đã xác nhận và việc cung cấp quyền truy cập GPU được theo dõi riêng. Tài khoản của bạn tập hợp các đơn hàng, tài liệu và yêu cầu hỗ trợ; hãy kiểm tra trạng thái sẵn sàng trước khi bắt đầu xử lý.
Nguồn kỹ thuật: Quy trình thanh toán crypto
Câu hỏi thực tế
IteraGPU có đưa ra khuyến nghị GPU chung không?
IteraGPU cung cấp tiêu chí và công cụ để chuẩn bị lựa chọn của bạn, mà không chỉ định một GPU thắng cho mọi khối lượng công việc. Bộ nhớ, môi trường, ngữ cảnh, tính đồng thời và chất lượng phải được kiểm tra cùng nhau. Sau đó ngân sách được so sánh giữa các lựa chọn đáp ứng những yêu cầu này.
Hai GPU B200 có tạo thành một bộ nhớ duy nhất không?
Một lô B200 gồm hai GPU, mỗi chiếc có bộ nhớ riêng. Phần mềm của bạn phải phân bổ rõ ràng dữ liệu hoặc tính toán để dùng chúng cùng nhau. Thành phần của lô không chứng minh bộ nhớ hợp nhất, một cấu trúc liên kết cụ thể hay một mức tăng tốc nhất định.
Việc chọn PyTorch khi đặt hàng có đảm bảo mô hình của tôi sẽ chạy không?
Việc chọn một môi trường thể hiện sở thích chuẩn bị, không phải sự xác thực mô hình của bạn. Hãy kiểm tra trình điều khiển, thư viện, tiện ích mở rộng và phiên bản cần thiết, rồi chạy một trường hợp nhỏ đại diện trước chiến dịch của bạn.