Факти про сервіс
IteraGPU — це назва сервісу, представленого на цьому сайті. Наведені нижче орієнтири описують нашу пропозицію та доступні інструменти. Детальні тарифи й наявність кожної конфігурації можна переглянути в каталозі; потужність однієї карти сама по собі не описує ні сервер, ні результат роботи вашого програмного забезпечення.
| Орієнтир | Значення або принцип роботи | Умова тлумачення |
|---|---|---|
| Аудиторія | Дослідження та ML-інженерія | Навчання, інференс і донавчання за вашим протоколом |
| Каталог | 15 конфігурацій NVIDIA та AMD | Обирати за сумісним програмним забезпеченням, пам’яттю та виміряним навантаженням |
| Пам’ять | 24–192 GB номінально на GPU | GB відповідають GB виробника; це не вільні GiB і не RAM сервера |
| Склад | 1 GPU на лот; 2 GPU для B200 | Ціна лота включає його карти; їхня пам’ять не об’єднується автоматично |
| Location | 3, 7 або 30 днів; від 1 до 10 лотів | Повна сума в USD за лот, помножена на кількість |
| Наявність | Запас, показаний на кожній картці | Підтвердження оплати й підготовка доступу — це два окремі етапи |
| Підготовка програмного забезпечення | Бажане середовище під час замовлення | Побажання не є доказом встановлення чи сумісності вашої моделі |
| Відстеження | Акаунт, замовлення та ML-журнал | Введені нотатки не замінюють ваші файли, резервні копії чи зовнішні вимірювання |
Технічні джерела: Каталог і характеристики пропозицій · Тарифи фіксованих цін · Умови замовлення
GPU — це рішення щодо протоколу
Пам’ять має вміщати заплановану роботу, середовище має підходити для моделі, а графік має включати підготовку, вимірювання, повторні запуски та експорт. Під час інференсу задайте довжини входу й виходу, а також кількість одночасних запитів. Під час навчання проаналізуйте повний крок і стани, потрібні для відновлення.
Калькулятор розміру обчислює обсяг на основі параметрів, формату ваг і вашого запасу під час виконання. Цей запас є явним припущенням; він не є гарантованою ємністю. Щоб розрізнити дві конфігурації, збережіть спільний набір входів і правило якості, а потім виміряйте випадки, важливі для вашого проєкту.
Технічні джерела: Калькулятор розміру та припущення · Підготувати запити для інференсу
Оригінальні ресурси з чітко визначеними межами застосування
IteraGPU Lab v1 об'єднує ноутбук для обчислень і вимірювання пам'яті, два скрипти Python, протокол якості, тарифи на пакети та порожню вихідну таблицю. Оригінальний код і документація розповсюджуються за ліцензією MIT. Інструкції містять попередні вимоги та чіткі повідомлення про помилки, коли відсутній PyTorch або GPU.
Скрипт вимірювання було протестовано на RTX 5070 поза каталогом з мережею на 8 320 параметрів. Це випробування перевіряє інструментарій; воно не вимірює ні велику модель, ні продуктивність орендованих пропозицій. У теці з пам'яттю зазначено умови та результати.
Метод вимірювання пам'яті пояснює лічильники; метод бенчмарків порівнює результати за фіксованої якості та витрати на залучений пакет. Розповсюджувані ресурси не містять вихідних даних ноутбука чи попередньо заповнених результатів GPU. Виміряйте своє навантаження, перш ніж робити з цього рекомендацію.
- Завантажити IteraGPU Lab v1
Версійований архів: протокол, ноутбук, скрипти, таблиці, інструкції, інвентар і ліцензія.
- Прочитати попередні вимоги та межі валідації
Попередні вимоги, протестовані параметри та обмеження випробування.
Технічні джерела: Оцінка та пік використання пам'яті · Порівняння та вартість за валідований корпус
Автономія у ваших обчисленнях
Ви обираєте своє програмне забезпечення, свої моделі та організацію обчислень. IteraGPU не перевіряє вміст ваших файлів, промптів чи обчислень. Ця політика стосується змісту робіт; вона не скасовує інформацію, необхідну для облікового запису, замовлення та відстеження оплати.
Підготуйте залежності та версії, перевірте права на використання й організуйте резервні копії. Середовище, обране під час замовлення, відображає вашу потребу в підготовці. Його сумісність із вашими бібліотеками, розширеннями та моделями потрібно перевірити перед запуском повної кампанії.
Технічні джерела: Дані та конфіденційність
Журнал, щоб зберегти причину вибору
Журнал ML зберігає цілі, параметри та спостереження, які ви вводите. Пов'яжіть свою гіпотезу з версією коду, набором вхідних даних і посиланням на замовлення. Зберігайте також відхилені варіанти: перевищення пам'яті, недостатня якість або незавершений результат пояснюють наступне рішення.
Журнал не запускає ваш код, не збирає автоматично телеметрію GPU і не завантажує ваші набори даних. Зберігайте вихідні файли, результати та контрольні точки у власних резервних копіях. Нотатка має дозволяти знайти доказ, а не замінювати його.
Від пакета до відстеження оренди
Оберіть модель, тривалість і кількість комплектів, потім перевірте підсумок у USD. Ціна відповідає цілому пакету; це не погодинний лічильник. Оплата криптовалютою здійснюється без KYC і без запиту посвідчення особи. Ім'я, прізвище та email використовуються для відстеження замовлення.
Після переказу «Я оплатив» зберігає ваше повідомлення для перевірки. Підтверджена оплата та надання доступу до GPU відстежуються окремо. Ваш обліковий запис об'єднує замовлення, документи та запити на підтримку; перегляньте стан готовності перед запуском обчислень.
Технічні джерела: Шлях розрахунку криптовалютою
Практичні питання
Чи надає IteraGPU універсальну рекомендацію щодо GPU?
IteraGPU надає критерії та інструменти, щоб підготувати ваш вибір, не визначаючи єдиний виграшний GPU для всіх навантажень. Пам'ять, середовище, контекст, паралельність і якість потрібно перевіряти разом. Бюджет потім порівнюється між варіантами, які відповідають цим вимогам.
Чи становлять два GPU B200 єдину пам'ять?
Комплект B200 містить два GPU, кожен зі своєю пам'яттю. Ваше програмне забезпечення має явно розподіляти дані чи обчислення, щоб використовувати їх разом. Склад комплекту не доводить уніфікованої пам'яті, певної топології чи заданого прискорення.
Чи гарантує вибір PyTorch під час замовлення, що моя модель працюватиме?
Вибір середовища відображає перевагу в підготовці, а не валідацію вашої моделі. Перевірте драйвер, бібліотеки, розширення та потрібні версії, потім виконайте невеликий репрезентативний випадок перед вашою кампанією.