Поставка оборудования из ОАЭ для инференса

• NVIDIA DGX Spark и GB10-системыКомпактный узел для отдела: ASUS Ascent GX10, MSI EdgeXpert и аналоги128 ГБ единой памяти в настольном корпусе. По данным NVIDIA, одного узла хватает для моделей до 200 млрд параметров в FP4, два связанных узла рассчитаны на более крупные. Подходит для пилотов и закрытого контура одного подразделения.Настольный
• NVIDIA RTX PRO 6000 BlackwellРабочая станция или сервер на 96 ГБ видеопамятиРабочая лошадка для Qwen 3.8 27B, Gemma 4 и моделей среднего размера с одновременной работой нескольких десятков пользователей.Станция / сервер
• NVIDIA HGX B200 / B300Кластерные серверы для крупнейших моделейВосемь ускорителей Blackwell на узел, развёртывание Kimi K3 и DeepSeek V4.1 с высокой пропускной способностью. Нужны там, где нагрузка и цена ошибки оправдывают инфраструктуру.Кластер
• AMD Instinct MI350-серииСерверные ускорители с большим объёмом памятиДо 288 ГБ HBM3E на ускоритель: удобны для крупных разреженных (MoE) моделей, где память важнее пиковой скорости. Работают на стеке ROCm; совместимость выбранной модели и движка инференса проверяем заранее.Кластер
• AMD Ryzen AI Max+ и Radeon AI PROМини-ПК и рабочие станции для локального инференсаМини-ПК на Ryzen AI Max+ 395 с общей памятью до 128 ГБ и карты Radeon AI PRO R9700 на 32 ГБ: бюджетная альтернатива для отделов и офисов.Бюджетный

Что входит в поставку: подбор конфигурации под выбранные модели и нагрузку, закупка через партнёров в ОАЭ, логистика, таможенное оформление, установка и настройка, гарантия. Модельный ряд обновляем: перед заказом сверяем актуальную линейку и совместимость с программным стеком. Соответствие экспортным ограничениям и санкционным требованиям проверяем до оформления заказа.

Что показывает мировой опыт промышленного внедрения

1. Одной модели на всё не бываетРутинные запросы обрабатывает компактная модель, сложные передаются крупной. Маршрутизация по сложности снижает затраты на оборудование и время ответа без потери качества там, где оно критично.
2. Считаем и активные, и общие параметрыСкорость и стоимость токена определяются числом активных параметров, а память нужна под все. Конфигурацию серверов рассчитываем по обоим показателям.
3. Длинный контекст не бесплатенОкно в 1 млн токенов многократно увеличивает расход памяти на каждый запрос. Для большинства задач достаточно 128–256 тыс. токенов в сочетании с поиском по корпоративной базе знаний.
4. Квантование на BlackwellФорматы FP8 и FP4 заметно снижают требования к памяти и повышают пропускную способность при небольшой потере качества, которую мы измеряем на ваших документах, а не берём на веру.
5. Бенчмарки — ориентир, а не гарантияПубличные тесты часто измерены на стороне разработчика. Перед выбором модели мы прогоняем её на вашей выборке документов и закрепляем версию, чтобы поведение не менялось без вашего решения.
6. Человек остаётся в контуреОтветственные решения принимает сотрудник, а система ведёт журнал запросов и источников ответа. Это снижает риск ошибок и упрощает аудит.

Hardware supply from the UAE for inference

• NVIDIA DGX Spark and GB10 systemsCompact departmental node: ASUS Ascent GX10, MSI EdgeXpert and equivalents128 GB of unified memory in a desktop chassis. According to NVIDIA, one node handles models up to 200B parameters in FP4, and two linked nodes target larger ones. Suited to pilots and a closed perimeter for one department.Desktop
• NVIDIA RTX PRO 6000 BlackwellWorkstation or server with 96 GB of VRAMA workhorse for Qwen 3.8 27B, Gemma 4 and mid-size models serving several dozen concurrent users.Workstation / server
• NVIDIA HGX B200 / B300Cluster servers for the largest modelsEight Blackwell accelerators per node, running Kimi K3 and DeepSeek V4.1 at high throughput. For workloads where scale and the cost of an error justify the infrastructure.Cluster
• AMD Instinct MI350 seriesServer accelerators with large memoryUp to 288 GB of HBM3E per accelerator: well suited to large sparse (MoE) models where memory matters more than peak speed. They run on the ROCm stack; we check model and inference-engine compatibility in advance.Cluster
• AMD Ryzen AI Max+ and Radeon AI PROMini PCs and workstations for local inferenceRyzen AI Max+ 395 mini PCs with up to 128 GB of shared memory and Radeon AI PRO R9700 cards with 32 GB: a budget option for departments and offices.Budget

Included: configuration sized to the chosen models and workload, procurement through UAE partners, logistics, customs clearance, installation and setup, warranty. The lineup changes often, so we verify the current range and software compatibility before ordering. Compliance with export controls and sanctions requirements is checked before an order is placed.

What global production experience shows

1. No single model fits everythingA compact model handles routine requests and complex ones are passed to a larger one. Routing by difficulty reduces hardware cost and response time without losing quality where it matters.
2. We count both active and total parametersToken speed and cost depend on active parameters, while memory is needed for all of them. We size servers using both figures.
3. Long context is not freeA 1M-token window multiplies the memory used by each request. For most tasks 128–256K tokens combined with search over the corporate knowledge base is enough.
4. Quantisation on BlackwellFP8 and FP4 formats noticeably reduce memory requirements and raise throughput at a small quality cost, which we measure on your own documents rather than take on trust.
5. Benchmarks are a guide, not a guaranteePublic tests are often run on the developer's side. Before choosing a model we run it on a sample of your documents and pin the version so behaviour does not change without your decision.
6. A human stays in the loopResponsible decisions are made by an employee, while the system keeps a log of requests and answer sources. This lowers the risk of errors and simplifies audits.