Inicio / Casos / Infraestructura LLM privada

Nuestro propio LLM privado, en cuatro NVIDIA GB10.

Nuestros agentes internos usan un modelo DeepSeek de pesos abiertos que servimos en hardware propio: cuatro equipos NVIDIA GB10 trabajando como uno solo con paralelismo tensorial. Los prompts no salen de equipos que controlamos y la cuenta mensual no crece con cada token.

Operador: ByAgentX (infraestructura propia) · Uso: agentes de IA internos

El problema.

  • Agentes que trabajan todo el día (programación, resúmenes de sesiones largas, documentos) consumen muchísimos tokens; la nube cobra por cada uno.
  • Hay trabajo interno que no debe salir de equipos que controlamos.
  • Un modelo que no cabe en una sola máquina hay que repartirlo entre varias sin volverlo frágil.

Qué construimos.

Clúster de 4 nodos

Cuatro equipos NVIDIA GB10 (Grace Blackwell) sirven un solo modelo: cada uno tiene una cuarta parte de los pesos, con paralelismo tensorial entre los cuatro.

Red dedicada

Los nodos se comunican por una red RDMA de alta velocidad, separada de la red de la oficina.

Modelo de pesos abiertos

Un modelo DeepSeek clase Flash de pesos abiertos, cuantizado para caber en la memoria del clúster con espacio para contextos largos y caché de prompts.

API compatible con OpenAI

Los agentes lo llaman como a cualquier modelo en la nube, por una API compatible con OpenAI sólo dentro de nuestra red privada; no hay endpoint público.

Caché de prompts

Los contextos largos y repetidos se guardan, así un turno nuevo no relee toda la conversación.

Vigilancia y arranque solo

Un vigilante revisa salud, temperaturas y red cada pocos minutos; el servicio se levanta solo después de un reinicio.

Cómo se conecta.

En paralelo: un vigilante revisa salud, temperatura y red en cada nodo y avisa al agente de operaciones.

Diagrama simplificado. Omitimos a propósito nombres de servidores, llaves y direcciones internas.

La tecnología.

  • 4 × NVIDIA GB10 (Grace Blackwell, memoria unificada)
  • Modelo DeepSeek de pesos abiertos, cuantizado
  • Motor de inferencia con paralelismo tensorial en 4 nodos
  • Red RDMA dedicada entre nodos
  • Endpoint compatible con OpenAI en red privada
  • Vigilante programado de salud y temperatura

Cómo probamos y regresamos.

  • Cada actualización de motor o modelo se mide contra la versión en producción con los mismos prompts (prosa, código, salida estructurada, concurrencia) antes de adoptarla.
  • Los scripts de cambio sustituyen el motor en menos de un minuto y regresan solos si falla la revisión de salud. Hemos rechazado una actualización que no mejoraba nuestra carga y conservado la versión anterior.
  • Las actualizaciones de sistema y drivers van nodo por nodo en ventana de mantenimiento, con el kernel anterior guardado y una petición real verificada después de cada nodo.
  • Sólo corre un runtime a la vez, para que las pruebas nunca compitan por memoria con producción.

Dónde decide una persona.

  • Cambios de hardware, actualizaciones del sistema y cambios de modelo requieren aprobación explícita del dueño y se hacen en ventana de mantenimiento.
  • El clúster atiende cargas internas. Los agentes de cara a clientes usan la misma familia de modelo en un endpoint hospedado, para que el servicio a clientes no dependa de la luz o el internet de una oficina.
  • Las alertas llegan primero a un agente de operaciones; una persona decide cualquier cambio de configuración.

Qué recibe el cliente.

  • Análisis de tamaño y costo para correr un modelo de pesos abiertos en equipos que tú controlas
  • Instalación del clúster con API compatible con OpenAI en tu red privada
  • Mediciones con tus prompts reales antes y después de cada cambio
  • Manuales de actualización, regreso y monitoreo

Cómo se cotiza

Diagnóstico de procesos

$14,900 MXN + IVA
Medimos tu carga

Definimos equipo, modelo y costo para tu caso.

Construcción

Desde $59,900 MXN + IVA
Alcance por escrito

Instalación, integración y manuales; Operación administrada $5,900–49,900/mes.

Precios de nuestra lista pública en México, en MXN + IVA. Telefonía, mensajería, uso de IA y comisiones de pago se cobran a costo. Alcance final por escrito.

Estado y lo que no publicamos.

Verificado en noviembre de 2026: el clúster atiende a diario a nuestros agentes internos. No publicamos cifras de velocidad en esta página porque dependen del largo de los prompts y la concurrencia; las compartimos medidas con tu carga durante el diagnóstico.

¿Quieres esto en tu negocio?

Agenda una llamada de 20 minutos: revisamos tus canales, tus sistemas y dónde sí conviene un agente, y te llevas un plan.