Saltar al contenido
Modelos de IA en infraestructura del cliente

Modelos de IA que corren en tu servidor.

Hay datos que no pueden salir de la red de la empresa: contratos, información financiera, datos de clientes. Para esos casos, el modelo corre en tu propio servidor. El dato nunca abandona el servidor del cliente.

Correr IA en infraestructura propia significa ejecutar modelos de peso abierto dentro del servidor de la empresa, de modo que ningún dato salga de su red. Tryvex lo implementa en 4 semanas, con ruteo entre proveedores sin reescribir el código y costo por tarea medido. Es la opción cuando los datos son sensibles y no pueden viajar a una API externa.

Infraestructura propia

El dato no sale de tu servidor.

El contexto es la Ley 21.719 de protección de datos personales, pero esto no es asesoría legal ni una certificación: correr el modelo en infraestructura propia es una decisión de arquitectura que ayuda cuando hay datos sensibles de por medio.

  • Peso abierto

    Corren en tu infraestructura

    • Modelos que se descargan y corren dentro de la infraestructura de la empresa, sin llamadas a una API externa.
  • El dato se queda

    Nada sale de la red

    • Nada de lo que procesa el modelo viaja fuera de la red. Aplica a documentos legales, datos financieros e información de clientes.
  • Ruteo sin reescribir

    Cambiar de modelo sin tocar código

    • Se cambia de modelo o de proveedor sin tocar el código de la aplicación.
  • Costo por tarea

    Medido y visible

    • En volumen alto, el hardware propio se paga una vez en vez de pagarse por cada consulta.

Plazo: 4 semanas. El criterio de modelo en Tryvex: uno de frontera donde hace falta criterio, uno barato donde solo hace falta volumen, y uno de peso abierto en infraestructura propia cuando el dato es sensible — sin casar el proyecto con un proveedor.

Comparación

API externa contra servidor propio.

Comparación entre usar una API externa y correr el modelo en tu propio servidor
ConceptoAPI externaModelo en tu servidor
Dónde va el datoSale de tu red hacia el proveedorNo sale nunca del servidor
CostoSe paga por cada consultaEl hardware se paga una vez; conviene con volumen alto
DependenciaEl proveedor puede cambiar precio, política o discontinuar el modeloEl modelo queda descargado y sigue disponible
CapacidadAcceso a los modelos de fronteraModelos de peso abierto, que alcanzan de sobra para la mayoría de las tareas operativas
Cuándo convieneTareas que exigen el máximo criterioDatos sensibles que no pueden salir de la empresa
Preguntas

Lo que preguntan antes de partir.

¿Qué hardware necesito?

Depende del modelo y del volumen que se necesite procesar. Se define en el levantamiento, no antes.

¿Es más barato que usar una API?

En volumen alto, sí. El hardware propio se paga una vez, mientras que una API externa se cobra por cada consulta.

¿Rinde igual que un modelo de frontera?

Para muchas tareas operativas alcanza de sobra. Para las que exigen más criterio, se rutea al modelo de frontera sin reescribir la aplicación.

¿Sirve para cumplir con la Ley 21.719?

Ayuda como decisión de arquitectura: el dato queda dentro de tu red. No es asesoría legal ni una certificación de cumplimiento.

El resto de las preguntas, con precios y condiciones, están en preguntas frecuentes.

Cuéntanos qué dato no puede salir.

Veinte minutos, sin pitch. Salimos con una hipótesis, un alcance estimado y un precio. Si no podemos ayudarte, te lo decimos en la misma llamada.

Agenda una llamada de 20 min