PAIF – Fundación Privada de IA

Infraestructura de IA que no sacrifica la soberanía de los datos

Infraestructura de IA en tu propio centro de datos. Soberanía de los datos, costes predecibles y operaciones listas para producción para la IA empresarial.

Iniciar la evaluación del PAIF

Ejecuta la IA en tu propia infraestructura, no en la de otros

Las cargas de trabajo de IA en la nube pública se implementan rápidamente, pero conllevan riesgos para la protección de datos, dependencias a largo plazo y costes impredecibles.

Private AI Foundation (PAIF) en VMware Cloud Foundation te devuelve el control sobre tu infraestructura de IA. Los dominios de cargas de trabajo dedicados, la integración de GPU y la conectividad nativa con marcos de IA crean una plataforma lista para producción dentro de tu propio centro de datos.

evoila diseña e implementa PAIF como parte de tu pila VCF, desde la arquitectura hasta la puesta en producción.

Ventajas para tu empresa de un vistazo:

  • Soberanía de los datos: los modelos de IA y los datos de entrenamiento se quedan en tu propio centro de datos, sin depender de la nube pública y con un control normativo total
  • Costes predecibles de la IA: No hay costes variables por hora de las GPU en la nube pública. En su lugar, hay costes de infraestructura calculables basados en el VCF.
  • Autonomía estratégica en IA: tu propia infraestructura de IA te permite independizarte de los ecosistemas de los hiperescaladores y de las plataformas de IA propietarias

La IA sin control sobre la infraestructura no se puede ampliar

Las decisiones sobre datos, costes y arquitectura se toman fuera de tu organización.

El reto

Utiliza la IA sin perder el control de tu negocio

La inteligencia artificial ya es una capacidad fundamental. La oportunidad está clara, pero la infraestructura suele frenar el siguiente paso. La IA en la nube pública permite hacer pruebas rápidas. La puesta en producción requiere control sobre los datos, los costes y el cumplimiento normativo.
Al mismo tiempo, crear una infraestructura de IA internamente exige conocimientos especializados en varios ámbitos.

La infraestructura de GPU necesita algo más que hardware

El dimensionamiento, la integración y el funcionamiento requieren experiencia en arquitectura de GPU, cargas de trabajo y diseño de plataformas. Sin eso, los sistemas se quedan infrautilizados o inestables.

La soberanía de los datos hay que hacerla valer, no darla por sentada

Los servicios en la nube pública trasladan los datos de entrenamiento y los modelos fuera de tu organización. Resulta difícil demostrar que se cumple con la normativa.

Las cargas de trabajo de IA compiten con los sistemas de producción

Sin aislamiento, las cargas de trabajo de IA consumen recursos compartidos. El rendimiento se vuelve impredecible en ambos entornos.

Los marcos de IA necesitan integrarse en la infraestructura

Las herramientas aisladas ralentizan el desarrollo. Los ingenieros necesitan acceso directo a marcos como NVIDIA AI Enterprise desde la propia plataforma.

Muchas iniciativas de IA se quedan en el tintero antes de llegar a la fase de producción

Sin una estrategia clara de infraestructura, las cargas de trabajo piloto no pasan a convertirse en servicios productivos.

La buena noticia: no hace falta que crees una plataforma de IA aparte

Amplías el que ya tienes en marcha. Te informo de que…

Nuestra solución

PAIF como plataforma de IA lista para producción

Del concepto de IA a una infraestructura lista para la producción

Private AI Foundation amplía VCF con capacidades de infraestructura específicas para la IA. evoila integra PAIF directamente en tu entorno. Definimos de antemano la arquitectura, los ámbitos de trabajo, la configuración de las GPU y las operaciones. Así evitamos que la IA se quede en un experimento aislado. Esto es lo que te ofrecemos:

Diseño e implementación de dominios de cargas de trabajo de IA

Diseño e implementación de dominios dedicados a cargas de trabajo de IA dentro de VCF. Aislados de los dominios de cargas de trabajo de producción, con recursos dedicados de computación, almacenamiento y red para las cargas de trabajo de IA y los hosts con GPU.

Integración de la infraestructura de GPU

Planificación e integración de hosts compatibles con GPU en el entorno VCF, incluyendo el «passthrough» de GPU y la configuración de vGPU, para dar soporte a una amplia gama de cargas de trabajo de IA, desde la inferencia hasta el entrenamiento distribuido de modelos.

Integración de marcos de IA

Integración de marcos y plataformas de IA consolidados en la infraestructura de PAIF. Esto incluye NVIDIA AI Enterprise y entornos de cargas de trabajo basados en CUDA, así como flujos de trabajo de aprendizaje automático basados en contenedores a través de VKS.

Diseño de almacenamiento optimizado con IA

Configuramos las clases de almacenamiento de vSAN para que se adapten a los requisitos específicos de la IA. Esto permite un alto rendimiento secuencial para los datos de entrenamiento, una baja latencia para las cargas de trabajo de inferencia y una capacidad escalable para los artefactos de modelos de gran tamaño.

Diseño de redes para el aprendizaje distribuido

Diseño de redes de alta velocidad para la comunicación entre GPU durante el entrenamiento distribuido de modelos, con aislamiento basado en NSX y rutas de red dedicadas para el tráfico de IA.

Modelo operativo y gestión del ciclo de vida

Definimos un modelo operativo para la infraestructura de IA, que incluye la gestión de los recursos de GPU, la programación de las cargas de trabajo, la planificación de la capacidad y la integración en el marco de monitorización de VCF.

Análisis técnico en profundidad

La arquitectura que hay detrás de PAIF

PAIF como complemento nativo de VCF

La Private AI Foundation no es un producto independiente. Se trata más bien de un marco complementario estructurado que amplía VCF con conceptos de infraestructura específicos para la IA. En esencia, se basa en el concepto del «dominio de carga de trabajo de IA»: un dominio VCF específico que incluye hosts compatibles con GPU, clases de almacenamiento optimizadas para la IA y rutas de red aisladas. Se gestiona íntegramente a través del marco de gestión de VCF y se integra en la gestión del ciclo de vida ya existente.

Integración de la GPU: passthrough y vGPU

PAIF admite dos modelos de virtualización de GPU, que Evoila implementa según los requisitos de la carga de trabajo: el modelo de «passthrough» de GPU dedica una GPU física por completo a una máquina virtual para maximizar el rendimiento durante el entrenamiento de modelos que requieren un gran esfuerzo computacional, mientras que el modelo de vGPU divide los recursos de la GPU entre varias máquinas virtuales para permitir un uso eficiente en cargas de trabajo de inferencia y entornos de desarrollo. Evoila aprovisiona hosts de GPU, configura las pilas de controladores e integra la plataforma de software NVIDIA AI Enterprise para dar soporte a cargas de trabajo de IA listas para producción.

Entornos de IA a través de Kubernetes

Las cargas de trabajo de IA basadas en contenedores se ejecutan a través de VMware Kubernetes Services en la infraestructura de PAIF. Los flujos de trabajo de aprendizaje automático (ML), los trabajos de entrenamiento y los servicios de inferencia se implementan como cargas de trabajo de Kubernetes. Las solicitudes de recursos de GPU se realizan a través del complemento NVIDIA Device Plugin. Se usa Harbor como registro privado de modelos e imágenes, y Velero para hacer copias de seguridad de puntos de control durante los trabajos de entrenamiento largos.

Arquitectura de almacenamiento para cargas de trabajo de IA

Las cargas de trabajo de IA tienen requisitos de almacenamiento específicos. Los conjuntos de datos de entrenamiento necesitan un alto rendimiento de lectura secuencial, el almacenamiento de puntos de control requiere baja latencia y los artefactos de los modelos necesitan capacidad escalable. evoila configura clases de almacenamiento vSAN diferenciadas para cumplir con estos requisitos. Esto incluye la arquitectura ESA para las rutas en las que el rendimiento es fundamental y clases optimizadas en cuanto a costes para el almacenamiento de grandes volúmenes de datos.

Aislamiento de red e interconexión de GPU

Los dominios de cargas de trabajo de IA están aislados de la red mediante NSX. Las cargas de trabajo de IA no tienen acceso sin control a los sistemas de producción. Para el entrenamiento distribuido de modelos, evoila configura rutas de red dedicadas y de alta velocidad para el tráfico de interconexión de las GPU, que están separadas de la red de datos habitual de las máquinas virtuales. Esto reduce la sobrecarga de red en los trabajos de entrenamiento distribuido y evita que las cargas de trabajo de producción sufran conflictos por los recursos.

Ventajas técnicas

Utiliza la IA sin tener que renunciar a nada en cuanto a infraestructura

Dominios específicos para cargas de trabajo de IA

Aislamiento total de las cargas de trabajo de IA y de producción a nivel de infraestructura sin conflictos por los recursos

Virtualización flexible de GPU

Pasar la GPU directamente para un rendimiento máximo en el entrenamiento, vGPU para una inferencia eficiente y entornos de desarrollo

Perfiles de almacenamiento optimizados con IA

Perfiles vSAN diferenciados para datos de entrenamiento, puntos de control y artefactos de modelos con el rendimiento de ESA

Flujos de trabajo de aprendizaje automático nativos de contenedores

Cargas de trabajo de IA como tareas de Kubernetes a través de VKS con solicitudes de recursos de GPU y Harbor como registro de modelos

Aislamiento de cargas de trabajo en NSX

Rutas de red exclusivas para el tráfico de interconexión de las GPU, aisladas de los segmentos de red de producción

Gestión unificada del ciclo de vida

La infraestructura de PAIF se gestiona íntegramente a través de la gestión de VCF, así que no hace falta gestionar por separado la infraestructura de IA.

Tu socio ideal

Necesitas un socio para el «full stack»

Para gestionar una infraestructura de IA en tu propio hardware, necesitas experiencia en VCF, sistemas de GPU y cargas de trabajo de IA.
Esa combinación no es habitual. evoila aúna conocimientos sobre plataformas, integración de GPU y experiencia operativa. PAIF se implementa como parte de tu entorno, no al margen de él. Te acompañamos desde el diseño de la infraestructura hasta tu primera carga de trabajo de IA en producción.

Nos basamos en VMware Cloud Foundation

Para gestionar una infraestructura de IA en tu propio hardware, necesitas una combinación de experiencia en la plataforma VCF, conocimientos sobre infraestructura de GPU y comprensión de las características de las cargas de trabajo de IA. Esa combinación no es fácil de encontrar. evoila reúne estos tres elementos.

Diseñamos infraestructura de GPU para cargas de trabajo reales

En evoila, PAIF se implementa como parte de la pila VCF, no como una plataforma independiente. Con el diseño de red de NSX, la arquitectura de almacenamiento vSAN, la integración de VKS y un modelo operativo que garantiza la facilidad de gestión a largo plazo.

Ponemos en marcha las cargas de trabajo de IA

Para las empresas que quieren pasar de las pruebas piloto de IA en la nube pública a una infraestructura local lista para la producción, evoila es un socio de confianza. Desde la estrategia de infraestructura hasta la primera carga de trabajo de IA en producción.

Colaboraciones

Tecnologías y socios

Se basa en plataformas empresariales de probada eficacia y en socios de su ecosistema.

PAIF
Broadcom


es de GPUde NVIDIA

Habla con nuestro equipo de infraestructura de IA

Te ayudamos a diseñar e implementar una infraestructura de IA que funcione en entorno de producción.

Christopher Mack

Christopher Mack

Cloud Engineer Associate

Preguntas frecuentes

Preguntas frecuentes sobre el PAIF

Private AI Foundation es un complemento de VCF que crea una infraestructura de IA dentro de tu centro de datos. Los datos y los modelos siguen bajo tu control, mientras que los costes y el cumplimiento normativo siguen siendo predecibles.

PAIF es compatible con las GPU de NVIDIA como acelerador principal. La homologación se realiza a través de la matriz de compatibilidad de VMware y NVIDIA. Como parte de la evaluación de preparación para PAIF, evoila se encarga de la homologación del hardware, el dimensionamiento y la configuración de la pila de controladores, y recomienda el uso de «GPU passthrough» o vGPU en función de los requisitos específicos de la carga de trabajo.

Sí. PAIF se integra en los entornos VCF existentes como un complemento, añadiendo hosts compatibles con GPU y configurando dominios dedicados para cargas de trabajo de IA. Durante la evaluación, evoila analiza el entorno actual y elabora un plan de expansión sin afectar a las cargas de trabajo de producción.

Los dominios de cargas de trabajo de IA son dominios VCF dedicados que cuentan con sus propios recursos de computación, almacenamiento y red. NSX garantiza el aislamiento a nivel de red. Las cargas de trabajo de IA no tienen acceso sin control a los sistemas de producción. La competencia por los recursos se evita de forma estructural, no solo mediante políticas de programación.

Los marcos de trabajo de aprendizaje automático basados en contenedores se ejecutan a través de VKS en la infraestructura de PAIF, utilizando solicitudes de recursos de GPU mediante el complemento NVIDIA Device Plugin, Harbor como registro privado de modelos y Velero para la copia de seguridad de los puntos de control. NVIDIA AI Enterprise ofrece versiones optimizadas de estos marcos de trabajo para entornos VMware.