Catálogo de Modelos en Azure AI Foundry: Selección y Criterios

El catálogo de modelos en Azure AI Foundry ofrece una gama de opciones para construir soluciones de IA. Esta lección detalla los tipos de modelos disponibles, desde código abierto hasta propietarios, y establece criterios operativos para seleccionar el modelo base más adecuado para cada proyecto.

Tipos de Modelos en Azure AI Foundry

Azure AI Foundry consolida el acceso a diversos modelos de lenguaje grandes (LLM) y otros modelos de IA. La plataforma facilita la búsqueda, evaluación y despliegue de estos modelos, actuando como un hub centralizado. Se clasifican principalmente en dos categorías:

• Modelos de Código Abierto (Open-Source Models): Incluyen arquitecturas populares como Llama, Mistral, Phi, entre otros. Estos modelos permiten mayor flexibilidad en la personalización y, en muchos casos, ofrecen transparencia en su funcionamiento interno. Su licencia puede variar, desde permisos para uso comercial hasta restricciones específicas. La ventaja principal es la comunidad de desarrollo activa y la posibilidad de ejecutar inferencia en infraestructura propia o gestionada con mayor control.
• Modelos Propietarios (Proprietary Models): Son modelos desarrollados y ofrecidos por proveedores específicos, como OpenAI (GPT-3.5, GPT-4), Google (Gemini) o Meta (Llama 2 en algunos contextos de uso comercial). Se accede a ellos a través de APIs o servicios gestionados, con licencias de uso que suelen implicar costos por token o por inferencia. La principal ventaja es el rendimiento avanzado y la optimización que ofrecen los proveedores, sin necesidad de gestionar la infraestructura subyacente.

Además de los LLM, el catálogo incluye modelos para otras tareas de IA, como visión por computadora, procesamiento de lenguaje natural (NLP) específico y modelos multimodales.

Criterios de Selección de Modelos Base

La elección del modelo base impacta directamente la viabilidad técnica y económica del proyecto. Considere los siguientes criterios:

1. Rendimiento y Precisión Requerida: Evalúe la métrica clave del modelo (e.g., F1-score, BLEU, ROUGE) en tareas similares a las de su proyecto. Un modelo con alta precisión en benchmarks generales no garantiza el mismo rendimiento en un dominio específico. La fase de evaluación posterior es crítica para validar esto.
2. Costo de Inferencia: Los modelos propietarios suelen tener un costo por token o por llamada a la API. Los modelos de código abierto incurren en costos de infraestructura (GPU, CPU, memoria) para la inferencia. Calcule el costo total de propiedad (TCO) proyectado para ambos escenarios. Considere el volumen de solicitudes esperado.
3. Latencia y Velocidad: Algunos casos de uso (e.g., chatbots en tiempo real) requieren baja latencia. Los modelos más grandes suelen ser más lentos. Pruebe la velocidad de inferencia bajo carga esperada.
4. Capacidad de Contexto (Context Window): La longitud máxima de entrada que el modelo puede procesar es fundamental para tareas que requieren comprender documentos extensos o mantener conversaciones largas. Modelos con ventanas de contexto más grandes permiten manejar más información en una sola llamada, pero suelen ser más costosos y lentos.
5. Multimodalidad: Si el proyecto requiere procesar texto, imágenes, audio o video simultáneamente, busque modelos multimodales que soporten estas entradas.
6. Disponibilidad de Fine-Tuning: Algunos modelos permiten el fine-tuning con datos específicos del cliente para mejorar el rendimiento en tareas particulares. Verifique si el modelo seleccionado soporta esta capacidad y si los datos de entrenamiento están disponibles y son adecuados.
7. Licenciamiento: Para modelos de código abierto, revise cuidadosamente la licencia (e.g., Apache 2.0, MIT, Llama 2 Community License). Asegúrese de que el uso previsto sea compatible con los términos de la licencia, especialmente para aplicaciones comerciales.

Exploración del Catálogo en Azure AI Foundry Studio

Dentro de Azure AI Foundry Studio, el catálogo de modelos se encuentra en la sección 'Modelos'. Aquí puede filtrar por proveedor, tipo de tarea (e.g., generación de texto, resumen, clasificación), tamaño del modelo y licencia. Cada modelo tiene una página de detalles que incluye:

• Descripción funcional y arquitectura.
• Benchmarks de rendimiento (si están disponibles).
• Requisitos de hardware para inferencia (para modelos de código abierto).
• Ejemplos de uso y fragmentos de código para inferencia.
• Condiciones de licenciamiento y enlaces a la documentación original.

La interfaz permite probar los modelos directamente con entradas de ejemplo antes de decidir su implementación. Esto es útil para una evaluación inicial de su comportamiento y capacidad de respuesta.

Consideraciones de Seguridad y Cumplimiento

La selección del modelo también debe considerar los requisitos de seguridad y cumplimiento normativo. Los modelos propietarios suelen venir con garantías de seguridad y privacidad de datos del proveedor. Para modelos de código abierto, la responsabilidad de asegurar el entorno de ejecución recae en el equipo de INT. Evalúe:

• Residencia de Datos: Dónde se procesarán los datos de entrada y salida. Asegúrese de que cumple con las regulaciones locales (e.g., privacidad de datos en México).
• Gobernanza de Modelos: Cómo se gestionarán las versiones del modelo, los parches de seguridad y las actualizaciones.
• Sesgos y Equidad: Evalúe los posibles sesgos inherentes al modelo que puedan afectar la equidad o generar resultados indeseados. Esto es crítico en aplicaciones sensibles.

Aplicación Práctica: Selección Inicial de Modelo

El lunes, al iniciar un nuevo proyecto de IA en Azure AI Foundry, realice lo siguiente:

1. Defina la Tarea Clave: Especifique claramente el objetivo principal del modelo (e.g., resumen de documentos legales, clasificación de tickets de soporte, generación de respuestas a preguntas frecuentes).
2. Establezca Requisitos No Funcionales: Determine los límites de latencia, el presupuesto de costo por inferencia y el volumen de datos a procesar.
3. Explore el Catálogo: Navegue por Azure AI Foundry Studio. Filtre los modelos por la tarea definida. Identifique al menos dos modelos candidatos: uno propietario y uno de código abierto (si aplica).
4. Realice Pruebas Básicas: Utilice la interfaz de prueba de los modelos seleccionados con ejemplos representativos de su dominio. Observe la calidad de las respuestas, la coherencia y la velocidad. Esto le dará una primera impresión antes de una evaluación más profunda.

Esta selección inicial servirá como punto de partida para la fase de implementación y evaluación detallada en las siguientes lecciones.