Infraestructura y control

Modelos abiertos y locales

No toda IA se usa desde un chat público. También existen modelos que se pueden descargar, adaptar o ejecutar en local, y despliegues privados para organizaciones que no pueden enviar sus datos a cualquier proveedor externo.

Por qué importan

Cuando usamos ChatGPT, Claude, Gemini o Grok, normalmente accedemos a un servicio cerrado. El modelo, la infraestructura y muchas reglas quedan del lado del proveedor. En cambio, con modelos descargables u open-weight, una organización puede alojar parte del sistema en su propio entorno, ajustar controles y reducir dependencia externa.

Eso no significa que todo sea automáticamente más seguro. Un modelo descargado también puede fallar, sesgarse, filtrar información o generar contenido peligroso. La diferencia es dónde corre, quién lo administra, qué datos salen y qué controles pueden añadirse alrededor.

La pregunta del millón es muy sana: si los asistentes públicos son tan buenos, ¿por qué tantos sectores necesitan modelos locales, privados o blindados? La respuesta suele estar en datos sensibles, secreto industrial, cumplimiento legal, seguridad, trazabilidad, auditoría y responsabilidad.

Piezas del tablero

Repositorio y comunidad

Hugging Face

Qué es: una plataforma central para modelos, datasets, demos, documentación y colaboración. No es una sola IA, sino una infraestructura cultural y técnica del ecosistema abierto.

Qué mirar: licencias, model cards, datasets, permisos de uso, sesgos y riesgos de modelos subidos por terceros.

Explorar modelos
Ejecución local

Ollama

Qué es: una herramienta para ejecutar modelos en local o en infraestructura propia. Ayuda a probar familias como Llama, Mistral, Qwen u otras sin depender siempre de una API externa.

Qué mirar: capacidad del equipo, privacidad real del entorno, actualización de modelos, controles de seguridad y origen del modelo descargado.

Ver Ollama
Familias de modelos

Llama, Mistral, Qwen y otros

Qué son: modelos que pueden descargarse, adaptarse o desplegarse con distintos grados de apertura y restricciones.

Qué mirar: que "abierto" no siempre significa libre, auditable, reproducible o sin límites comerciales. La licencia importa tanto como el rendimiento.

Ver Llama en Hugging Face
Despliegues privados

IA en entornos controlados

Qué son: instalaciones en servidores propios, nubes privadas, edge computing o entornos aislados para reducir fuga de datos y dependencia de proveedores.

Qué mirar: si existe auditoría, registro de uso, control de permisos, evaluación de riesgos y supervisión humana.

Ver NIST AI RMF

Sectores sensibles

La IA local o privada cobra especial sentido cuando los datos no deberían salir de un entorno controlado: historiales clínicos, investigación científica, expedientes legales, defensa, seguridad, finanzas, datos de menores, administración pública, propiedad intelectual o procesos industriales.

En esos casos, la pregunta no es solo "qué modelo responde mejor", sino quién puede ver los datos, dónde se procesan, qué queda registrado, quién audita, cómo se evita una filtración y quién responde si el sistema afecta a una persona.

Cómo comparar

Licencia

¿Permite uso comercial, modificación, redistribución, investigación, despliegue interno o entrenamiento de otros modelos?

Transparencia

¿Hay model card, datos de entrenamiento, evaluaciones, límites conocidos y riesgos documentados?

Entorno

¿Corre en local, nube privada, API externa, dispositivo, servidor propio o infraestructura compartida?

Seguridad

¿Tiene guardrails, filtros, logs, permisos, aislamiento, actualizaciones y pruebas contra usos indebidos?

Especialización

¿Es generalista o está ajustado para salud, derecho, código, ciencia, educación, industria o administración?

Responsabilidad

¿Quién mantiene el modelo, quién lo integra, quién lo valida y quién responde ante errores?

Pregúntate

  • ¿Qué datos no deberían salir nunca de mi organización o dispositivo?
  • ¿Necesito el modelo más potente o el entorno más controlado?
  • ¿La palabra "open source" se usa con precisión o como reclamo?
  • ¿Qué pierdo al usar un modelo local: comodidad, actualización, potencia, soporte?
  • ¿Qué gano: privacidad, control, trazabilidad, independencia, adaptación?
  • ¿Qué sectores necesitan modelos específicos porque un asistente general no basta?

Referencias para empezar

Repositorio

Hugging Face Models

Catálogo de modelos, datasets, demos y documentación comunitaria.

Explorar Hugging Face
Local

Ollama

Herramienta para ejecutar modelos en local o en servidores propios.

Ver Ollama
Riesgo

NIST AI RMF

Marco de gestión del riesgo útil para pensar despliegues seguros y responsables.

Ver NIST AI RMF
Ejemplo europeo

Mistral AI

Proveedor europeo con modelos, despliegues privados y enfoque empresarial.

Ver Mistral