¿IA segura en tu empresa?

Qué son los modelos locales

Los modelos de IA más conocidos funcionan en la nube del proveedor: cada consulta se envía a sus servidores y se procesa allí. Un modelo local se instala en tu propia infraestructura - un ordenador o el servidor de la empresa - y todo el procesamiento se realiza dentro de la organización.

No hay suscripción por puesto ni tarifas por número de consultas, y el contenido de las conversaciones - contratos, documentos, correspondencia - no sale de la empresa.

Esto importa allí donde entran en juego el secreto empresarial o, por ejemplo, las obligaciones contractuales con clientes y socios. La instalación puede funcionar en una red aislada de internet.

Ejemplos de requisitos de hardware

El rendimiento depende directamente de la configuración: el ancho de banda de la memoria y la potencia del procesador gráfico determinan cuántos tokens se generan por segundo, y la cantidad de memoria, el tamaño del modelo que se puede cargar. En una máquina más modesta el modelo también funcionará, pero a costa del tiempo de respuesta.

Ejemplo de extensión - el buscador

Los modelos de este tipo, de serie, no tienen acceso a internet. Su conocimiento procede únicamente de los datos de entrenamiento, que abarcan materiales hasta una fecha de corte determinada - normalmente más de un año antes de la publicación del modelo. Las preguntas sobre acontecimientos actuales, cotizaciones del día o cambios legales recientes dan lugar a respuestas desactualizadas o inventadas.

En nuestro ejemplo, el interruptor «Acceso al buscador» añade al modelo una capa de búsqueda: la pregunta va primero al buscador y el modelo responde a partir de los resultados devueltos, citando las fuentes. Es una extensión desarrollada por Kreatio, no una función del propio modelo - sin ella, el modelo solo conoce sus datos de entrenamiento.

Ejemplo de extensión - el modo informe

Aquí el modelo trabaja como un agente: él mismo formula las consultas para el buscador, elige entre los resultados las fuentes que merece la pena leer, las abre con un navegador real y solo entonces, a partir de su contenido, redacta el informe - con referencias que se pueden comprobar.

Es una versión simplificada de lo que OpenAI llama deep research y Anthropic, Research. En nuestro ejemplo el orden de los pasos lo fija el código, las fuentes son unas pocas y el informe está listo en un minuto. El principio es el mismo: horas de búsqueda convertidas en minutos, y una respuesta basada en lo que el modelo ha leído realmente, no en lo que recuerda de su entrenamiento previo.

El mismo modelo, otro resultado

Entrenar modelos es cosa de unos pocos laboratorios en el mundo y cuesta cientos de millones de dólares. Pero el valor de un modelo en tu empresa viene de otra parte: de las herramientas, los datos y la forma de gestionar la tarea con los que se le equipa.

Claude Code es el mejor ejemplo. En una ventana de chat, el mismo modelo se limita a responder preguntas. Con herramientas, acceso a archivos y un bucle de acción, escribe código por su cuenta y corrige sus propios errores. El modelo no ha cambiado. Ha cambiado lo que tiene a su alrededor.

Todo esto podemos diseñarlo, construirlo y adaptarlo a tus necesidades: búsqueda en la base de conocimiento de la empresa - respuestas basadas en tus documentos; llamadas a herramientas - acceso a tus sistemas y datos; agentes - ejecución de tareas de varias etapas, de principio a fin.

Todo en local y de forma segura, incluso sin ningún acceso a internet.

Balance de la solución

Ir a la prueba del modelo