Une IA sécurisée dans votre entreprise ?

Qu'est-ce qu'un modèle local ?

Les modèles d'IA les plus connus fonctionnent dans le cloud de leur fournisseur - chaque requête est envoyée sur ses serveurs et y est traitée. Un modèle local se déploie sur votre propre infrastructure - un ordinateur ou le serveur de l'entreprise - et le traitement s'effectue entièrement au sein de l'organisation.

Pas d'abonnement par poste ni de facturation au nombre de requêtes, et le contenu des conversations - contrats, documents, correspondance - ne quitte pas l'entreprise.

Cela compte partout où sont en jeu le secret des affaires ou, par exemple, des engagements contractuels envers vos partenaires commerciaux. L'installation peut fonctionner dans un réseau coupé d'internet.

Exemples de configurations matérielles

Les performances dépendent directement de la configuration : la bande passante mémoire et la puissance du processeur graphique déterminent le nombre de tokens générés par seconde, et la quantité de mémoire, la taille du modèle qu'il est possible de charger. Sur une machine moins puissante, le modèle fonctionnera aussi, mais au prix d'un temps de réponse plus long.

Exemple d'extension - la recherche web

Par défaut, les modèles de ce type n'ont pas accès à internet. Leurs connaissances proviennent uniquement des données d'entraînement, qui couvrent des contenus jusqu'à une date limite donnée - généralement plus d'un an avant la publication du modèle. Les questions sur l'actualité, les cours du jour ou les changements législatifs récents donnent des réponses obsolètes ou inventées.

Dans notre exemple, le bouton « Accès à la recherche web » ajoute au modèle une couche de recherche : la question passe d'abord par un moteur de recherche, puis le modèle répond à partir des résultats obtenus et cite ses sources. C'est une extension développée par Kreatio, pas une fonction du modèle lui-même - sans elle, le modèle ne connaît que ses données d'entraînement.

Exemple d'extension - le mode rapport

Ici, le modèle travaille comme un agent : il formule lui-même les requêtes pour le moteur de recherche, sélectionne parmi les résultats les sources qui méritent d'être lues, les ouvre dans un vrai navigateur et ce n'est qu'à partir de leur contenu qu'il rédige le rapport - avec des références que l'on peut vérifier.

C'est une version simplifiée de ce qu'OpenAI appelle deep research et Anthropic Research. Dans notre exemple, l'ordre des étapes est fixé par le code, les sources sont peu nombreuses et le rapport est prêt en une minute. Le principe reste le même : des heures de recherche ramenées à quelques minutes, et une réponse fondée sur ce que le modèle a réellement lu, pas sur ce qu'il a retenu de son entraînement.

Le même modèle, un résultat différent

Entraîner des modèles est l'affaire de quelques laboratoires dans le monde, pour un coût qui se compte en centaines de millions de dollars. Mais la valeur d'un modèle dans votre entreprise vient d'ailleurs : des outils, des données et de la manière de mener la tâche dont on l'entoure.

Claude Code en est le meilleur exemple. Dans une fenêtre de chat, le même modèle se contente de répondre aux questions. Une fois doté d'outils, d'un accès aux fichiers et d'une boucle d'action, il écrit du code de lui-même et corrige ses propres erreurs. Le modèle n'a pas changé. Ce qui a changé, c'est ce qu'il a autour de lui.

Tout cela, nous pouvons le concevoir, le construire et l'adapter à vos besoins : la recherche dans la base de connaissances de l'entreprise - des réponses fondées sur vos documents ; l'appel d'outils - l'accès à vos systèmes et à vos données ; les agents - la conduite de tâches en plusieurs étapes, du début à la fin.

Le tout en local et en toute sécurité, même sans le moindre accès à internet.

Bilan de la solution

Passer au test du modèle