Ce que vous gagnez et perdez en faisant tourner un modèle vous-même
Un modèle sur votre propre ordinateur est la seule configuration où votre texte ne quitte jamais la machine. Cela coûte du matériel, du temps de configuration et de la qualité de réponse, car les modèles qui tiennent sur un ordinateur normal sont plus petits que ceux derrière les chats hébergés. Un chat privé hébergé vous demande à la place de faire confiance aux règles de l'opérateur. Pour la plupart des questions personnelles, ce compromis convient ; pour des données que vous n'êtes autorisé à envoyer nulle part, seul un modèle local ou votre propre serveur conviennent.
« IA privée » désigne 2 choses très différentes : un chat hébergé qui promet de conserver peu de choses sur vous, et un LLM privé qui tourne sur du matériel que vous contrôlez. Ils résolvent des problèmes différents, et choisir entre les deux commence par déterminer ce qu'est votre texte.
Sur cette page
Ce que vous apporte un modèle local
Quand le modèle tourne sur votre propre ordinateur, rien de ce que vous tapez n'est envoyé nulle part. Il n'y a aucun opérateur, aucun journal sur le serveur de quelqu'un d'autre et aucune politique susceptible de changer l'an prochain. Cela fonctionne aussi sans connexion internet. Pour des documents que vous n'êtes pas autorisé à partager, comme des dossiers clients sous contrat, c'est le seul arrangement qui ne dépend de la promesse de personne d'autre.
Ce que cela vous coûte
Le matériel d'abord : un ordinateur portable normal fait tourner de petits modèles, et les plus gros ont besoin d'une carte graphique avec beaucoup de mémoire. La configuration ensuite : vous installez le logiciel, choisissez un modèle, et maintenez les deux à jour. La qualité enfin : les modèles qui tiennent sur un ordinateur personnel sont plus petits que ceux derrière les chats hébergés, et sur les questions difficiles, la différence se voit.
Ce que vous apporte un chat privé hébergé
Un chat hébergé fait tourner un modèle plus grand sans installation, sur n'importe quel appareil, en quelques secondes. Le prix, c'est la confiance : votre texte atteint le serveur de l'opérateur, et ce qui lui arrive dépend des règles de l'opérateur. Ces règles peuvent être vérifiées. A-t-il besoin d'un compte ? Conserve-t-il un journal ? Le texte est-il utilisé pour l'entraînement ? Est-il transmis à une autre entreprise ? Un chat qui répond aux 4 questions par écrit vous donne de quoi le tenir responsable.
L'IA privée pour une entreprise
Une entreprise qui demande une plateforme d'IA privée pose généralement en réalité une question contractuelle : où les données sont traitées, qui peut y accéder, et si elles servent à entraîner quoi que ce soit. Un modèle sur le propre serveur de l'entreprise répond aux 3 questions par construction, et nécessite aussi quelqu'un pour le faire tourner. Un service hébergé y répond dans ses conditions de traitement des données, et ces conditions sont ce que votre équipe juridique devrait lire avant que quiconque n'y colle des données clients.
Une façon simple de décider
Demandez-vous si vous auriez des ennuis si ce texte était lu par l'opérateur. Si non, un chat privé hébergé sans compte suffit, et c'est plus rapide. Si oui, faites tourner le modèle vous-même ou sur le propre serveur de votre entreprise. En cas de doute, retirez d'abord du texte les noms, les chiffres et les lieux ; la plupart des questions survivent à cela, et le choix compte alors moins.
Questions sur l'IA privée
Qu'est-ce qu'un LLM privé ?
Un modèle de langage qui tourne sur du matériel que vous ou votre entreprise contrôlez, de sorte que le texte que vous lui donnez n'est envoyé à aucun service extérieur.
Un modèle local est-il sans restrictions ?
Pas automatiquement. Il n'y a aucun contrôle de service entre les deux, mais son entraînement décide quand même ce qu'il répond et comment. Certains modèles ouverts sont entraînés à refuser autant que les modèles hébergés.
Où tourne ce chat ?
Sur nos propres serveurs aux Pays-Bas, sans compte et sans profil. C'est un chat hébergé, il convient donc aux questions pour lesquelles vous acceptez ce compromis.
Pour les questions du quotidien, posez-les ici sans compte ni installation.
Ouvrir le chat privé