Wat je wint en verliest door zelf een AI-model te draaien
Een model op je eigen computer is de enige opzet waarbij je tekst de machine nooit verlaat. Het kost hardware, installatietijd en antwoordkwaliteit, omdat de modellen die op een gewone computer passen kleiner zijn dan die achter gehoste chats. Een privé gehoste chat vraagt je in plaats daarvan de regels van de aanbieder te vertrouwen. Voor de meeste persoonlijke vragen is die ruil prima; voor gegevens die je nergens naartoe mag sturen, voldoet alleen een lokaal model of je eigen server.
"Privé AI" wordt gebruikt voor 2 heel verschillende dingen: een gehoste chat die belooft weinig over je te bewaren, en een privé-LLM die draait op hardware die jij beheert. Ze lossen verschillende problemen op, en kiezen tussen de twee begint met wat je tekst eigenlijk is.
Op deze pagina
Wat een lokaal model je oplevert
Wanneer het model op je eigen computer draait, wordt niets wat je typt ergens naartoe gestuurd. Er is geen aanbieder, geen log op de server van iemand anders en geen beleid dat volgend jaar kan veranderen. Het werkt ook zonder internetverbinding. Voor documenten die je contractueel niet mag delen, zoals klantbestanden, is dit de enige opzet die geen belofte van iemand anders nodig heeft.
Wat het je kost
Eerst hardware: een gewone laptop draait kleine modellen, de grotere hebben een videokaart met veel geheugen nodig. Dan installatie: je installeert de software, kiest een model, en houdt beide up-to-date. Dan kwaliteit: de modellen die op een thuiscomputer passen zijn kleiner dan die achter gehoste chats, en bij lastige vragen is dat verschil merkbaar.
Wat een privé gehoste chat je oplevert
Een gehoste chat draait een groter model zonder installatie, op elk apparaat, in seconden. De prijs is vertrouwen: je tekst bereikt de server van de aanbieder, en wat ermee gebeurt hangt af van diens regels. Die regels zijn te controleren. Is een account nodig? Houdt hij een log bij? Wordt de tekst gebruikt voor training? Wordt hij doorgegeven aan een ander bedrijf? Een chat die alle 4 schriftelijk beantwoordt, geeft je iets om hem aan te houden.
Privé AI voor een bedrijf
Een bedrijf dat om een privé AI-platform vraagt, stelt meestal een contractvraag: waar worden de gegevens verwerkt, wie heeft er toegang toe, en wordt ermee iets getraind? Een model op de eigen server van het bedrijf beantwoordt alle 3 vragen al door zijn opzet, maar vraagt ook iemand om het te draaien. Een gehoste dienst beantwoordt ze in zijn gegevensverwerkingsvoorwaarden, en die voorwaarden moet je juridische team lezen voordat iemand klantgegevens plakt.
Een simpele manier om te beslissen
Vraag jezelf af of je in de problemen zou komen als deze tekst door de aanbieder gelezen werd. Zo niet, dan volstaat een privé gehoste chat zonder account, en die is sneller. Zo wel, draai het model dan zelf of op de eigen server van je bedrijf. Twijfel je, haal dan eerst de namen, cijfers en plaatsen uit de tekst; de meeste vragen overleven dat, en dan doet de keuze er minder toe.
Vragen over private AI
Wat is een privé-LLM?
Een taalmodel dat draait op hardware die jij of je bedrijf beheert, zodat de tekst die je eraan geeft niet naar een externe dienst gestuurd wordt.
Is een lokaal model ongecensureerd?
Niet automatisch. Er zit geen dienstfilter tussen, maar de training ervan bepaalt nog steeds wat het beantwoordt en hoe. Sommige open modellen zijn getraind om net zo vaak te weigeren als gehoste modellen.
Waar draait deze chat?
Op onze eigen servers in Nederland, zonder account en zonder profiel. Het is een gehoste chat, dus hij past bij vragen waarbij je die ruil accepteert.
Voor alledaagse vragen, vraag het hier, zonder account of installatie.
Open privé chat