KennisKluis Compact is een mini-pc met 128 gigabyte gedeeld geheugen. Daarop draait alles: het taalmodel, de kennisbank, de documentverwerking en het webportaal. Het apparaat is zo groot als een broodtrommel en staat naast een monitor, niet in een serverruimte.
Gedeeld geheugen maakt het verschil
Een paar jaar geleden vroeg een taalmodel dat een heel dossier kan doorzoeken nog om een server met een dure losse videokaart. Het geheugen van die kaart bepaalde hoe groot het model mocht zijn.
In deze mini-pc delen de processor en de AI-chip één geheugen van 128 gigabyte. Daardoor passen het taalmodel, de zoekindex en de documentverwerking naast elkaar, zonder dat ze om hetzelfde beperkte geheugen strijden. Het grootste deel gaat naar het taalmodel. Het besturingssysteem en de overige onderdelen houden genoeg over om tegelijk te blijven werken.
Draaien is het makkelijke deel
De volledige suite op één machine aan de praat krijgen, lukte vrij snel. Het lastige was zorgen dat een tweede machine precies hetzelfde doet als de eerste.
Een installatie die op de testmachine werkt, kan bij de klant toch haperen. Op een machine waar maanden aan is gesleuteld, staan instellingen en bestanden die niemand meer opmerkt. In juli zetten we de software op een volledig schone machine. Dat bracht drie fouten aan het licht die op de testmachine nooit waren opgevallen.
Sindsdien installeren we elke unit vanaf een vast basisimage met een script en een vaste configuratie. Er staat een lijst bij van wat er precies op de machine staat. Een nieuwe unit gedraagt zich daardoor hetzelfde als de vorige.
Elke klant krijgt dezelfde unit
Daarom is KennisKluis Compact geen apart samengesteld project per klant. Elke klant krijgt dezelfde hardware met dezelfde installatie, en wat bij ons getest is, is wat er bij de klant staat.
Wil je dit onderwerp voor je eigen organisatie bespreken? Een gesprek van 30 minuten plan je via de contactpagina.