Binnen het Tygron Platform komt op 29 oktober 2026 nieuwe AI-functionaliteit beschikbaar voor alle gebruikers. Deze functionaliteit maakt het eenvoudiger om met het platform te werken, analyses en berekeningen uit te voeren en van een ruimtelijke vraag snel tot een analyse te komen. Maar het toenemende gebruik van AI roept steeds vaker vragen op over de gevolgen voor het milieu. Juist daarom werken we bij Tygron aan AI die niet alleen krachtig en praktisch is, maar ook aanzienlijk efficiënter met energie omgaat dan veel van de bekende grote AI-modellen.
AI
Milieu-impact
AI vraagt veel rekenkracht en daarmee ook veel energie. Daarnaast gebruiken de datacenters waarop deze modellen draaien grote hoeveelheden water voor koeling. Nu AI steeds breder wordt toegepast, neemt ook de aandacht voor deze milieu-impact toe. Die zorg delen wij en de vraag om duurzamere oplossingen wordt bovendien steeds vaker expliciet gesteld door onze klanten.
Daarom werken we continu aan het verbeteren van de efficiëntie van onze Tygron AI-software. Onlangs hebben we opnieuw een update doorgevoerd die onze AI verder optimaliseert. Tygron AI is inmiddels een veel duurzamere keuze dan veel grote frontiermodellen, zoals die van OpenAI en Anthropic. Voor dezelfde vraag verbruikt Tygron AI ongeveer tien keer minder energie.
Hoe kan dat?
Grote frontiermodellen, zoals ChatGPT en Claude, bevatten rond de 3.000 miljard of meer parameters in hun neurale netwerken. Daardoor kunnen ze enorm veel kennis uit onder andere het internet verwerken en antwoorden geven op een breed scala aan vragen. Voor de Tygron AI is dat echter niet nodig. Onze AI moet bijvoorbeeld kunnen uitleggen hoe je met TQL een dashboard bouwt of hoe een overstroming wordt gesimuleerd in Tygron. Een recept voor koekjes bakken in Spanje is misschien leuk, maar voor deze toepassing niet relevant.
Daarom kunnen we met een veel kleiner model werken, van ongeveer 30 miljard parameters. Zulke modellen beschikken over voldoende algemene kennis om goed te kunnen redeneren en bijvoorbeeld code te schrijven. Dat kleinere formaat betekent dus niet automatisch dat het model minder goed presteert op relevante taken. Zo staat een model als Qwen3.8 op Arena.AI gewoon in de top 10 van beste codingmodellen, terwijl het aanzienlijk kleiner is dan de grote frontiermodellen.
De uitdaging is vervolgens om dit kleinere model voldoende kennis van Tygron mee te geven, zodat het onze software en werkwijze goed kent. Hiervoor gebruiken we verschillende technieken. De belangrijkste bron is onze wiki, die veel inhoudelijke kennis bevat. In eerste instantie lieten we de AI deze informatie uitlezen via MCP-tools. Inmiddels laten we AI de wiki ook samenvatten rond een aantal belangrijke thema’s, zodat deze kennis direct aan het model kan worden meegegeven.
Daarnaast kan de AI via tools direct met Tygron communiceren. Zo kan de AI via de API met een project werken en controleren of een TQL-query geldig is. Ook kunnen we een bestaand model verder trainen met aanvullende kennis. Daarbij blijft de algemene kennis van het model behouden en voegen we specifieke Tygron-kennis toe. In AI-termen noemen we dit fine-tunen met een LoRA-adapter.
Tot slot kan de software inmiddels ook kennis tijdelijk bewaren. Door informatie uit eerdere stappen te cachen en binnen het context window beschikbaar te houden, kan de AI een deel van de kennis die tijdens een gesprek is opgedaan meenemen naar vervolgvragen. Hierdoor hoeft dezelfde informatie niet steeds opnieuw te worden opgezocht of aangeleverd.
Al deze punten resulteren in een klein, gespecialiseerd model met tools dat perfect Tygron-vragen kan beantwoorden, zonder de overkill van een megamodel. Kortom, een kleiner, gespecialiseerd model is beter voor wat we nodig hebben bij Tygron en heeft zo’n 100 keer minder parameters. Afhankelijk van de quantization staat iedere parameter voor 4, 8 of 16 bytes aan data. Als je 30 miljard parameters hebt, betekent dat ongeveer 30 GB aan RAM. Voor een groot model met 3.000 miljard parameters is dat 3.000 GB aan RAM.
CO2-footprint
Een gemiddelde datacenter-GPU heeft rond de 100 GB RAM. Dat betekent dat een klein model op één GPU kan draaien, terwijl je voor een groot model al snel meer dan 10 GPU’s nodig hebt, verspreid over meerdere machines. Een datacenter-GPU heeft ongeveer 600 watt nodig. Elke extra GPU betekent dus ook meer stroomverbruik.
Dit is natuurlijk wel wat kort door de bocht. Er zijn ook manieren om grote modellen efficiënter te gebruiken, bijvoorbeeld door verschillende expertmodellen te combineren. Maar in grote lijnen kun je stellen dat er een factor 10 verschil in stroomverbruik kan zitten en dat er veel minder hardware nodig is, wat ook een kleinere CO2-footprint per machine betekent. Op Arena.AI, een AI-vergelijkingswebsite van Berkeley University, zijn vergelijkbare verschillen te zien als je kijkt naar de kosten per token.
Transparant in stroomgebruik
Richting de toekomst gaan we onderzoeken hoe ver we de grenzen van kleine, gespecialiseerde modellen nog verder kunnen verleggen en hoe we deze modellen kunnen laten samenwerken. Ook willen we ons stroomverbruik transparanter maken. Daarom hebben we recent een logfunctie toegevoegd waarmee je exact kunt opvragen hoeveel kWh een simulatie of chat verbruikt.
Zie voor meer informatie: https://support.tygron.com/wiki/AI_Rules
