Chiunque sviluppi nel mondo dell’Intelligenza Artificiale e degli LLM si scontra prima o poi con lo stesso, identico muro: la gestione del contesto. I token costano, rallentano le risposte e, nei loop più complessi degli agenti autonomi, tendono a gonfiarsi fino a saturare le context window.

È per risolvere questo problema che tempo fa ho iniziato a sviluppare su GitHub un progetto chiamato Caveman (un nome volutamente "grezzo" per un compito di pura forza bruta: mettere a dieta i prompt). Caveman è nato in ambiente .NET 8 puro, con un obiettivo ambizioso: comprimere i testi fino al 70% in modo locale, ultra-leggero e senza dipendere da altri modelli IA pesanti.

Ma la vera svolta è arrivata di recente. E, come spesso accade nell'open-source, è nata dall'ascolto e da una folle corsa allo sviluppo parallelo.

Il punto di svolta: Caveman 1.3.0

Con il rilascio della versione 1.3.0, Caveman ha fatto un salto quantico. Grazie ai continui feedback raccolti sul campo, il progetto ha smesso di essere un semplice "pulitore di testo" (stop-words e lemmatizzazione) per trasformarsi in una pipeline di compressione content-aware intelligente.

In questa release abbiamo introdotto tre pilastri architetturali fondamentali:

1. Il Content Router: Un modulo in grado di capire autonomamente se l'input è un array JSON, un log di sistema, un git diff o del codice sorgente, applicando una compressione verticale e mirata (come convertire al volo JSON nidificati in tabelle Markdown lossless).
2. L'Output Shaper: Un sistema che agisce sulle risposte del modello, inserendo istruzioni invisibili nel system prompt per tagliare i preamboli di cortesia inutili ed evitare che l'LLM ripeta parti di codice già inviate.
3. Il Cache Aligner: Progettato appositamente per proteggere la KV-Cache dei provider (come Anthropic o OpenAI) da elementi volatili che invalidano continuamente la memoria.

Mentre ottimizzavo queste routine in C#, è emersa un'evidenza schiacciante: la community di sviluppatori che costruisce attivamente agenti IA (usando tool come Claude Code, Cursor, LangChain o il protocollo MCP) lavora prevalentemente in Python.

Il potenziale di questa tecnologia doveva essere sbloccato per tutti.

Il "Doppio Motore": Sviluppo in parallelo e porting locale

A questo punto è iniziato un flusso di lavoro tanto faticoso quanto entusiasmante. Invece di completare interamente una libreria e poi tradurla mesi dopo, ho deciso di procedere con un porting speculare e immediato.

Il processo funzionava così: implementavo una feature in C# su Caveman, la testavo, raccoglievo i feedback e, non appena una singola sotto-versione locale si dimostrava stabile, aggiornavo immediatamente e in parallelo il codice del corrispettivo progetto Python.

Questo approccio simbiotico ha permesso di limare i difetti di entrambi i mondi. Se un dizionario di lemmatizzazione per una delle oltre 50 lingue supportate mostrava un'inefficienza in C#, la correzione veniva iniettata all'istante anche nello script Python. Se la logica del Circuit Breaker (il sistema di sicurezza che disattiva la compressione se rileva errori ripetuti) veniva ottimizzata su .NET, pochi minuti dopo veniva riscritta in modo nativo e performante per l'ecosistema Python.

Da questo ciclo continuo di aggiornamenti locali e porting speculari è nato ufficialmente Synthelion.

Synthelion: L'evoluzione universale per gli AI Agents

Synthelion non è una semplice "copia" in Python di Caveman: è la maturazione di tutta l'esperienza accumulata finora, calata perfettamente nell'ecosistema in cui gli agenti AI vivono e respirano ogni giorno.

Portando l'intera architettura content-aware di Caveman 1.3.0 su Python, Synthelion è in grado di integrarsi nativamente in pochissimi minuti come server MCP (Model Context Protocol) per Claude o Cursor, oppure come plugin pronto all'uso per LangChain e OpenAI. Mantiene la stessa promessa originaria: algoritmi nativi, zero modelli IA pesanti a runtime, supporto multi-lingua nativo e quel drastico taglio ai costi delle API che fa felice ogni azienda.

L'Open Source è una storia di evoluzione

Guardando indietro, il percorso da Caveman 1.3.0 a Synthelion mi ha ricordato perché amo l'open-source. Non si tratta mai di scrivere codice in isolamento, ma di far evolvere le idee in base alle necessità reali di chi quel codice lo usa. Sviluppare queste due anime in parallelo, localmente, un commit alla volta, è stato una sfida incredibile, ma vedere oggi un agente AI risparmiare il 70% dei token grazie a questa architettura ripaga ogni riga di codice scritta.

I repository di entrambi i progetti sono interamente aperti. Se vi va di dare un'occhiata dietro il cofano, fare un test sui vostri prompt o contribuire alla community, vi aspetto su GitHub!

1. Il motore C# originario: Caveman su GitHub

1. Il nuovo ecosistema Python: Synthelion su GitHub