ML Infrastructure

Toolkit TypeScript di Vercel per costruire applicazioni AI. API unificata per tutti i provider (OpenAI, Anthropic, Google), supporto agenti, streaming, tool execution con approvazione human-in-the-loop.

Piattaforma Python e open source per data science e AI enterprise. Gestisce ambienti, pacchetti, sicurezza e deployment, aiutando team tecnici a standardizzare workflow di sviluppo e modelli AI.

Linguaggio di programmazione open source per costruire funzioni LLM affidabili e testabili, con output tipizzati e senza stati invalidi. Nato in Y Combinator, genera SDK Python e TypeScript, usato da team che sviluppano agenti IA in produzione.

Infrastruttura AI per deploy, scaling e osservabilità di modelli in produzione. Gestisce inference ad alte prestazioni su cloud, regioni e setup ibridi, pensata per carichi mission-critical e team AI-native.

Piattaforma per eval, logging e osservabilità di prodotti AI. Aiuta team engineering e product a testare prompt, monitorare agenti e usare dati di produzione per migliorare affidabilità e qualità dei modelli.

Data lakehouse platform che unifica data engineering, ML e analytics. Delta Lake open source, Unity Catalog governance, LLM training su dati proprietari. Mosaic AI per Gen AI apps. 10k+ clienti, valuation $43B (2024).

Piattaforma Voice AI per sviluppatori che offre API per speech-to-text, text-to-speech e agenti vocali in tempo reale. Utile per call center, app vocali, trascrizione e automazioni conversazionali.

Cloud di inferenza e fine-tuning per modelli AI aperti e multimodali, con API compatibili, deploy custom e training su dataset privati. Pensato per applicazioni AI in produzione ad alta scala.

Cloud di inferenza AI basato su chip LPU proprietari, API compatibile OpenAI e focus su latenza e costo per modelli generativi. Rilevante per applicazioni AI che richiedono risposte molto rapide.

Infrastruttura open source e servizio gestito per dare memoria persistente ad agenti AI. Modella utenti, agenti, gruppi e relazioni nel tempo, con SDK e MCP server per integrare contesto e personalizzazione.

Framework open source per costruire applicazioni con LLM e agenti AI. LangSmith offre observability e deployment. 90M download mensili, usato dal 35% delle Fortune 500. Ha raccolto $125M a valutazione $1.25B.

Gateway open source che offre un’interfaccia unica per molti modelli linguistici e provider AI. Gestisce instradamento delle richieste, tentativi alternativi, limiti di spesa, registri e proxy, semplificando l’uso di più modelli in produzione.

Applicazione desktop per scaricare ed eseguire modelli linguistici in locale, senza inviare dati a servizi remoti. Include interfaccia grafica, server compatibile con OpenAI, SDK e una modalità senza interfaccia per server e integrazione continua.

Servizio per eseguire inferenza, addestramento, elaborazioni in serie e ambienti isolati con Python e GPU su richiesta. Avvia container rapidamente, scala automaticamente e consente ai team AI di distribuire carichi senza gestire l’infrastruttura.

Strumento per eseguire modelli aperti in locale e collegarli ad applicazioni o agenti. Consente di scaricare e avviare modelli dal terminale, mantiene i dati sul dispositivo e offre anche risorse cloud per carichi più grandi.

Piattaforma di routing AI che offre un'unica API compatibile per accedere a 400+ modelli LLM di OpenAI, Anthropic, Google e altri provider. Leader nel mercato dei middleware per inference.

Piattaforma per portare applicazioni con modelli linguistici in produzione. Gestisce instradamento tra provider, chiavi, prompt, limiti di spesa, osservabilità e protezioni, offrendo a sviluppatori un livello di controllo sopra le API dei modelli.

Piattaforma per training distribuito e modelli AI open source. Coordina compute globale, ricerca collaborativa e infrastruttura per creare modelli avanzati fuori dai grandi lab chiusi.

Enterprise data labeling/training platform per AI companies. RLHF human feedback, red teaming, data collection. Clienti OpenAI, Meta, Google, US DoD. Valuation $14B (2024). Competitor Labelbox/Surge. Managed workforce, custom annotation pipeline.

Piattaforma cloud per inferenza, fine-tuning e training di modelli open-source. GPU cluster ottimizzati, API compatibile OpenAI. $225M raised, valuation $1.25B. Focus su efficienza e costi.

Framework open source e Studio locale per eseguire, addestrare e ottimizzare modelli AI su hardware proprio. Supporta fine-tuning, RL, dataset visuali, export GGUF e API compatibili OpenAI.

Piattaforma enterprise per sviluppare e monitorare workflow AI con LLM: gestione prompt, valutazione, testing e deployment production-ready. $25.5M raccolti ($20M Series A luglio 2025). YC W23.

Ambiente ospitato da Google per creare ed eseguire notebook Python direttamente nel browser. Permette di usare GPU o TPU, condividere codice e collegare file da Drive, risultando utile per esperimenti di dati, apprendimento automatico e prototipi.

Servizio gestito via API per eseguire modelli di elaborazione del linguaggio naturale, tra cui GPT-Neo, GPT-J e GPT-NeoX. È pensato per team che cercano un’alternativa compatibile con API comuni per generazione e completamento del testo.

Libreria open source Python per reti neurali, progettata per sperimentazione rapida con deep learning. API ad alto livello che funziona su TensorFlow, JAX e PyTorch con un'unica codebase. Standard de facto per prototipazione ML.

Piattaforma enterprise per data labeling/annotation AI. Workforce managed labeling, model evaluation, training data pipeline. LabelOps workflows customizzabili. Usato da OpenAI, Google, Meta, governiUSA. Pricing custom enterprise, volume-based.

SDK automation tool che genera SDK multi-language (Python, TypeScript, Go, Java, C#, PHP) da OpenAPI spec con automatic docs, tests, CI/CD. DX improvement per API product. Freemium, Enterprise custom. Usato da Notion, Stripe competitor APIs.

Tool gratuito di OpenAI per visualizzare come il testo viene tokenizzato dai modelli GPT. Utile per calcolare costi API e ottimizzare prompt. Supporta diversi encoding (cl100k, p50k).

Fornisce desktop Linux nel cloud pronti in meno di un secondo e controllabili via API. Gli agenti AI possono acquisire schermate, fare clic, digitare e lanciare comandi, per eseguire attività in un ambiente desktop reale.

Gateway AI unificato che connette applicazioni a 300+ modelli LLM tramite un'unica API. Offre routing intelligente, fallback automatici, caching, ottimizzazione costi e observability.

MLOps platform per experiment tracking, model registry, data/artifact versioning, hyperparameter tuning, collaboration ML team. Integration PyTorch/TensorFlow/scikit-learn. 1M+ developer, usato da OpenAI, Toyota. Free individual, Team $50/seat/mese.