Nutanix, som utvecklar mjukvara för hantering av hybrid cloud, släpper nu Nutanix Enterprise AI (NAI) 2.8.
Den nya versionen ger företag bättre kostnadsstyrning när de använder AI-agenter och stora språkmodeller (LLM) samtidigt som bolagen får kontroll över dataflödet mellan företagens egna och externa system.
Många företag står inför en utmaning när de börjar använda AI-agenter i sitt dagliga arbete: hur ska man hantera kostnaderna och säkerställa att företagets data används på rätt sätt? AI-agenter behöver komma åt information från olika system men det saknas ofta överblick över hur data flödar mellan agenter och modeller och vad det hela kostar.
Styr AI-system från ett ställe
Nutanix uppdaterade AI-plattform hanterar dessa utmaningar genom att ge företag möjlighet att styra sina AI-system från ett enda ställe. Lösningen övervakar hur data rör sig mellan agenter och modeller och låter företag sätta upp regler för vilka dataflöden som är tillåtna. Systemet optimerar automatiskt mot billigare interna språkmodeller för enklare uppgifter, medan mer komplexa förfrågningar dirigeras till mer avancerade modeller. Det är också möjligt att ställa in gränser för hur många tokens som kan användas samt styra hur stor del av den totala tokenbudgeten som får konsumeras av olika LLM:er.
Mats Ericson, chef på Nutanix i Norden
– Tokenomics, kontroll över användandet av AI, är på väg att bli oerhört viktigt men företag behöver inte bygga om hela sin IT-miljö för att göra det. Med vår uppdaterade plattform kan de använda AI tillsammans med sina befintliga system och data. Det handlar inte bara om att kontrollera sina kostnader, utan lika mycket om att styra hur data får flöda ut från företaget, säger Mats Ericson, chef på Nutanix i Norden.
Bättre kontroll över AI-agenter
En central funktion i NAI 2.8 är funktionen Agent Gateway. Den fungerar som en säker ingång för AI-agenter som behöver komma åt verktyg och data i företaget. Säkerheten har också förstärkts med detaljerad hantering av användarrättigheter och anpassade roller vilket gör att agenter endast har tillgång till data de faktiskt behöver.
Kontroll över AI i egna datahallar
NAI 2.8 innehåller också förbättrade funktioner för så kallad privat inferens, vilket gör det möjligt för företag att köra språkmodeller på egen IT-infrastruktur. Detta inkluderar:
– Finjustering av mindre modeller, vilket gör det möjligt att anpassa dem till företagets specifika data på ett kostnadseffektivt sätt.
– Stöd för flera GPU:er samtidigt, vilket ger snabbare svar från språkmodellerna.
– Teknik som minskar svarstiden med upp till 2,5 gånger, utan att försämra kvaliteten.
About Nutanix
Nutanix is a hybrid cloud leader and AI innovator, offering organizations a unified infrastructure software platform to safely run applications, data, and AI anywhere.
Trusted by customers worldwide, Nutanix empowers more than 50% of the Global 2000 to innovate faster with AI, while modernizing infrastructure, simplifying operations, and controlling costs. Learn more at www.nutanix.com or follow us on social media.
