Costi dell’Intelligenza Artificiale: Un Report Svela l’Imprevedibilità e la Collaborazione Necessaria

Un recente report di Splunk ha rivelato che la transizione dei fornitori verso modelli di prezzo a consumo, insieme all’adozione crescente di agenti AI, sta rendendo i costi dell’intelligenza artificiale sempre più difficili da prevedere per le aziende. Ben il 60% delle organizzazioni intervistate ha dichiarato che i picchi nelle fatture legate all’AI generano un maggiore stress finanziario rispetto a un costo di base più elevato ma stabile.

Inoltre, più della metà delle aziende (circa 55%) ha affermato di non riuscire a controllare efficacemente i costi associati all’AI, e il 57%% si è mostrato preoccupato che i costi di telemetria possano superare quelli dell’infrastruttura monitorata. Questo problema è accentuato dalla variabilità dei consumi degli agenti AI, che possono utilizzare quantità di token molto diverse in base al compito, alla complessità e alla scelta del modello, contribuendo così all’imprevedibilità delle spese.

Sul fronte operativo, il monitoraggio dei carichi di lavoro AI ha portato a un aumento della cooperazione tra i team di osservabilità e di sicurezza. Il 81% delle aziende ha riferito un incremento della collaborazione, mentre il 73%% ha dichiarato di poter tracciare con precisione i problemi fino alle loro cause di sicurezza, un miglioramento rispetto al 65%% dell’anno precedente.

I leader nel campo dell’osservabilità si sono dimostrati particolarmente abili nell’analisi dei costi: il 91%% ha affermato di poter attribuire con precisione i costi a singoli agenti, modelli e carichi di lavoro, rispetto al 69%% dei non leader. Questo rende i team di osservabilità centrali nelle valutazioni del ritorno sugli investimenti (ROI) legati all’AI.

Jeetu Patel, Chief Product Officer di Cisco, ha sottolineato come i dati di osservabilità e sicurezza stiano convergendo, suggerendo che i team debbano collaborare più che mai. Per quanto riguarda il reparto finanziario, la preferenza sembra orientarsi verso modelli di pricing più prevedibili e lineari, come quelli basati su postazioni, piuttosto che su modelli a consumo che possono generare picchi imprevisti.

In conclusione, il report di Splunk evidenzia non solo le sfide legate all’imprevedibilità dei costi dell’AI, ma anche l’importanza cruciale della collaborazione tra i vari team all’interno delle organizzazioni per affrontare queste problematiche in modo efficace.