NordLayer lancia AI Scout: un nuovo strumento per monitorare l’uso di intelligenza artificiale in azienda

NordLayer ha recentemente presentato AI Scout, un innovativo strumento progettato per fornire alle aziende una visibilità completa sull’uso dei servizi di intelligenza artificiale (AI) da parte dei dipendenti. Questo strumento si propone di affrontare i rischi associati all’uso di strumenti non autorizzati, contribuendo a garantire la sicurezza dei dati aziendali.

AI Scout monitora le interazioni degli utenti su browser e desktop, identificando i servizi AI autorizzati e non autorizzati. Inoltre, misura l’utilizzo reale rispetto alle sottoscrizioni acquistate e stima il consumo di token tra i modelli linguistici utilizzati. Questa funzionalità è particolarmente utile in un contesto in cui l’adozione di tecnologie AI è in rapida crescita.

Tra le caratteristiche principali di AI Scout vi sono controlli progettati per ispezionare i prompt e bloccare o redigere contenuti sensibili prima della loro trasmissione a servizi esterni. I controlli basati sul browser possono intervenire anche quando un dipendente inserisce informazioni che necessitano di ulteriori revisioni, garantendo così una protezione proattiva dei dati.

Il monitoraggio si estende oltre i tradizionali chatbot, includendo anche agenti AI e le loro connessioni tecniche con i servizi aziendali. Gli amministratori possono ispezionare l’infrastruttura MCP collegata a questi agenti e valutare le capacità operative dei sistemi AI utilizzati.

Questa iniziativa di NordLayer risponde a un fenomeno crescente noto come shadow AI, in cui i dipendenti utilizzano servizi gratuiti o non approvati, aumentando il rischio di violazioni dei dati. Secondo indagini recenti, il 59% delle aziende spende oltre 1 milione di dollari all’anno in tecnologie AI, mentre il 42% dei dipendenti utilizza sistemi AI approvati, ma sorprendentemente il 70% ricorre a modelli gratuiti sul posto di lavoro.

Le violazioni legate allo shadow AI possono incrementare il costo medio globale di una breach di circa 400.000 dollari, su un valore medio di 4,99 milioni. In questo contesto, l’AI DLP di AI Scout è progettata per ispezionare i prompt e controllarli prima dell’invio, evitando così l’immissione di dati sensibili.

La rapida crescita di nuovi modelli linguistici richiede strumenti di telemetria avanzati in grado di raccogliere in un’unica piattaforma l’utilizzo dell’AI, sia autorizzato che non. AI Scout si propone di essere una soluzione efficace per le aziende che desiderano gestire in modo sicuro l’implementazione dell’intelligenza artificiale nei loro processi lavorativi.