Garantire la sicurezza dell’Intelligenza artificiale all’interno di un’azienda rappresenta una sfida complessa e relativamente nuova. Ciò dipende dal fatto che le applicazioni di AI vengono sviluppate in modo diverso rispetto a quelle tradizionali, introducendo un nuovo elemento nel panorama tecnologico: i modelli.
“A differenza delle applicazioni classiche, i modelli di AI possono presentare comportamenti imprevedibili – spiega Jeetu Patel, Executive Vice President & Chief Product Officer di Cisco -. Inoltre, la maggior parte delle aziende farà uso di numerosi modelli distribuiti tra cloud pubblici e privati. Questo panorama, caratterizzato da un approccio multi-modello, multi-cloud e multi-agente, richiede una strategia di sicurezza completamente nuova”.
Il fallimento dei modelli può avere conseguenze disastrose
“Problemi di sicurezza come distorsioni, contenuti contaminati o output inappropriati richiedono una gestione attenta, oltre alla necessità di fronteggiare minacce esterne, come attacchi mirati al furto di dati sensibili o alla compromissione della sicurezza – prosegue Jeetu Patel -. Sebbene i fornitori di modelli e gli sviluppatori di applicazioni adotteranno misure di sicurezza proprie, queste iniziative, per quanto fondamentali, risulteranno inevitabilmente frammentarie e insufficienti. I team di sicurezza dovranno disporre di un livello comune di visibilità e controllo. Sarà essenziale non solo monitorare e comprendere come e dove l’AI verrà impiegata all’interno dell’organizzazione, ma anche convalidare e applicare costantemente le politiche di protezione per il comportamento di modelli, applicazioni e agenti di AI”.
Come “difendersi” dall’AI?
Sebbene sia fondamentale muoversi rapidamente nel campo dell’Intelligenza artificiale, non bisogna mai compromettere fattori quali la sicurezza e la protezione. “Proprio per questo motivo abbiamo recentemente presentato Cisco AI Defense – aggiunge Patel -, una soluzione pensata per superare questo compromesso, offrendo la possibilità di innovare senza timori”.
Cisco AI Defense fornisce infatti una solida protezione in due aree cruciali, accesso alle applicazioni di AI e creazione ed esecuzione di un’applicazione AI.
Le applicazioni di AI di terze parti possono migliorare significativamente la produttività, ma comportano anche rischi come la perdita di dati o il download di contenuti dannosi.Ecco perchè è fondamentale affidarsi a sistemi che applicano policy che assicurano un accesso sicuro e protetto.
Convalida continua e protezione su larga scala
Ad esempio Cisco Secure Access è arricchito da protezioni avanzate specifiche per l’AI.
Nella creazione ed esecuzione di un’applicazione di AI gli sviluppatori devono avere la libertà di innovare senza dover temere vulnerabilità o problemi di sicurezza nei loro modelli. Cisco AI Defense consente di rilevare l’impronta dell’AI, convalidare i modelli per individuare eventuali vulnerabilità, applicare protezioni e farle rispettare in tempo reale su cloud pubblici e privati.