La maggior parte delle aziende fatica a tenere il passo con l’AI
Una ricerca condotta da MIT Sloan Management Review e Boston Consulting Group rivela che il 53% delle aziende si affida esclusivamente a strumenti di AI di terze parti, esponendosi a rischi non controllati.
Continua a trasformarsi lo scenario in tema di intelligenza artificiale che, con l’introduzione dell’AI generativa negli ultimi anni, ha visto l’adozione di misure responsabili diventare sempre più difficile per le aziende, così come lo sviluppo di programmi di AI Responsabile (RAI) che permettano di stare al passo con i cambiamenti.
La metà dei fallimenti è legata a prodotti di terze parti
Il risultato è che più della metà delle organizzazioni si affida solo a prodotti di AI di terze parti, non avendo tecnologie proprietarie sviluppate internamente. Il 55% dei fallimenti legati all’AI è generato proprio da questi strumenti.
Questa è la fotografia scattata da MIT Sloan Management Review e Boston Consulting Group nell’ultimo report “Building Robust RAI Programs as Third-Party AI Tools Proliferate”.
«Sia da un punto di vista tecnologico che regolatorio, il panorama dell’AI è profondamente cambiato nell’arco di qualche anno – afferma Roberto Ventura, Managing Director and Partner di Boston Consulting Group – L’avvento della nuova classe di algoritmi di intelligenza artificiale generativa ha permesso l’introduzione di nuove e rivoluzionarie applicazioni in molti ambiti, ma soprattutto ha determinato la democratizzazione dell’utilizzo dell’IA, rendendo l’uso di tale tecnologia molto più semplice anche per i non addetti ai lavori. Ciò ha permesso un’improvvisa e rapida accelerazione nell’adozione dell’AI da parte sia dei singoli che di molte aziende. Tuttavia, questa tecnologia porta con sé alcune aree di attenzione, come per esempio il rischio di generare informazioni sbagliate, di “allucinazione”, come viene chiamato in gergo tecnico, oppure il rischio di divulgazione di dati sensibili nel caso di uso improprio dei tool commerciali disponibili online. È proprio per questo motivo che un approccio responsabile all’espansione dei programmi di AI sia quanto mai urgente per le aziende, per essere pronte ad affrontare i crescenti rischi legati al suo utilizzo».
Attenzione alla supervisione dell'AI
Di anno in anno gli intervistati che ricoprono ruoli di leadership nella gestione della RAI sono aumentati dal 16% al 29%. Tuttavia, il 71% delle organizzazioni non supervisiona i propri processi di implementazione e il 78% si affida a terze parti per l’uso della tecnologia esponendosi a una serie di rischi, tra cui danni alla reputazione, perdite finanziarie, perdita di fiducia dei clienti e problemi sul versante normativo.
Per mitigarli è importante utilizzare una pluralità di approcci e metodi di valutazione degli strumenti di terze parti. Le organizzazioni che riescono a impiegare almeno cinque metodi diversi di valutazione hanno più del doppio delle probabilità di individuare gli errori rispetto a quelle che ne utilizzano una quantità inferiore.
Tra gli approcci, non possono mancare dei termini contrattuali che impongano l'adesione ai principi di RAI, la pre-certificazione dei fornitori, le revisioni interne e di prodotto e il rispetto dei requisiti normativi e degli standard di settore.
Il panorama regolamentativo si sta evolvendo quasi con la stessa rapidità dell'AI, con molte nuove normative specifiche che entrano in vigore su base continuativa. Il 51% delle organizzazioni intervistate dichiara di non essere soggetta a normative specifiche in merito all'uso dell’AI, ma di applicarle comunque ai vari utilizzi. Le organizzazioni soggette a normative specifiche contano il 13% in più di figure specializzate in RAI rispetto alle organizzazioni non soggette a tali normative, oltre a rilevare meno insuccessi nell’implementazione dell’AI rispetto alle controparti.
È qui che entrano in campo gli amministratori delegati. Le organizzazioni con un CEO capace di assumere un ruolo pratico nei processi di adozione della RAI, per esempio fissando obiettivi di performance legati alla stessa e impegnandosi direttamente nello sviluppo dei prodotti, riportano il 58% in più di vantaggi aziendali rispetto alle organizzazioni con CEO meno partecipi.