Le grandi sfide da affrontare per sfruttare davvero l’intelligenza artificiale

In un recente articolo Kaladhar Voruganti, Senior Business Technologist di Equinix, si è interrogato sul boom di iniziative che le aziende stanno conducendo nell’ambito dell’Intelligenza Artificiale generativa, sulla spinta del successo di ChatGPT.

Nonostante l’AI sia ormai diventata un tema mainstream, Voruganti ci riporta a un tema fondamentale, chiedendosi:

queste organizzazioni disporranno delle competenze, dei sistemi e delle infrastrutture necessarie per gestire l'enorme impatto che l'IA avrà sui loro modelli operativi?

Una risposta potrebbe venire dai dati dell’edizione 2023 della Global Tech Trends Survey (GTTS): il 42% dei responsabili IT aziendali ritiene che la propria infrastruttura informatica non sia del tutto preparata ad accogliere la crescente adozione dell'IA.

Inoltre, il 41% dubita della capacità del proprio team di implementare la tecnologia.

Le nuove sfide dell’intelligenza artificiale

Voruganti prosegue elencando le sfide che stanno affrontando i team IT:

I costi dell’AI

Entro la metà degli anni 2020, la maggior parte dei dati sarà generata fuori dai data center. I dati generati nel cloud possono essere elaborati nel cloud, ma quali generati in edge devono essere archiviati ed elaborati nell’edge.

Le architetture di AI centralizzate non sono quindi scalabili in termini in termini di costi e prestazioni: il costo del backhaul dei dati generati nell'edge e inviati al core può essere proibitivo.

Limiti tecnici

Altri ostacoli al raggiungimento di prestazioni ottimali vengono da:

• difficoltà di accesso alla tecnologia GPU più recente nel cloud
• latenza/throughput dell'inferenza dell’edge
• differenze tra l’architettura del sistema e dell'implementazione: i fornitori di GPU, gli OEM e i cloud possono utilizzare tutti lo stesso tipo di GPU, ma ci sarà una differenza nelle prestazioni complessive di queste implementazioni a causa dell'architettura di interconnessione delle GPU con le reti, lo storage e le altre GPU nel cluster.

Condivisione dei dati

Ci sono poi sfide legate alla condivisione dei dati: in molti casi, le organizzazioni hanno bisogno di sfruttare dati esterni (dati meteo, dati sul traffico, ecc.) per migliorare l'accuratezza dei loro modelli di IA, obbligandosi quindi a conoscere il percorso dei dati e dei modelli esterni che stanno utilizzando per assicurarsi di non violare le norme di conformità e per proteggersi da dati corrotti manipolati da agenti malintenzionati.

La mancanza di risorse qualificate

Infine, una delle maggiori barriere è la difficoltà ad assumere lavoratori qualificati nel campo dell'IA: nella GTTS, il 45% dei leader IT ha dichiarato che la sfida più grande per le competenze è la velocità di trasformazione del settore tecnologico.

Il consumo energetico

Ci sono poi aspetti legati alla sostenibilità. I rack di formazione per l'intelligenza artificiale consumano più di 30 kVA per rack e il raffreddamento ad aria diventa inefficiente; kVA più elevati per rack richiedono un raffreddamento a liquido; e la maggior parte dei data center privati (in-house) non sono attrezzati per gestire questi rack per l'IA ad alto consumo energetico.