IA locale o cloud: dove vanno i dati aziendali e come scegliere

Il 2 maggio 2023, Samsung Electronics ha vietato ai propri dipendenti di usare ChatGPT e gli altri assistenti di IA generativa sui computer, telefoni e tablet dell'azienda, nonché sulla sua rete interna. Qualche settimana prima, alcuni ingegneri avevano incollato in ChatGPT del codice sorgente interno. Nessuno aveva violato nulla. Il codice era finito presso un terzo attraverso il percorso previsto, quello che segue ogni richiesta inviata a un assistente online.

Il percorso di una richiesta inviata a un assistente online

Un modello linguistico è un programma addestrato su quantità molto grandi di testo, che calcola il seguito di parole più probabile a partire da ciò che gli viene sottoposto. Farlo rispondere si chiama inferenza. Richiede processori grafici, o GPU, chip progettati per concatenare miliardi di moltiplicazioni, e questi chip costano cari.

Un'azienda ha due modi di accedervi. Può noleggiare la capacità di un fornitore via Internet: è il cloud. Il testo della richiesta, gli allegati e la cronologia della conversazione lasciano allora la sua rete, vengono elaborati in un data center che appartiene al fornitore, poi la risposta ritorna. Può anche installare il modello su una macchina di sua proprietà, nei propri locali. Si parla allora di IA locale, o di installazione « on-premise ». La richiesta non esce dall'edificio.

Per la persona che digita la domanda, i due casi si assomigliano: una finestra, un testo, una risposta in pochi secondi. La differenza riguarda ciò che accade poi al testo. Nel cloud, la sua sorte dipende dalle condizioni generali del fornitore, dalla sua nazionalità, dai suoi subfornitori e dai tribunali davanti ai quali può essere convocato. In locale, dipende dalle regole che l'azienda si è data.

Cosa conservano i fornitori, e chi può reclamarlo

I fornitori conservano traccia degli scambi, almeno per un certo periodo, per rilevare abusi, fatturare o migliorare il proprio servizio. A seconda dell'offerta sottoscritta, questi scambi possono anche servire ad addestrare i modelli successivi. I contratti destinati alle aziende in genere escludono questo uso, ma la durata di conservazione e l'elenco dei subfornitori figurano negli allegati del contratto, non nella pagina iniziale.

Il processo che oppone il New York Times a OpenAI davanti al tribunale federale del distretto meridionale di New York ha mostrato fin dove può arrivare questa conservazione. All'inizio di dicembre 2025, la giudice Ona Wang ha rifiutato di tornare sulla propria decisione che obbligava OpenAI a consegnare agli editori di stampa 20 milioni di conversazioni ChatGPT depersonalizzate. Secondo il resoconto di eWeek, ha rilevato che questo campione rappresentava solo una piccola frazione delle decine di miliardi di conversazioni di privati conservate dall'azienda. I dati sono stati depersonalizzati e posti sotto un'ordinanza di protezione che ne riserva la lettura agli avvocati.

Gli utenti le cui conversazioni figurano in questo campione non erano parti del processo. I loro scambi sono diventati atti in una controversia sul diritto d'autore per una sola ragione: erano archiviati presso il fornitore. Per un'azienda, la conclusione pratica sta in una frase. Tutto ciò che un terzo conserva può un giorno essere richiesto da un giudice o da un'autorità, in una causa che non la riguarda.

Il CLOUD Act segue la nazionalità del fornitore, non l'indirizzo del server

Il CLOUD Act è una legge americana adottata nel marzo 2018. La sua disposizione più commentata, codificata alla sezione 2713 del titolo 18 del codice federale, obbliga i fornitori di servizi di comunicazione elettronica e di archiviazione remota a conservare o a comunicare i dati dei propri clienti che sono in loro possesso, sotto la loro custodia o sotto il loro controllo. Il testo precisa che questo obbligo vale sia che i dati si trovino negli Stati Uniti sia all'estero.

Un server installato a Parigi da una società soggetta al diritto americano resta quindi nel campo di applicazione della legge. Il 10 giugno 2025, davanti alla commissione d'inchiesta del Senato francese sugli appalti pubblici, il senatore Dany Wattebled ha chiesto al direttore degli affari pubblici e legali di Microsoft France, Anton Carniaux, se potesse garantire sotto giuramento che i dati di cittadini francesi affidati a Microsoft non sarebbero mai stati trasmessi su ingiunzione del governo americano senza l'accordo delle autorità francesi. Anton Carniaux ha risposto di non poterlo garantire, aggiungendo che ciò non si era mai verificato.

Il dipartimento americano della Giustizia presenta il testo come uno strumento di indagine sui reati gravi, completato da accordi bilaterali con paesi partner. Questa descrizione è esatta, e nulla indica che i dati di una PMI francese siano un bersaglio abituale. Ma l'esposizione giuridica esiste, riguarda tutti i clienti di un fornitore soggetto al diritto americano, e uno dei più grandi tra loro ha dichiarato sotto giuramento di non poterla escludere. Un fornitore che sfugge alla giurisdizione americana non è vincolato da questo obbligo. Un modello installato nei locali dell'azienda non lo è nemmeno, poiché nessun terzo detiene i dati.

I trasferimenti verso gli Stati Uniti poggiano su un accordo contestato

Il GDPR, il regolamento europeo sulla protezione dei dati personali, autorizza l'invio di questi dati fuori dall'Unione solo se il paese di destinazione offre una protezione ritenuta equivalente, o se sono predisposte garanzie contrattuali. Per gli Stati Uniti, questa equivalenza poggia dal luglio 2023 sul quadro di protezione dei dati tra l'Unione europea e gli Stati Uniti, chiamato Data Privacy Framework.

I suoi due predecessori sono stati annullati dalla Corte di giustizia dell'Unione europea, il Safe Harbor nell'ottobre 2015 e il Privacy Shield nel luglio 2020, ogni volta a seguito di un procedimento avviato dall'attivista austriaco Maximilian Schrems. Il terzo regge per il momento. Il 3 settembre 2025, il Tribunale dell'Unione europea ha respinto il ricorso del deputato francese Philippe Latombe e confermato la validità del quadro. Il 31 ottobre 2025, Philippe Latombe ha proposto impugnazione davanti alla Corte di giustizia. A nostra conoscenza, alla data di pubblicazione di questo articolo, la Corte non si è ancora pronunciata.

Un'azienda che affida dati personali a un assistente ospitato da un fornitore americano si appoggia quindi su un meccanismo di cui le due versioni precedenti sono state invalidate. Se cade il terzo, bisognerà rivedere i contratti, rivalutare i trasferimenti e talvolta sospendere degli usi con urgenza. Un trattamento effettuato su una macchina installata in azienda non implica alcun trasferimento e non è interessato.

Cosa raccomanda la CNIL per l'IA generativa

La CNIL ha pubblicato il 18 luglio 2024 una serie di domande e risposte sull'uso dei sistemi di IA generativa. Il documento non prescrive alcuna tecnologia, ma è chiaro su un punto. Quando un'organizzazione intende fornire al sistema dati personali di clienti o dipendenti, o documentazione sensibile o strategica, le sembra « generalmente più opportuno e più sicuro » privilegiare un'installazione in sede, che limita i rischi di estrazione di dati da parte di terzi.

La CNIL riconosce anche il costo di questa opzione. Installare e far funzionare un sistema in sede rappresenta una spesa importante, e il ricorso a un'infrastruttura remota sarà spesso più semplice. Aggiunge che nulla vieta alle piccole imprese o agli enti locali di condividere un'infrastruttura mutualizzata, a condizione di inquadrare i trasferimenti di dati e di garantirne la sicurezza.

Per un servizio online, chiede di verificare se le condizioni generali del fornitore lo autorizzano a riutilizzare i dati inseriti. In tal caso, l'organizzazione deve decidere caso per caso se occorra vietare talune categorie di informazioni, per esempio quelle coperte dal segreto commerciale. Il fornitore deve essere inquadrato da un contratto di subfornitura che fissi le sue responsabilità e gli accessi autorizzati. Ai sensi del GDPR, un responsabile del trattamento è l'impresa che tratta dati personali per conto di un'altra.

Ospitare il modello in sede non dispensa da alcun obbligo del GDPR. Occorre sempre definire una finalità, limitare i dati a quanto necessario, fissare una durata di conservazione e mettere in sicurezza la macchina. Il locale riduce invece il numero di contratti da gestire e di soggetti da verificare.

Il calendario dell'AI Act dopo l'omnibus di luglio 2026

Il regolamento europeo sull'intelligenza artificiale, detto AI Act, è entrato in vigore il 1° agosto 2024. Classifica i sistemi in base al rischio che presentano e impone obblighi a due categorie di soggetti: i fornitori, che progettano i sistemi, e i deployer, che li utilizzano nella propria attività. Una PMI che mette un assistente a disposizione dei propri team è un deployer.

Le pratiche vietate, come il punteggio sociale delle persone, lo sono dal 2 febbraio 2025. Gli obblighi propri dei modelli di IA per finalità generali, di cui fanno parte i grandi modelli linguistici, si applicano dal 2 agosto 2025, e la Commissione europea dispone dei suoi poteri di controllo su questi modelli dal 2 agosto 2026. Le norme di trasparenza, che impongono per esempio di informare una persona che sta interagendo con una IA, si applicano dalla stessa data.

Il regolamento (UE) 2026/1744, detto omnibus digitale sull'IA, pubblicato nella Gazzetta ufficiale nel luglio 2026, ha rinviato due scadenze. I sistemi ad alto rischio dell'allegato III, che copre in particolare selezione del personale, valutazione del credito e istruzione, dovranno essere conformi entro il 2 dicembre 2027. Quelli dell'allegato I, integrati in prodotti già regolamentati come macchine o dispositivi medici, entro il 2 agosto 2028.

Il testo non distingue il cloud dal locale. Chiede invece all'azienda di sapere quale sistema utilizza, per quale uso e con quali dati, e di poterlo documentare. Questa documentazione è più facile da mantenere quando la versione del modello non cambia all'insaputa di chi lo utilizza, un punto su cui le due opzioni differiscono nettamente.

Il costo: pagare a richiesta o acquistare una capacità

I servizi online fatturano a consumo, in genere in base al numero di token elaborati. Un token è un frammento di parola, l'unità che il modello legge e produce. Finché pochi dipendenti fanno delle prove, la fattura resta modesta. Quando lo strumento legge ogni giorno centinaia di documenti o risponde a ogni richiesta dei clienti, segue il volume, a una tariffa fissata dal fornitore e che può rivedere.

Una macchina installata in sede inverte il calcolo. La maggior parte della spesa è impegnata all'acquisto, poi ogni richiesta aggiuntiva costa soltanto l'elettricità e l'usura dell'hardware. Per un uso occasionale, il noleggio resta più economico. Per un uso quotidiano e sostenuto, l'acquisto finisce per prevalere. Il punto di svolta dipende dai volumi di ciascuna azienda e si calcola sulle sue cifre.

Due misure pubblicate dall'AI Index dell'Università di Stanford pesano su questo calcolo. Secondo l'edizione 2025, il costo di inferenza di un sistema del livello di GPT-3.5 è stato ridotto di oltre 280 volte tra novembre 2022 e ottobre 2024. La stessa edizione indicava che i modelli a pesi aperti, che si possono scaricare e far girare sulla propria macchina, avevano ridotto il proprio ritardo sui modelli chiusi dall'8% all'1,7% su alcuni test, in un anno.

L'edizione 2026 sfuma questa seconda cifra. A marzo 2026, nella classifica Arena, stabilita a partire dai voti di utenti che confrontano risposte alla cieca, il miglior modello chiuso precedeva il miglior modello aperto del 3,4%, contro lo 0,5% di agosto 2024. Il ritardo resta ridotto, ma non si riduce in linea retta: si amplia a ogni uscita di un nuovo modello chiuso, poi si restringe.

Guasti e latenza: il prezzo della distanza

Nella notte tra il 19 e il 20 ottobre 2025, la regione della Virginia settentrionale di Amazon Web Services ha subito un guasto a catena. Secondo il resoconto pubblicato da AWS, un difetto di sincronizzazione tra due processi automatici del sistema che gestisce gli indirizzi del suo database DynamoDB ha prodotto un record DNS vuoto. Il DNS è l'elenco che traduce il nome di un servizio in un indirizzo di rete. Senza questa voce, le applicazioni non trovavano più DynamoDB. Questa prima fase è durata dalle 23:48 alle 2:40, ora del Pacifico, cioè 2 ore e 52 minuti.

Il seguito è durato molto più a lungo. Diversi servizi interni di AWS che si appoggiano a DynamoDB sono stati colpiti a cascata, e i clienti del servizio di calcolo EC2 hanno subito errori, rallentamenti e mancati avvii di macchine fino alle 13:50 del 20 ottobre, circa quattordici ore dopo l'inizio dell'incidente. Le applicazioni costruite sopra questi servizi sono state a loro volta interrotte.

Anche un'infrastruttura installata in azienda si guasta. Un disco cede, un alimentatore brucia, un aggiornamento va male. La differenza sta in chi diagnostica e in chi decide l'ordine di ripristino. Sta anche nella connessione a Internet, che diventa un ulteriore punto di guasto non appena lo strumento quotidiano dei team si trova presso un terzo.

La latenza, cioè il ritardo tra l'invio di una richiesta e l'inizio della risposta, segue la stessa logica. In una conversazione, un secondo in più passa inosservato. Per un software gestionale che interroga il modello centinaia di volte all'ora, le andate e ritorni si sommano, e la loro durata varia con il carico del fornitore. Sulla rete interna, il ritardo è più stabile, a condizione che la macchina sia dimensionata per il numero di utenti.

Quando il fornitore cambia modello

Il 7 agosto 2025, OpenAI ha lanciato GPT-5 e ne ha fatto il modello predefinito di ChatGPT, ritirando dall'interfaccia i modelli precedenti, tra cui GPT-4o. Le proteste sono state immediate, e nei giorni successivi Sam Altman ha annunciato che gli abbonati Plus avrebbero potuto di nuovo scegliere GPT-4o. L'episodio riguardava soprattutto dei privati affezionati al tono del vecchio modello. In un'azienda, lo stesso meccanismo ha conseguenze più concrete.

Un processo messo a punto con una versione precisa di un modello, per esempio l'estrazione automatica di importi e date dalle fatture, può comportarsi diversamente con la versione successiva. Occorre allora rifare i test, riscrivere le istruzioni date al modello, talvolta rivedere la documentazione fornita a un cliente o a un revisore. Le tariffe e le condizioni d'uso evolvono allo stesso modo, per iniziativa del fornitore. Più lo strumento è integrato, più costa lasciarlo. Gli economisti lo chiamano costo di uscita, e gli informatici parlano di vendor lock-in.

Un modello aperto installato in sede non cambia finché l'azienda non lo sostituisce. Le stesse istruzioni, applicate allo stesso modello con le stesse impostazioni, danno risultati comparabili da un mese all'altro, il che permette di documentare un uso e di difenderlo. La sostituzione resta possibile quando esce un modello migliore, nel momento scelto e dopo test sui documenti dell'azienda.

I casi in cui il cloud resta preferibile

I modelli più potenti sono accessibili solo tramite API, cioè tramite un'interfaccia che permette a un software di interrogare il servizio a distanza, e alcuni non starebbero comunque su una macchina da ufficio. Per ragionamenti molto lunghi, programmazione su grandi progetti o compiti che concatenano decine di passaggi senza supervisione, mantengono un vantaggio misurabile. Se l'esigenza richiede esattamente questo livello, il cloud è spesso l'unica opzione ragionevole.

Il cloud si addice anche ai progetti brevi, come una dimostrazione o un pilota di qualche settimana prima di investire. Si addice ai carichi molto irregolari, quando una macchina dimensionata per il picco resterebbe inattiva per il resto del mese. E si addice ai testi privi di sensibilità: riformulare un annuncio già pubblico o cercare un titolo per un articolo non espone nulla.

La scelta si fa quindi dopo una selezione dei dati. Un'informazione pubblica può andare presso un fornitore. I dati personali, i contratti, le cifre non pubblicate e il know-how tecnico giustificano o un trattamento in sede, o un fornitore di cui si sia letto il contratto, verificata la giurisdizione e controllata la sicurezza.

Elaborare in sede per impostazione predefinita, uscire su decisione

Una regola semplice permette di combinare i due approcci. Le richieste sono elaborate per impostazione predefinita su una macchina dell'azienda. L'invio verso un servizio esterno diventa una decisione esplicita, presa per un compito preciso, registrata, e che un responsabile può rifiutare. La maggior parte delle richieste correnti, come riassumere una pratica, redigere una risposta o ritrovare una clausola in un lotto di contratti, è alla portata di modelli di taglia media che girano su hardware da ufficio. Le altre partono verso l'esterno, con cognizione di causa.

Per ciascuno strumento di IA già in uso, tre verifiche danno un'immagine abbastanza netta della situazione: dove il testo viene elaborato, chi lo conserva e per quanto tempo, e cosa succede se il servizio si interrompe per un giorno. Le risposte figurano nei contratti, negli allegati di subfornitura e nelle pagine di stato dei fornitori.

È su questo principio che HOMN progetta i propri apparati: un modello installato nei locali, che lavora sui documenti dell'azienda senza trasmetterli, e che si collega a un servizio esterno solo quando il suo proprietario lo ha deciso.

Qual è la differenza tra un'IA locale e un'IA nel cloud?

Un'IA nel cloud funziona sui server di un fornitore: ogni richiesta lascia l'azienda, viene elaborata in un data center esterno, poi la risposta ritorna. Un'IA locale funziona su una macchina installata nei locali dell'azienda, e le richieste non escono dalla sua rete.

Il CLOUD Act si applica ai dati archiviati in Francia?

Sì, quando il fornitore è soggetto al diritto americano. La legge riguarda i dati in suo possesso, sotto la sua custodia o sotto il suo controllo, ovunque siano archiviati. Il 10 giugno 2025, il direttore degli affari pubblici e legali di Microsoft France ha dichiarato sotto giuramento davanti al Senato di non poter garantire che tali dati non sarebbero mai stati trasmessi alle autorità americane.

Si può usare ChatGPT in azienda nel rispetto del GDPR?

È possibile con un contratto di subfornitura, garanzie per i trasferimenti fuori dall'Unione e una regola interna sui dati autorizzati. La CNIL chiede di verificare se il fornitore può riutilizzare i dati inseriti, e ritiene generalmente preferibile un'installazione in sede per i dati personali o sensibili.

Quando un'IA locale è più conveniente del cloud?

Quando l'uso è quotidiano e sostenuto. Il cloud è fatturato in base al volume di testo elaborato, mentre una macchina locale si paga all'acquisto e poi costa solo elettricità e manutenzione. Per un uso occasionale o molto irregolare, il noleggio resta in genere più economico.