È più probabile che il modello open source della Cina venga rallentato piuttosto che bloccato.

Quando questo tipo di discussione rientra nel progetto, alla fine converge in una frase più fredda: è difficile cancellare completamente il modello open source. Ciò che diventa davvero fragile per prima è la catena di montaggio che ruota attorno al modello. Finché uno dei file del modello, delle immagini, dei valori di controllo, dell’ambiente di inferenza e degli script di valutazione non funziona, ciò che il team sentirà non è “se questo modello esiste ancora nel mondo”, ma “se questo aggiornamento può essere riprodotto”.

Ciò che realmente si blocca sono solitamente gli ingressi e gli aggiornamenti.

La custodia ufficiale è la più semplice da chiudere per prima. Pagine Web, API, pagine di download, siti mirror, purché l’ingresso sia centralizzato, pagamenti, affari legali, CDN, restrizioni regionali e politiche dell’account possono restringere il campo. Lo stesso vale per l’inferenza del cloud. Una volta che l’azienda esternalizza le funzionalità del modello a un determinato punto di hosting, non è necessario che il blocco elimini il modello dal mondo. Finché l’accessibilità, le quote, i pagamenti e le restrizioni regionali rimarranno inaspriti, il sistema inizierà a vacillare.

Ma una volta disperso il peso, la situazione cambia. Il modello open source non risiede solo su una determinata home page, ma risiede anche su dischi locali, build cache, archivi di immagini e archiviazione di artefatti creati dal team. Ciò che puoi controllare è più la velocità con cui la distribuzione continua che le copie già esistenti. Per chiarire la situazione, l’impatto maggiore spesso non è “se è ancora possibile scaricare una determinata versione”, ma “se è possibile ottenere stabilmente lo stesso set di tokenizzatori, modelli di chat, pacchetti di quantizzazione e istruzioni per le dipendenze in futuro”.

Anche qui è quello più sottovalutato. La prima volta che si esegue il modello, il rischio sembra essere superato; il vero problema è spesso la seconda volta. La seconda volta che ho voluto tornare indietro, l’immagine non c’era più; la seconda volta che ho voluto riprodurre, il formato di quantificazione era cambiato; la seconda volta che ho voluto eseguire l’aggiornamento, il codice di inferenza e la versione del peso non corrispondevano; la seconda volta che ho voluto verificare, il set di valutazione e lo script di preelaborazione erano stati modificati. In apparenza manca un solo collegamento per il download, ma in realtà ciò che manca è un insieme completo di catene di approvvigionamento ripetibili.

Quindi questo tipo di “sigillo” assomiglia più a una decelerazione che a una cancellazione. Ciò che può essere notevolmente indebolito è la velocità della comunicazione, dell’accesso al cloud, della sincronizzazione delle versioni e della fiducia ecologica; ciò che è difficile da cancellare completamente sono le copie ponderate, le capacità di distribuzione locale e le capacità di distribuzione secondaria che si sono diffuse. Una volta che il modello open source entra in un numero sufficiente di macchine, il rischio cambia da “può esistere” a “può evolversi stabilmente”.

Questo è anche il luogo in cui è più probabile che le squadre nazionali manchino l’obiettivo. Dopo aver integrato il modello nel prodotto, è facile concentrarsi solo sul primo ciclo di effetti e dimenticare che il modello è in realtà una dipendenza. Una volta che una dipendenza ha un solo punto di ingresso, il singolo punto diventerà un punto di controllo; una volta che una dipendenza non ha il blocco della versione, gli aggiornamenti diventeranno un evento casuale; una volta che una dipendenza non ha una copia offline, la cosiddetta “abilità propria” verrà rivelata dopo che un certo mirror fallisce.

L’approccio più stabile non è immaginare che non ci sarà alcun blocco, ma spezzare in anticipo il blocco in diversi piccoli problemi accessibili: il peso e il tempo di esecuzione vengono archiviati separatamente, l’indirizzo di download e il valore di verifica vengono salvati insieme, l’ambiente di inferenza viene ricostruito offline, i risultati della valutazione vengono archiviati per versione e il percorso di rollback è altrettanto chiaro quanto il percorso di rilascio. In questo modo, anche se l’upstream si spegne improvvisamente, il prodotto perderà solo un ingresso e l’intera funzionalità non sarà offline contemporaneamente.

Il vero fossato del modello open source non è mai stato “nessuno osa gestirlo”, ma “quando è gestito, è già difficile gestirlo fino a un certo punto”. Sono tante le entrate che si possono serrare, ed è difficile recuperare le copie che si sono sparse.