Het is waarschijnlijker dat het Chinese open source-model wordt afgeremd dan geblokkeerd.

Wanneer dit soort discussie in het project terechtkomt, zal het uiteindelijk samenkomen in een koudere zin: het is moeilijk om het open source-model volledig uit te wissen. Wat pas echt broos wordt, is de lopende band die om het model draait. Zolang een van de modelbestanden, afbeeldingen, controlewaarden, gevolgtrekkingsomgeving en evaluatiescripts kapot is, zal het team niet denken ‘of dit model nog steeds bestaat in de wereld’, maar ‘of deze upgrade kan worden gereproduceerd’.

Wat echt vastloopt zijn meestal ingangen en updates.

Het is het gemakkelijkst om de officiële hechtenis eerst te beëindigen. Webpagina’s, API’s, downloadpagina’s, mirrorsites, zolang de toegang gecentraliseerd is, kunnen betalingen, juridische zaken, CDN, regionale beperkingen en accountbeleid het allemaal beperken. Hetzelfde geldt voor cloud-inferentie. Zodra het bedrijf modelmogelijkheden uitbesteedt aan een bepaald hostingpunt, hoeft de blokkade het model niet van de wereld te verwijderen. Zolang de toegankelijkheid, quota, betalings- en regionale beperkingen worden aangescherpt, zal het systeem gaan schudden.

Maar zodra het gewicht zich heeft verspreid, verandert de situatie. Het open source-model leeft niet alleen op een bepaalde startpagina, het leeft ook op lokale schijven, bouwcaches, beeldmagazijnen en artefactopslag gebouwd door het team. Wat je wel kunt controleren is meer de snelheid waarmee de distributie doorgaat dan de kopieën die al bestaan. Om de situatie duidelijk te maken: de grootste impact is vaak niet “of je een bepaalde versie nog kunt downloaden”, maar “of je in de toekomst stabiel dezelfde set tokenizers, chatsjablonen, kwantiseringspakketten en afhankelijkheidsinstructies kunt krijgen.”

Het wordt hier ook het meest onderschat. De eerste keer dat u het model gebruikt, lijkt het risico voorbij; het echte probleem is vaak de tweede keer. De tweede keer dat ik terug wilde draaien, was het beeld er niet meer; de tweede keer dat ik wilde reproduceren, was het kwantificeringsformaat veranderd; de tweede keer dat ik wilde upgraden, kwamen de gevolgtrekkingscode en de gewichtsversie niet overeen; de tweede keer dat ik wilde verifiëren, waren de evaluatieset en het voorverwerkingsscript gewijzigd. Oppervlakkig gezien ontbreekt er slechts één downloadlink, maar wat in feite ontbreekt is een complete set herhaalbare toeleveringsketens.

Dit type “zegel” lijkt dus meer op een vertraging dan op een verwijdering. Wat aanzienlijk kan worden verzwakt, is de snelheid van communicatie, toegang tot de cloud, versiesynchronisatie en ecologisch vertrouwen; Wat moeilijk volledig uit te wissen is, zijn de gewogen kopieën, lokale implementatiemogelijkheden en secundaire distributiemogelijkheden die zich hebben verspreid. Zodra het open source-model voldoende machines betreedt, verandert het risico van ‘kan het bestaan’ naar ‘kan het stabiel evolueren’.

Dit is ook waar binnenlandse teams het meest waarschijnlijk de plank misslaan. Nadat het model in het product is geïntegreerd, is het gemakkelijk om je alleen op de eerste ronde van effecten te concentreren en te vergeten dat het model eigenlijk een afhankelijkheid is. Zodra een afhankelijkheid slechts één enkel ingangspunt heeft, wordt dat ene punt een controlepunt; zodra een afhankelijkheid geen versievergrendeling heeft, worden upgrades een willekeurige gebeurtenis; zodra een afhankelijkheid geen offline kopie heeft, zal het zogenaamde “eigen vermogen” onthuld worden nadat een bepaalde spiegel mislukt.

De stabielere aanpak is niet om je voor te stellen dat er geen blokkade zal zijn, maar om de blokkade vooraf op te splitsen in een aantal betaalbare kleine problemen: het gewicht en de looptijd worden afzonderlijk opgeslagen, het downloadadres en de verificatiewaarde worden samen opgeslagen, de inferentieomgeving wordt gemaakt om offline opnieuw te worden opgebouwd, de evaluatieresultaten worden per versie gearchiveerd en het rollback-pad is even duidelijk als het release-pad. Op deze manier zal het product, zelfs als de upstream plotseling wordt uitgeschakeld, slechts één ingang verliezen en zal niet de volledige mogelijkheid tegelijkertijd offline zijn.

De echte slotsom van het open source-model is nooit geweest: ‘niemand durft het te beheren’, maar ‘als het wel wordt beheerd, is het al moeilijk om het tot op zekere hoogte te beheren’. Er zijn veel ingangen die kunnen worden verscherpt, en het is moeilijk om de verspreide kopieën terug te halen.