Der eigentliche Durchbruch des chinesischen Open-Source-Modells ist das Kollaborationsnetzwerk

Wenn man im Open-Source-Modell darüber spricht, „ob es versiegelt wird“, ist es am einfachsten, die Gewichtsdatei als alles zu betrachten.

Nach dem Herunterladen der Gewichte verschwindet das Modell selbst oft nicht so einfach. Was sich zunächst leichter aufbrechen lässt, ist das Netzwerk, das sich darum dreht: Spiegelseiten, Bewertungssätze, Inferenzvorlagen, Feinabstimmungsskripte, Problembehebungen, Standardbereitstellungsparameter und der Konsens in der Community, dass „diese Version ausgeführt werden kann und diese Version nicht angetastet werden sollte“.

Der Teil, der den Boden berühren kann, hat die geringste Angst vor Bruch.

Solange ein Open-Source-Modell in ein lokales Warehouse, einen Objektspeicher oder ein Intranet-Image gelangt ist, ist die Datei in der Regel immer noch dort, egal wie eng die Außenwelt ist. Offline-Kopien, interne Caches und historische Build-Produkte werden die Frage, ob es noch nutzbar ist, lange verzögern.

Dies ist auch der größte Unterschied zwischen dem Open-Source-Modell und reinen Cloud-Diensten. Sobald ein Cloud-Dienst gesperrt ist, ist der Zugang oft weg; Selbst wenn der Upstream-Dienst des Open-Source-Modells gestoppt wird, können die Gewichtungen, der Tokenizer und das Inferenzbild weiterhin ausgeführt werden. Die Frage ist nicht „Haben Sie es?“ aber „Können Sie es weiterhin auf die gleiche Weise verwenden wie andere?“

Was wirklich klar ist, ist die Synchronisationsbeziehung

Nur weil das Modell weiterlaufen kann, heißt das nicht, dass das Team damit auch weiterhin mithalten kann.

Die ersten Dinge, die es zu lockern gilt, sind in der Regel Synchronisationsbeziehungen:

• Der Upstream hat eine neue Version veröffentlicht, aber der interne Spiegel kam nicht rechtzeitig hinterher.
• Der Auswertungssatz wurde überarbeitet und die Regressionsergebnisse können nicht mehr mit den alten Datensätzen abgeglichen werden.
• Die Chat-Vorlage bzw. der Tokenizer wurde ein wenig verschoben, aber der Ausgabestil hat sich stark verändert.
• Ein bestimmter Fix wurde nur in die Community-PR aufgenommen, nicht in das Unternehmens-Intranet-Image – Die Standardquantisierungs-, Standardkontextlängen- und Standard-Sampling-Parameter werden jeweils auseinander verschoben.

Diese Dinge sehen für sich genommen nicht groß aus, aber wenn man sie zusammenstapelt, wird das „gleiche Modell“ in mehrere Teile zerfallen.

In diesem Stadium besteht der wirkliche Schaden, der durch äußere Beschränkungen verursacht wird, nicht darin, ein gewichtiges Dokument aus der Welt zu löschen, sondern darin, die Tatsache aufzulösen, dass „alle das Gleiche sehen“. Das Team spricht immer noch vom gleichen Modellnamen, aber was sie tatsächlich bekommen, ist ein Kombinationspaket mit unterschiedlichen Versionen, unterschiedlichen Vorlagen und unterschiedlichen Parametern.

Bewertungen, Korrekturen und Erfahrungen werden zusammengebrochen

Sobald ein Open-Source-Modell in den realen Arbeitsablauf eintritt, ist der tatsächliche Wert normalerweise nicht die Gewichtung selbst, sondern die um die Gewichtung herum gesammelte Beurteilung.

Welche Version stabiler ist, welcher Tokenizer lange Texte bricht, welcher Satz von Sampling-Parametern besser für Kundendienstszenarien geeignet ist, welches Feinabstimmungsskript die Illusion verstärkt, diese Erfahrungen basieren alle auf einem kontinuierlichen Austausch. Solange das Kooperationsnetzwerk bestehen bleibt, kann jeder immer noch an der gleichen Grundlinie herumbasteln; Sobald das Kooperationsnetzwerk zerbrochen ist, wird jedes Team langsam seine eigene private Version entwickeln.

Private Versionen sind keine schlechte Sache, aber der Preis steigt:

• Die Wiederverwendung einer Rückkehr zum Ausgangswert wird immer schwieriger
• Die Überprüfung von Unfällen wird immer schwieriger zu koordinieren
• Behebung eines Patches, der immer schwieriger zu synchronisieren ist
• Das gleiche Problem tritt in verschiedenen Teams wiederholt auf

Zu diesem Zeitpunkt sieht es so aus, als ob „das Modell noch da ist“, aber tatsächlich sind es „viele lokale Kopien, die kaum noch verwendbar sind“, und es gibt keinen gemeinsamen Aktualisierungspfad zwischen ihnen.

Worüber man sich wirklich Sorgen machen sollte, ist nicht das Blockieren, sondern das Forken

Es ist schwierig, das Open-Source-Modell vollständig abzudichten wie eine Online-API, da die Reproduzierbarkeit vorhanden ist. Wovor wir wirklich auf der Hut sein sollten, ist, dass das Modell beginnt, im Rhythmus verschiedener Organisationen auseinanderzudriften, nachdem externer Druck die Verteilung, Reparatur und Zusammenarbeit zerstört.

Sobald es weitere Forks gibt, stellt sich nicht mehr die Frage: „Kann es heruntergeladen werden?“ aber „wer kann garantieren, dass es sich immer noch um dasselbe handelt?“ Diese Angelegenheit wird die Zugriffskosten direkt erhöhen: Neue Überprüfungen müssen wiederholt werden, alte Fehler müssen erneut erklärt werden, Versionsunterschiede müssen neu angeordnet werden und das Team muss seine eigenen Rollback- und Einfrierstrategien für jede verzweigte Zeile entwickeln.

Die Widerstandsfähigkeit des Open-Source-Modells ist tatsächlich stärker als die von reinen Cloud-Diensten; Aber seine Verwundbarkeit ist auch sehr klar, nicht ob das Gewicht weggenommen wurde, sondern ob das Kollaborationsnetzwerk weiterhin denselben Namen und dieselbe Sache behalten kann.