中国のオープンソースモデルは阻止されるよりも減速する可能性が高い。

この種の議論がプロジェクトに及ぶと、最終的には「オープンソース モデルを完全に消去するのは難しい」という冷たい文章に収束します。 What really becomes brittle first is the assembly line that revolves around the model.モデルファイル、画像、チェック値、推論環境、評価スクリプトのどれかが壊れている限り、チームが感じるのは「このモデルがまだ世の中に存在するかどうか」ではなく、「このアップグレードを再現できるかどうか」です。

What really gets stuck is usually entrances and updates.

公的監護施設は最初に閉鎖するのが最も簡単です。 Webページ、API、ダウンロードページ、ミラーサイトなど、入り口が一元化されていれば、決済、法務、CDN、地域制限、アカウントポリシーなどで絞り込むことができます。 The same is true for cloud inference. Once the business outsources model capabilities to a certain hosting point, the blockade does not need to delete the model from the world. As long as the accessibility, quota, payment and regional restrictions are tightened, the system will start to shake.

But once the weight has dispersed, the situation changes.オープンソース モデルは、特定のホームページ上に存在するだけでなく、チームによって構築されたローカル ディスク、ビルド キャッシュ、イメージ ウェアハウス、アーティファクト ストレージにも存在します。 What you can control is more the speed at which distribution continues than the copies that already exist.状況を明確にするために、最大の影響は多くの場合、「特定のバージョンを引き続きダウンロードできるかどうか」ではなく、「将来的に同じトークナイザー、チャット テンプレート、量子化パッケージ、および依存関係命令のセットを安定して入手できるかどうか」です。

It is also the most underestimated here.モデルを初めて実行するときは、リスクはなくなったように見えます。 the real trouble is often the second time.二度目にロールバックしようとしたとき、その画像はもうそこにはありませんでした。 2 回目に再現したいと思ったときは、定量化形式が変更されていました。 2 回目にアップグレードしようとしたとき、推論コードと重みのバージョンが一致しませんでした。 2 回目に確認したときは、評価セットと前処理スクリプトが変更されていました。表面上、欠落しているダウンロード リンクは 1 つだけですが、実際には、欠落しているのは反復可能なサプライ チェーンの完全なセットです。

したがって、このタイプの「封印」は削除というよりも減速に似ています。著しく弱体化する可能性があるのは、通信速度、クラウド アクセス、バージョン同期、および環境への信頼です。完全に消去するのが難しいのは、重み付けコピー、ローカル展開機能、および拡散した二次配布機能です。オープンソース モデルが十分な数のマシンに導入されると、リスクは「存在できるか」から「安定して進化できるか」に変わります。

ここは、国内チームが的を外す可能性が最も高い場所でもある。モデルを製品に統合した後、最初の効果のみに注目し、モデルが実際には依存関係であることを忘れてしまいがちです。依存関係のエントリ ポイントが 1 つだけになると、その単一ポイントが制御ポイントになります。依存関係にバージョン ロックがなくなると、アップグレードはランダム イベントになります。依存関係にオフライン コピーが存在しない場合、特定のミラーが失敗した後に、いわゆる「独自の能力」が明らかになります。

より安定したアプローチは、封鎖がないことを想像するのではなく、事前に封鎖をいくつかの手頃な小さな問題に分割することです。重みとランタイムは別々に保存され、ダウンロード アドレスと検証値は一緒に保存され、推論環境はオフラインで再構築され、評価結果はバージョンごとにアーカイブされ、ロールバック パスはリリース パスと同様に明確です。このようにして、アップストリームが突然シャットダウンした場合でも、製品は入口を 1 つ失うだけであり、機能全体が同時にオフラインになることはありません。

オープンソース モデルの本当の堀は、「誰もそれを管理しようとしない」ということではなく、「管理されると、ある程度まで管理するのがすでに困難になる」ということです。締められる入り口はたくさんあり、広がったコピーを取り戻すのは困難です。