Çin’in açık kaynak modelinin kısıtlanmasının ardından artan ilk şey doğrulama maliyeti oluyor.

Açık kaynaklı modeller kısıtlandıktan sonra pahalı hale gelen ilk şey genellikle modelin kendisi değil doğrulamasıdır. Modelin hala aşağı çekilip çekilemeyeceği yalnızca ilk katmandır; aşağı çekildikten sonra çıktı formatı, araç çağrısı, reddetme politikası, bağlam uzunluğu ve örnekleme parametrelerinin hala eski sürümle uyumlu olup olmadığı sistemin kararlı olmaya devam edip etmeyeceğini belirleyecektir.

Tedarik sorunu gibi görünen şey, takım söz konusu olduğunda mühendislik sorununa dönüştü. Bir model sürece girdiğinde erişim katmanında nadiren yalnızca bir API adresi kalır. Bilgi istemi sözcükleri, şema, yeniden denemeler, zaman aşımları, kesme konumları ve araç çağrısı dizileri giderek örtülü öncüller haline gelecektir. Sürüm kararlı olduğunda bu öncüller deneyimle desteklenebilir; model sınırlı olduğunda, görüntü çatallandığında veya aynı isimli versiyonun performansı sürüklendiğinde deneyim başarısız olmaya başlar. Etkisini kaybeden ilk şey genellikle regresyon yargısıdır çünkü test seti sisteme yalnızca neyin bozulmadığını söyler ve neyin değiştiğini doğrudan söyleyemez.

Varsayılan varsayım, önce bağlanıp iade edileceği yönündedir.

Geçmişte bir grup altın kasa uzun süre devam edebiliyordu. Çoğu zaman çıktının bariz bir şekilde sapıp sapmadığını incelediler. Model sabittir ve istem kelimesi de sabittir. Herkes varsayılan olarak “bu bağlantı doğrulandı” ayarını yapacaktır. Kısıtlamalar ortaya çıktığı anda bu varsayılan çökmeye başlar. Modeller bölgeleri, görselleri veya versiyonları değiştirebilir ve hatta aynı ada sahip modeller bile farklı zaman dilimlerinde farklı davranabilir. Şu anda regresyon artık kullanılıp kullanılamayacağına karar vermekle ilgili değil, değişikliğin hangi katmana düştüğüne ve değişiklik değerinin değiştirilmeye değer olup olmadığına karar vermekle ilgili.

Dağıtım ve geri alma küçük değişiklikleri büyütecektir

Model kısıtlandıktan sonra ilk yapılması gerekenler indirme, yansıtma, onaylama, denetleme ve geri alma işlemleridir. Görünüşte sadece mevcut bir modele dönüşüyor. Aslında sürüm kilitleme, önbellek senkronizasyonu, izin kontrolü ve yük devretme özelliklerini de ekler. Model dağıtımının bağımsız bir katmanı olmadığı sürece işletme bu görevleri kendi yayın ritmine geri koyacaktır. Sonuç genellikle “daha fazla uyarlama yapın” değildir, ancak girdi ve çıktı sözleşmesinin her güncellendiğinde yeniden onaylanması gerekir.

Nötr katmanın kapattığı ilk şey model yeteneği değildir.

Aslında ayrılması gereken şey genellikle modelin kendisi değil, modelin etrafındaki tarafsız sınırlar katmanıdır: bilgi istemi kelime şablonları, şema doğrulama, yönlendirme stratejileri, yeniden deneme mantığı, günlükler ve değerlendirmeler. Bunları bir araya getirmek düzenlilik peşinde koşmak değil, değişikliklerin öncelikle aynı sözleşme dizisine düşmesine izin vermektir. Model değiştirilebilir, girdi ve çıktı sürüklenemez ve regresyon temel çizgisi dağılamaz. Nötr katman oluşturulduktan sonra, başlangıçta deneyim yoluyla hatırlanan birçok varsayılan davranış, karşılaştırılabilecek, geri alınabilecek ve yeniden oynatılabilecek şeyler haline gelecektir.

Tüm projeler ilk önce bu katmanı yapmaya değmez.

Bir kerelik özetler, iç deneyler, kısa ömürlü, doğrudan modele bağlanan senaryolar yeterlidir. Nötr bir katmana ihtiyaç duyan şey, modelin üretim kararlarına katılmaya başladığı ve tedarikçinin veya bölgenin daha sonra değiştirilme ihtimalinin yüksek olduğu bir senaryodur. Bu sistemler için asıl sorun hiçbir zaman birkaç satır daha uyarlama yazmak değil, orijinal varsayılan davranışların açıkça işaretlenmemesidir. Bu katman olmadan model her değiştirildiğinde geri dönüş, dağıtım ve yayın ritminin yeniden hesaplanması gerekecektir.

Sözde mühür genellikle başlangıçta kaydedilen doğrulama, dağıtım ve geri alma maliyetlerini ekibe aynı anda geri öder. Modeller değişir ve bağlantılar şans eseri sabitlenemez. Modelin kullanılmaya devam edip edemeyeceği hakkında konuşabilmemiz için öncelikle doğrulama bağlantısını sökmemiz gerekiyor.