Po ograniczeniu chińskiego modelu open source pierwszą rzeczą, która ulegnie zwiększeniu, są koszty weryfikacji.

Po ograniczeniu modeli open source pierwszą rzeczą, która staje się kosztowna, zwykle nie jest sam model, ale weryfikacja. To, czy model można jeszcze rozciągnąć, to tylko pierwsza warstwa; po jej usunięciu to, czy format wyjściowy, wywołanie narzędzia, zasady odrzucania, długość kontekstu i parametry próbkowania można w dalszym ciągu dostosować do starej wersji, zadecyduje o tym, czy system będzie nadal stabilny.

To, co wyglądało na problem z zaopatrzeniem, w przypadku zespołu stało się problemem inżynieryjnym. Gdy model wchodzi do procesu, warstwa dostępu rzadko kiedy pozostaje jedynie z adresem API. Słowa podpowiedzi, schemat, ponowne próby, przekroczenia limitu czasu, pozycje obcięcia i sekwencje wywołań narzędzi stopniowo staną się ukrytymi przesłankami. Gdy wersja jest stabilna, przesłanki te można poprzeć doświadczeniem; gdy model jest ograniczony, obraz jest rozwidlony lub wydajność wersji o tej samej nazwie spada, doświadczenie zaczyna zawodzić. Pierwszą rzeczą, która traci swój efekt, jest często ocena regresji, ponieważ zestaw testowy informuje system jedynie o tym, co nie jest zepsute i nie może bezpośrednio stwierdzić, co się zmieniło.

Domyślnym założeniem jest to, że zostanie on powiązany i zwrócony jako pierwszy.

W przeszłości grupa złotych skrzynek mogła działać przez długi czas. W większości przypadków po prostu sprawdzano, czy wynik wyraźnie się nie różnił. Model jest naprawiony, podobnie jak słowo zachęty. Domyślnie wszyscy będą mieli informację „ten link został zweryfikowany”. Gdy tylko pojawią się ograniczenia, to ustawienie domyślne zaczyna się załamywać. Modele mogą zmieniać regiony, obrazy lub wersje, a nawet modele o tej samej nazwie mogą zachowywać się inaczej w różnych okresach. W tym momencie regresja nie polega już na ocenie, czy można ją zastosować, ale na ocenie, na której warstwie przypada zmiana i czy warto zmienić wartość zmiany.

Dystrybucja i wycofywanie wzmocnią małe zmiany

Po ograniczeniu modelu pierwsze czynności, jakie należy wykonać, to pobranie, utworzenie kopii lustrzanej, zatwierdzenie, audyt i wycofanie zmian. Z pozoru po prostu zmienia się na dostępny model. W rzeczywistości dodaje blokowanie wersji, synchronizację pamięci podręcznej, kontrolę uprawnień i przełączanie awaryjne. Dopóki dystrybucja modeli nie będzie miała niezależnej warstwy, firma ponownie wprowadzi te zadania w swój własny rytm wydawania. Rezultatem często nie jest „więcej dostosowań”, ale kontrakt wejściowy i wyjściowy musi być ponownie potwierdzany przy każdej aktualizacji.

Pierwszą rzeczą, którą wyłącza warstwa neutralna, nie jest zdolność modelu.

To, co naprawdę powinno zostać oddzielone, to zwykle nie sam model, ale warstwa neutralnych granic wokół modelu: szablony słów podpowiedzi, weryfikacja schematu, strategie routingu, logika ponownych prób, dzienniki i oceny. Łączenie tych rzeczy nie ma na celu dbania o schludność, ale umożliwienie zmianom najpierw w tym samym zestawie umów. Model można zastąpić, dane wejściowe i wyjściowe nie mogą dryfować, a linia bazowa regresji nie może się rozproszyć. Po ustaleniu warstwy neutralnej wiele domyślnych zachowań, które zostały pierwotnie zapamiętane na podstawie doświadczenia, stanie się rzeczami, które można porównać, cofnąć i odtworzyć.

Nie w każdym projekcie warto najpierw wykonać tę warstwę.

Wystarczą jednorazowe abstrakty, wewnętrzne eksperymenty, krótkotrwałe scenariusze, bezpośrednio powiązane z modelem. Warstwy neutralnej wymaga scenariusz, w którym model zaczął brać udział w ocenie produkcji i istnieje duże prawdopodobieństwo, że dostawca lub region zostaną później zmienione. W przypadku tych systemów prawdziwym problemem nie jest nigdy napisanie kilku linijek adaptacji więcej, ale oryginalne, domyślne zachowania nie są wyraźnie zaznaczone. Bez tej warstwy przy każdej zmianie modelu konieczne będzie ponowne przeliczenie rytmu zwrotu, dystrybucji i wydawania.

Tak zwana pieczęć często po prostu zwraca zespołowi pierwotnie zaoszczędzone koszty weryfikacji, dystrybucji i wycofania. Modele się zmieniają, a powiązań nie da się ustabilizować przez przypadek. Musimy najpierw zdemontować link weryfikacyjny, zanim będziemy mogli rozmawiać o tym, czy model może być nadal używany.