Una vez que se restringe el modelo de código abierto de China, lo primero que aumenta es el costo de verificación.

Una vez que se restringen los modelos de código abierto, lo primero que se vuelve caro no suele ser el modelo en sí, sino la verificación. Si el modelo aún se puede derribar es solo la primera capa; después de eliminarlo, si el formato de salida, la llamada a la herramienta, la política de rechazo, la longitud del contexto y los parámetros de muestreo aún pueden alinearse con la versión anterior determinará si el sistema continuará siendo estable.

Lo que parecía un problema de suministro se convirtió en un problema de ingeniería en lo que respecta al equipo. Una vez que un modelo ingresa al proceso, la capa de acceso rara vez se queda solo con una dirección API. Las palabras de aviso, los esquemas, los reintentos, los tiempos de espera, las posiciones de truncamiento y las secuencias de llamadas a herramientas se convertirán gradualmente en premisas implícitas. Cuando la versión es estable, estas premisas pueden estar respaldadas por la experiencia; cuando el modelo es limitado, la imagen se bifurca o el rendimiento de la versión con el mismo nombre cambia, la experiencia comienza a fallar. Lo primero que pierde su efecto suele ser el juicio de regresión, porque el conjunto de prueba solo le dice al sistema lo que no está roto y no puede decir directamente lo que ha cambiado.

La suposición predeterminada es que se vinculará y devolverá primero.

En el pasado, un grupo de cajas doradas podía durar mucho tiempo. La mayoría de las veces, simplemente observaron si la producción se había desviado obviamente. El modelo es fijo y la palabra clave también es fija. Todos usarán de forma predeterminada “este enlace ha sido verificado”. Tan pronto como aparecen las restricciones, este valor predeterminado comienza a colapsar. Los modelos pueden cambiar de región, imagen o versión, e incluso los modelos con el mismo nombre pueden comportarse de manera diferente en diferentes períodos de tiempo. En este momento, la regresión ya no se trata de juzgar si se puede usar, sino de juzgar en qué capa cae el cambio y si vale la pena cambiar el valor del cambio.

La distribución y la reversión magnificarán los pequeños cambios

Una vez restringido el modelo, lo primero que hay que hacer es descargar, duplicar, aprobar, auditar y revertir. En la superficie, simplemente cambia a un modelo disponible. De hecho, agrega bloqueo de versiones, sincronización de caché, control de permisos y conmutación por error. Mientras la distribución del modelo no tenga una capa independiente, la empresa volverá a poner estas tareas en su propio ritmo de lanzamiento. El resultado a menudo no es “hacer más adaptación”, sino que el contrato de insumos y productos debe volver a confirmarse cada vez que se actualiza.

Lo primero que cierra la capa neutral no es la habilidad del modelo.

Lo que realmente debería separarse no suele ser el modelo en sí, sino la capa de límites neutrales alrededor del modelo: plantillas de palabras dinámicas, verificación de esquemas, estrategias de enrutamiento, lógica de reintento, registros y evaluaciones. Reunir estas cosas no es buscar la pulcritud, sino permitir que los cambios recaigan primero en el mismo conjunto de contratos. El modelo se puede reemplazar, las entradas y salidas no pueden desviarse y la línea base de regresión no puede dispersarse. Una vez que se establece la capa neutral, muchos comportamientos predeterminados que originalmente se recordaron a través de la experiencia se convertirán en cosas que se pueden comparar, revertir y reproducir.

No vale la pena hacer esta capa primero en todos los proyectos.

Son suficientes resúmenes de una sola vez, experimentos internos, guiones de corta duración, conectados directamente al modelo. Lo que necesita una capa neutral es un escenario en el que el modelo ha comenzado a participar en el juicio de producción y existe una alta probabilidad de que el proveedor o la región cambien más adelante. Para estos sistemas, el verdadero problema no es nunca escribir unas cuantas líneas más de adaptación, sino que los comportamientos predeterminados originales no están marcados explícitamente. Sin esta capa, cada vez que se cambie de modelo habrá que volver a calcular el ritmo de retorno, distribución y liberación.

El llamado sello a menudo simplemente reembolsa al equipo de una vez los costos de verificación, distribución y reversión ahorrados originalmente. Los modelos cambian y los vínculos no se pueden estabilizar por suerte. Primero debemos desmontar el enlace de verificación antes de poder hablar sobre si el modelo se puede seguir utilizando.