중국 오픈소스 모델의 진정한 돌파구는 협업 네트워크다.

오픈소스 모델에서 '봉인 여부’를 논할 때 가장 보기 쉬운 것은 웨이트 파일을 전부라고 생각하는 것이다.

가중치를 다운로드한 후 모델 자체가 쉽게 사라지지 않는 경우가 많습니다. 먼저 무너뜨리기 쉬운 것은 미러 사이트, 평가 세트, 추론 템플릿, 미세 조정 스크립트, 문제 수정, 기본 배포 매개변수, 그리고 "이 버전은 실행할 수 있고 저 버전은 건드리면 안 된다"는 커뮤니티의 합의 등 이를 중심으로 회전하는 네트워크입니다.

땅에 닿을 수 있는 부분이 부서질 염려가 가장 적습니다.

오픈 소스 모델이 로컬 창고, 개체 저장소 또는 인트라넷 이미지에 들어가는 한 외부 세계가 아무리 엄격하더라도 파일은 일반적으로 그대로 유지됩니다. 오프라인 복사본, 내부 캐시, 기록 빌드 제품 모두 "아직 사용할 수 있는지 여부"에 대한 질문을 오랫동안 지연시킵니다.

이는 오픈소스 모델과 순수 클라우드 서비스의 가장 큰 차이점이기도 합니다. 클라우드 서비스가 차단되면 입구가 사라지는 경우가 많습니다. 오픈소스 모델의 업스트림 서비스가 중단되더라도 보유 중인 가중치, 토크나이저, 추론 이미지는 계속 실행될 수 있습니다. 질문은 "당신은 그것을 가지고 있습니까?"가 아닙니다. 하지만 “남들과 똑같이 계속 사용할 수 있나요?”

정말 선명한 것은 동기화 관계입니다.

모델이 계속 실행될 수 있다고 해서 팀이 계속해서 모델을 따라갈 수 있다는 의미는 아닙니다.

가장 먼저 풀어야 할 것은 일반적으로 동기화 관계입니다.

• 업스트림에서 새 버전을 출시했지만 내부 미러가 시간을 따라오지 못했습니다.
• 평가 세트가 수정되어 회귀 결과가 더 이상 이전 기록과 일치할 수 없습니다.
• 채팅 템플릿이나 토크나이저가 조금 이동되었지만 출력 스타일이 많이 변경되었습니다.
• 특정 수정 사항은 기업 인트라넷 이미지가 아닌 커뮤니티 PR에만 들어갔습니다.
• 기본 양자화, 기본 컨텍스트 길이 및 기본 샘플링 매개변수가 각각 떨어져 있습니다.

이러한 것들은 그 자체로는 크게 보이지 않지만, 함께 쌓으면 "동일 모델"이 여러 부분으로 분리됩니다.

이 단계에서 외부 제한으로 인해 발생하는 실제 피해는 가중치가 부여된 문서를 세상에서 지우는 것이 아니라 "모두가 같은 것을 보고 있다"는 사실을 깨뜨리는 것입니다. 팀은 여전히 ​​동일한 모델 이름에 대해 이야기하고 있지만 실제로 얻는 것은 다른 버전, 다른 템플릿 및 다른 매개변수를 포함하는 조합 패키지입니다.

리뷰, 수정사항, 경험은 함께 중단됩니다.

오픈 소스 모델이 실제 워크플로우에 들어가면 실제 가치는 일반적으로 가중치 자체가 아니라 가중치를 중심으로 축적된 판단입니다.

어떤 버전이 더 안정적인지, 어떤 토크나이저가 긴 텍스트를 깨뜨릴지, 어떤 샘플링 매개변수 세트가 고객 서비스 시나리오에 더 적합한지, 어떤 미세 조정 스크립트가 환상을 증가시킬지, 이러한 경험은 모두 지속적인 교환에 의존합니다. 협업 네트워크가 유지되는 한 모든 사람은 여전히 ​​동일한 기준을 조정할 수 있습니다. 협업 네트워크가 무너지면 각 팀은 천천히 자체 비공개 버전을 개발하게 됩니다.

비공개 버전이 나쁜 것은 아니지만 가격이 오릅니다.

• 기준선으로 돌아가는 것이 점점 더 어려워집니다.
• 사고 검토가 점점 어려워지고 있습니다.
• 패치 동기화가 점점 어려워지는 문제 수정
• 다른 팀에서도 같은 문제가 반복적으로 나타납니다.

이때는 "모델이 아직 있는 것"처럼 보이지만 사실은 "거의 사용할 수 없는 로컬 복사본이 많이 있다"고 되어 있고, 그들 사이에 공통 업데이트 경로도 존재하지 않는다.

정말 걱정할 만한 것은 차단이 아니라 포크(forking)입니다.

오픈소스 모델은 복제성이 있기 때문에 온라인 API처럼 완전히 봉인되기는 어렵습니다. 우리가 정말 조심해야 할 점은 외부 압력으로 인해 배포, 수리, 협업이 중단된 후 모델이 다양한 조직의 리듬에 따라 갈라지기 시작한다는 것입니다.

더 많은 포크가 있으면 더 이상 "다운로드할 수 있습니까?"라는 질문이 없습니다. 하지만 “이것이 여전히 같은 유형이라는 것을 누가 보장할 수 있습니까?” 이 문제는 액세스 비용을 직접적으로 증가시킵니다. 새로운 검토를 다시 수행해야 하고, 오래된 결함을 다시 설명해야 하며, 버전 차이를 재정렬해야 하며, 팀은 분기된 각 라인에 대해 자체 롤백 및 동결 전략을 수립해야 합니다.

오픈 소스 모델의 탄력성은 순수 클라우드 서비스의 탄력성보다 실제로 더 강력합니다. 하지만 그 무게감이 사라졌는지가 아니라, 협업 네트워크가 계속해서 같은 이름을 유지할 수 있는지의 취약점도 매우 분명합니다.