Weave Model을 사용해 애플리케이션과 그 파라미터를 추적하고 버전 관리하는 방법을 알아보세요
입력, 출력, 메타데이터와 앱을 거쳐 흐르는 데이터를 추적하는 것은 시스템의 성능을 이해하는 데 매우 중요합니다. 하지만 시간이 지나면서 앱을 버전 관리하는 것 역시 코드나 애플리케이션 파라미터를 수정했을 때 출력이 어떻게 달라지는지 이해하는 데 중요합니다. Weave에서는 Model 클래스를 사용해 이러한 변경 사항을 추적할 수 있습니다.이 튜토리얼에서는 다음을 배웁니다:
Weave 모델을 사용하면 모델 벤더 ID, 프롬프트, temperature 등과 같은 파라미터가 변경될 때 저장되고 버전 관리됩니다.Weave에서 모델을 만들려면 다음이 필요합니다.
weave.Model을 상속하는 클래스
모든 클래스 필드에 대한 유형 정의
@weave.op() 데코레이터가 적용된 타입 지정 invoke 함수
클래스 필드나 모델을 정의하는 코드를 변경하면 이러한 변경 사항이 로깅되고 버전이 업데이트됩니다. 이를 통해 앱의 서로 다른 버전 간 생성 결과를 비교할 수 있습니다.아래 예시에서는 모델 이름, temperature, system prompt가 추적되고 버전 관리됩니다:
weave.init('jurassic-park')client = OpenAI()system_prompt = """Extract any dinosaur `name`, their `common_name`, \names and whether its `diet` is a herbivore or carnivore, in JSON format."""dinos = ExtractDinos( client=client, model_name='gpt-4o', temperature=0.4, system_prompt=system_prompt)sentence = """I watched as a Tyrannosaurus rex (T. rex) chased after a Triceratops (Trike), \both carnivore and herbivore locked in an ancient dance. Meanwhile, a gentle giant \Brachiosaurus (Brachi) calmly munched on treetops, blissfully unaware of the chaos below."""result = dinos.invoke(sentence)print(result)
이 기능은 아직 TypeScript에서 사용할 수 없습니다. 곧 제공될 예정입니다!
이제 .invoke()를 호출한 후에는 Weave의 트레이스에서 weave.op()로 데코레이트된 모델 함수의 코드뿐 아니라 모델 파라미터도 함께 추적되는 것을 확인할 수 있습니다. 또한 이 경우 "v21"처럼 모델에도 버전이 지정되며, 모델을 클릭하면 해당 버전의 모델을 사용한 모든 Call을 볼 수 있습니다.weave.Model 사용 시 참고 사항:
원한다면 Weave 모델의 함수 이름으로 invoke 대신 predict를 사용할 수 있습니다.
Weave는 호출된 모델s를 저장하고 버전을 관리하므로, 이러한 모델을 내보내 다시 사용할 수 있습니다.모델 ref 조회
Weave UI에서 특정 버전의 모델 ref를 조회할 수 있습니다.모델 사용
모델 객체의 URI가 있으면 이를 내보내 다시 사용할 수 있습니다. 내보낸 모델은 이미 초기화되어 있으므로 바로 사용할 수 있습니다.
Python
TypeScript
# 내보낸 weave 모델은 이미 초기화되어 있으며 바로 호출할 수 있습니다new_dinos = weave.ref("weave://morgan/jurassic-park/object/ExtractDinos:ey4udBU2MU23heQFJenkVxLBX4bmDsFk7vsGcOWPjY4").get()# 클라이언트를 다시 openai 클라이언트로 설정합니다new_dinos.client = clientnew_sentence = """I also saw an Ankylosaurus grazing on giant ferns"""new_result = new_dinos.invoke(new_sentence)print(new_result)
이 기능은 아직 TypeScript에서 사용할 수 없습니다. 곧 제공될 예정입니다!
여기서 이제 새 입력에 대해 이름이 모델 버전(v21)과 함께 사용된 것을 확인할 수 있습니다.“