하루 종일 이 오류로 고생하고 있습니다. Colab에서 VertexAI를 사용하여 모델 파인튜닝을 위한 Kubeflow 파이프라인을 실행하려고 하고 있습니다. 아래는 제가 사용 중인 코드입니다.
모델 이름 생성을 위한 현재 날짜 가져오기
date = datetime.datetime.now().strftime(“%Y-%m-%d”)
MODEL_NAME = f"qa-model-{date}"
파이프라인 인자
pipeline_arguments = {
“model_display_name”: MODEL_NAME,
“location”: REGION,
“project”: PROJECT_ID,
“large_model_reference”: “gemini-1.0-pro-002”, # 질문 응답용 모델 참조
“train_steps”: TRAINING_STEPS,
“dataset_uri”: TRAINING_DATA_URI,
“evaluation_interval”: EVALUATION_INTERVAL,
“evaluation_data_uri”: EVALUATION_DATA_URI,
}
모델 튜닝을 위한 파이프라인 템플릿 경로 정의
template_path = “https://us-kfp.pkg.dev/ml-pipeline/large-language-model-pipelines/tune-large-model/v2.0.0”
모델 파인튜닝을 위한 파이프라인 잡 생성
job = aiplatform.PipelineJob(
template_path=template_path,
display_name=“fine-tune-gemini-qa”,
parameter_values=pipeline_arguments,
location=REGION,
pipeline_root=“gs://zeinab-llmops-vertexai/pipeline_root”, # 파이프라인 아티팩트 저장용 GCS 경로
enable_caching=True
)
파이프라인 잡 제출
job.submit()
분명히 Gemini를 사용하려고 하고 있는데, 오류는 Bison 사용을 언급하면서 Gemini로 전환하라고 나옵니다!!
_InactiveRpcError: <_InactiveRpcError of RPC that terminated with:
status = StatusCode.FAILED_PRECONDITION
details = “Bison model tuning is deprecated. Please migrate to Gemini tuning.”
debug_error_string = “UNKNOWN:Error received from peer ipv4:172.217.203.95:443 {created_time:“2025-02-28T06:30:14.731451386+00:00”, grpc_status:9, grpc_message:“Bison model tuning is deprecated. Please migrate to Gemini tuning.”}”
위 예외는 다음 예외의 직접적인 원인이었습니다:
FailedPrecondition Traceback (most recent call last)
/usr/local/lib/python3.11/dist-packages/google/api_core/grpc_helpers.py in error_remapped_callable(*args, **kwargs)
76 return callable_(*args, **kwargs)
77 except grpc.RpcError as exc:
—> 78 raise exceptions.from_grpc_error(exc) from exc
79
80 return error_remapped_callable
FailedPrecondition: 400 Bison 모델 튜닝은 더 이상 지원되지 않습니다. Gemini 튜닝으로 마이그레이션해 주세요.
저는 충분한 크레딧이 있는 유료 GCP 계정을 사용 중이고, 해당 프로젝트에 Vertex AI 사용자 역할이 있습니다. 도움을 주시면 감사하겠습니다!