포켓리스 버텍스 flex 적용가능한 모델 프리셋 개조해옴 (1732641

이번 포켓리스에 업데이트 모델 프리셋 기능이 너무 마음에 드는데
openai 호환이라 그런지 url이 달라서 flex 헤더를 넣으면 HTTP 400 에러를 뱉더라고
버텍스 내돈내산단으로써 플러그인 없이 모델 프리셋에서 flex 기능을 써보고 싶어서 LLM 붙잡고 수정해달라고 함
내가 테스트 했을 때는 잘 되더라
그런데 코딩알못인데다가 기워넣은 거라서 그런지 세팅이 좀 뭉개지긴 했음
그럼에도 버텍스를 flex로 사용하고 싶다면 한번 써보셈
그런데 좀 준비가 필요한게 엄청난 단점임
준비물 : vscode같은 편집 프로그램
17줄에 보면
이렇게 무수한 "?"가 있을 텐데 여기에 내 프로젝트 ID를 넣은 다음에 저장하고
+ 새 모델 프리셋 만들기
커스텀 섹션에서 프로필 가져오기 해서 넣으면 됨.
그리고 고급 설정의 추가 파라미터에 이거 넣으면 됨
header::Vertex-AI-LLM-Request-Type=shared
header::X-Vertex-AI-LLM-Shared-Request-Type=flex
https://drive.proton.me/urls/WKXMJ7YPG0#mkjvlr6xbwb9
잼삼일이랑 잼삼플임
+++
제발 코딩 조금이라도 아는 사람이 제대로 고쳐주길 바람... 너무 임시방편임
코딩 알못인 관계로 문제생겨도 도와주기 힘들음...