게웨 짚오육 전용 프로바이더 v0.9.0 (177361405)

원글:
https://arca.live/b/characterai/176998217
프로톤
그거 맞음 llm-gateway 에서, 그것도 gpt-5.6 계열만 선택가능한 그거
조용히 업뎃만 하고 있었는데, 이번에 캐싱 전략이 바뀌어서 글을 씀
혹시나? 이전 버전을 쓰고 + 캐싱도 켜두었었다면 업뎃 부탁,, 이전보다 손해는 덜 볼거임
프로톤 받아서 올려도 되고..
웹리스라면 설정에서 초록색 + 누르면 바로 업뎃 댐 (이후 혹시모르니 새로고침까지)
UI 는 초기랑 살짝 달라졌는데, 추론이랑 장황함 코덱스 마냥 슬라이더로 넣어둠
캐싱 바뀐건..
이전엔 엄청 공격적으로 캐싱했음
한 번이라도 히트하면 90% 할인이니까. 한 번만 따면 된다는 정신으로
근데 프롬 구조에 따라 상단이 변경되거나 하는 케이스가 있어 오히려 캐시 안쓴 것 마냥 못하는 경우가 생김..
그래서 연속해서 실패하거나 크게 바뀔경우 좀 방어적으로 캐시쓰게 바꿈
확실히 첫 릴리즈때 보단 쓰기 비용이 덜 나가더라
캐싱이랑 별개로 계속해서 손해로 관측된다면 꺼두는거 추천