아 뭐 짧게 여러번 받아서 그렇네 그때마다 인풋 다 곟산해서 들어갈테고 게다가 최대토큰도 엄청 잡고했구만
다른걸로 그렇게 했으면 25달러는 넘게 나왔을듯
[Code: a5d0]
2024.05.02 21:09
ㅇㅇ
아니 내가 멍청해서 모르는데 짧게 여러번 받는거 가성비가 망임??? 글자 총 길이로 매기는줄
[Code: 03e7]
2024.05.02 21:19
ㅇㅇ
지금까지 챗 기록중에서 너가 잡은 최대 컨텍스트양 x 인풋토큰, 너가 출력길이로 잡은 토큰(150)X 아웃풋 토큰이 한번 출력할 때 매겨지는 값임
즉 출력 토큰을 150을하던 400을 하던 어차피 250정도 차이지만
샌드를 남들은 3번할걸 넌 7번 정돈 했다고 치면 4번 차이 X 18000~30000 X 인풋토큰값 만큼 더 나가는거임
[Code: a5d0]
2024.05.02 21:21
ㅇㅇ
쉽게 말해 남들의 send 한 횟수에서 10번만 차이나도 최소 18000X10X0.018달러?(얼추짐작) 만큼 더 쓰는거임
[Code: a5d0]
2024.05.02 21:20
ㅇㅇ
다시는 150으로 하지말아야겠다... ㄱㅅ
[Code: 03e7]
2024.05.02 20:57
ㅇㅇ
나 토큰 최대로 하고 ㄹㅇ말그대로 하루종일해야 간신히 2.5나가던데 뭐 잘못설정한거아님?
[Code: ff88]
2024.05.02 21:02
ㅇㅇ
이거 원인 저번에 오픈라우터 서버 바글거리면 비싼 공급자로 분산시키는 건줄 알았는데 아닌가
