투디갤 - AI - 나는 layla 프롬이 전혀 안 먹히는 기분이라 실험해봄

https://tdgall.com/350685489

view 680

2024.06.26 13:25

회원만 볼 수 있는 글입니다.

https://tdgall.com/350685489 [Code: 2689]

목록 수정 삭제

2024.06.26 13:29

ㅇㅇ

Chat completion으로 연결하면 무조건 실리에서 챗 연결한 것 처럼 나와서 그런거 아닐까

[Code: 35e0]

2024.06.26 13:29

ㅇㅇ

그건 프롬 양식 안따지고 내용만 보니까
그래서 로컬처럼 프롬 양식까지도 영향이 미치는 경우엔 더 그렇게 느껴질지도 모르겠음

[Code: 35e0]

2024.06.26 13:42

ㅇㅇ

ㄱㅆ 미안 내가 빠가라서 댓을 이해 못하고 있음... 실리에서는 프롬의 내용만 보는데, layla에서는 프롬 양식까지도 영향을 미쳐서 프롬이 안 먹힌다는 뜻이야??

[Code: 2689]

2024.06.26 13:44

ㅇㅇ

아 아니 그게 아니라 chat completion으로 api자체가 설정되는거라 <llm_end><|eot_id|> 이런 형식 자체가 지정되지가 않아서
로컬은 아무래도 이해력이 좀 딸리니까 저 형식으로 지정되지 않은 프롬을 좀 덜먹는게 아닌가 했음

[Code: 35e0]

2024.06.26 14:01

ㅇㅇ

ㄱㅆ 아 그럼 그건 원시모델 지침 프롬에서 <llm_end>같은 게 들어가 있어도 의미가 없는 건가...?? 아무튼 댓 달아줘서 ㄱㅅㄱㅅ

[Code: 6a92]

2024.06.26 13:49

ㅇㅇ

나도 안먹히는 것 같음 이것저것 넣었다 뺐다 해봐도 큰 변화가 없어

[Code: fb59]

첫 페이지 다음 페이지