- 투디갤 - AI
- AI
2024.04.20 13:55
ㅇㅇ
1. 같은 로컬이라도 독립적으로 봐야함
오픈소스를 통해 아예 모든걸 공개해서 내놓는 모델임
사양만 된다면 너깡도 돌릴 수 있지만 높은 사양을 요구하기 때문에 오픈라우터, 투게더에서 대신 구동을 해주고 돈을 받는 것임
오픈, 투게더 둘을 같은걸로 보면 안됨 떡볶이 밀키트를 마트에서 사와서 만드는데 철수네 집에서 만들다가 망쳤다고 영희네 집에서 망치는거 아니잖음?
2. 같은 위자드라도 품질이 다름
이것은 '양자화'라는 것 때문임
쉽게 말하자면 모델을 간단하게 압축해서 사양 덜타도록 구동하기 쉽게 만든 것임 속도가 높아지지만 품질이 떨어짐
같은 모델도 이 압축을 얼마나 했느냐에 따라 품질이 달라짐
오픈라우터와 투게더에서 어떤 양자화를 쓰는지 모르기 때문에 둘의 맛은 다를 수 밖에 없음
오픈소스를 통해 아예 모든걸 공개해서 내놓는 모델임
사양만 된다면 너깡도 돌릴 수 있지만 높은 사양을 요구하기 때문에 오픈라우터, 투게더에서 대신 구동을 해주고 돈을 받는 것임
오픈, 투게더 둘을 같은걸로 보면 안됨 떡볶이 밀키트를 마트에서 사와서 만드는데 철수네 집에서 만들다가 망쳤다고 영희네 집에서 망치는거 아니잖음?
2. 같은 위자드라도 품질이 다름
이것은 '양자화'라는 것 때문임
쉽게 말하자면 모델을 간단하게 압축해서 사양 덜타도록 구동하기 쉽게 만든 것임 속도가 높아지지만 품질이 떨어짐
같은 모델도 이 압축을 얼마나 했느냐에 따라 품질이 달라짐
오픈라우터와 투게더에서 어떤 양자화를 쓰는지 모르기 때문에 둘의 맛은 다를 수 밖에 없음
[Code: 173c]
글쓰기 설정