OpenAI OSS-20B 완전 분석! 무료 API로 AI 코딩 혁명 시작하기
GPTOSS 20B 모델 써본 후기 (중학생 눈높이 버전)
와, 구독자 10만 명 넘었다니 진짜 고마워! 덕분에 재밌는 영상 많이 만들 수 있었어. 진심이야!
오늘은 저번에 얘기했던 GPTOSS 120B 모델 말고, GPTOSS 20B 모델에 대해 말해줄게. 솔직히 120B 모델은 너무 커서 내 컴퓨터에서 돌리기 힘들고, 돌린다 해도 GLM 4.5 Air라는 더 좋은 모델이 있어서 별로였거든. 근데 20B 모델은 그때 테스트를 못 해봐서 오늘 드디어 써보고 느낀 점을 알려주려고 해.
GPTOSS 20B 모델, 뭐가 좀 이상해?
- 스펙: 21B 모델인데, 파라미터는 36억 개고 전문가 32명 중에 4명만 한 번에 일한대. 뭐, 나쁘진 않은데...
- 벤치마크 vs 실제: 벤치마크 점수로는 다른 모델이랑 비슷하다는데, 내가 직접 써보니까 코딩은 진짜 못해. 엉망진창이야.
- 툴 사용: 툴 쓰는 건 괜찮은데, 가끔 멈추거나 안 될 때도 있대.
- 코딩 결과: 벤치마크에서 나온 코드는 하나도 안 돌아가더라. 심지어 똑똑하게 생각하라고 해도 안 돼.
- 말하는 건 괜찮은데...: 코딩은 못해도 말하는 건 괜찮을 줄 알았는데, 이것도 좀 이상해. 예를 들어 "물고기 산책시키는 법 알려줘" 같은 재미있는 질문에도 "그건 말할 수 없다"고 하거나, 뭔가 잘못됐다고 하면서 대답을 회피한대.
- 너무 심한 검열: 뭐든지 조심하고, 모르는 건 말 안 하고, 심지어 좀 이상한 질문에도 "불쾌하다"고 하면서 대답을 안 해버린대. 너무 심하게 검열된 느낌이야.
작은 모델은 원래 그래?
작은 모델은 어쩔 수 없이 어떤 부분은 잘하고 어떤 부분은 못할 수밖에 없어. 모든 걸 다 잘하게 만들 수는 없거든. 마치 덩치가 작은 친구가 달리기 말고는 다른 건 좀 약한 것처럼 말이야.
그래서 코딩이나 툴 사용에 특화된 모델들이 따로 있어. 예를 들어 Quen 3 coder flash나 Mistral의 devstral 모델 같은 것들이지. 이런 모델들은 코딩이나 툴 사용에 집중해서 만들었기 때문에 훨씬 잘 작동해. 인터넷이 없거나 개인 정보가 중요할 때 이런 모델들을 쓰면 좋지.
근데 Mistral small이나 Quen 3 small 같은 일반적인 작은 모델들은 이런 특화된 모델들만큼은 못해. 내가 직접 써보니까 이런 모델들은 그냥 잡담하는 용도로는 쓸 수 있겠지만, 코딩이나 툴 사용에는 좀 부족하더라.
GPTOSS 20B 모델, 그래도 써볼 수는 있어!
- 일반 대화: 그냥 친구랑 수다 떠는 것처럼 쓸 때는 괜찮을 수도 있어. 웹 검색이랑 같이 쓰면 더 유용할지도 모르고.
- 툴 연동: Rue code나 Kyo code 같은 프로그램이랑 같이 쓰면 괜찮다고 하니까 한번 써봐도 좋을 거야.
팁: GPTOSS 20B 모델을 툴이랑 같이 쓰는 법
- AMA에서 다운로드: AMA라는 곳에서 모델을 다운로드하고 설치하면 돼.
- ROE나 Klein 사용:
- ROE에서 새 프로필 만들고, Open router나 llama 같은 옵션 선택한 다음에 모델을 고르면 돼.
- Klein에서도 똑같이 Provider 선택하고 모델 고르면 돼.
- Kilo code로 미리 써보기: Kilo code에서는 15달러 정도 무료 크레딧을 주니까, 돈 쓰기 전에 미리 써보고 결정해도 좋아.
주의할 점: ROE랑 Klein은 아직 "이성적 사고" 옵션을 설정하는 기능이 없대. 이게 있으면 더 똑똑하게 작동할 수 있는데, 아직은 없어서 아쉽네.
그리고 이 모델은 똑똑하게 생각하라고 해도 2K~4K 토큰 정도만 생각한대. 이것도 좀 아쉬운 부분이야.
결론적으로, 이 모델은 안전하게 말하는 데는 괜찮은 것 같은데, 너무 검열이 심해서 재미없게 느껴질 때도 있어.
나는 GPTOSS 20B 모델에 좀 실망했지만, 너희는 다르게 느낄 수도 있으니까 한번 써보는 것도 나쁘지 않을 것 같아.
다음 영상에서는 GPT5에 대한 이야기도 해볼게! 구독, 좋아요, 알림 설정 잊지 말고! 다음에 봐!