카카오 Kanana-2 SLM 공개 — 한국어 효율 30%, 정확히 무엇이 좋아졌나

누군가와 나눈 통화 내용을 스마트폰이 곧바로 요약해 줍니다. 방금 받은 메시지에 어울리는 답장을 추천하고, “이번 주말 약속 찾아줘”라는 말을 알아듣고 일정까지 꺼냅니다. 이때 모든 대화를 멀리 있는 거대한 서버로 보낼 필요 없이, 내 손안의 기기에서 상당 부분을 처리할 수 있다면 어떨까요.

카카오가 2026년 7월 28일 공개한 Kanana-2 SLM은 바로 그 방향을 겨냥한 작은 언어모델입니다. 챗GPT처럼 거대한 모델의 왕좌를 노리기보다, 스마트폰과 개인용 컴퓨터처럼 메모리와 연산 능력이 제한된 환경에서 한국어를 빠르고 효율적으로 처리하는 데 초점을 맞췄습니다.

헤드라인만 보면 “한국어 처리 효율 30% 향상”이 가장 먼저 눈에 들어옵니다. 그런데 이 숫자를 한국어 답변이 30% 더 정확해졌다는 뜻으로 읽으면 틀립니다. 무엇이 30% 좋아졌는지, 작은 모델이 실제로 어디까지 할 수 있는지, ‘오픈소스’라는 말 뒤에 어떤 이용 조건이 붙는지까지 갈라서 보겠습니다.

3줄 요약

• 카카오가 공개한 모델은 3B와 1.3B 크기의 Base·Instruct 네 종입니다. 개발 과정에는 0.9B도 등장하지만 이번 공개 목록에는 없습니다 — 카카오·허깅페이스.
• ‘한국어 효율 30% 향상’은 답변 정확도가 아니라 토크나이저의 한국어 처리 효율이 이전 세대보다 30% 이상 좋아졌다는 뜻입니다 — 카카오.
• 한국어 대화·지시 이행·도구 호출에서는 강한 자체 평가 결과를 보였지만 수학·일반 지식에서는 경쟁 모델에 뒤진 항목도 있습니다. 라이선스 역시 일부 재판매 사업에는 별도 계약이 필요합니다.

이번에 공개된 것은 정확히 네 모델

SLM은 Small Language Model, 우리말로 경량 언어모델입니다. 모델 크기를 나타내는 B는 10억 개의 매개변수를 뜻합니다. 3B는 약 30억 개, 1.3B는 약 13억 개의 매개변수를 가진 모델이라는 의미입니다. 수천억 개 매개변수를 쓰는 거대 모델과 비교하면 작지만, 스마트폰 같은 제한된 환경에서는 이 차이가 메모리와 속도를 크게 가릅니다.

이번 허깅페이스 컬렉션에 올라온 모델은 다음 네 종입니다.

공개 모델	크기	성격	주된 용도
Kanana-2-3B-Base	30억	기본 모델	추가 연구·미세조정
Kanana-2-3B-Instruct	30억	지시 학습 모델	대화·요약·도구 호출
Kanana-2-1.3B-Base	13억	압축 기본 모델	작은 모델 연구·맞춤 학습
Kanana-2-1.3B-Instruct	13억	지시 학습 모델	온디바이스 응용

Base와 Instruct의 차이도 알아둘 필요가 있습니다. Base는 방대한 문장을 읽으며 언어의 기본 구조를 배운 원재료에 가깝습니다. 연구자가 특정 업무에 맞게 다시 학습시키기 좋지만, 일반 사용자의 질문에 친절하게 답하도록 완성된 챗봇은 아닙니다. Instruct는 그 기본 모델에 질문을 이해하고 지시를 따르는 후속 학습을 더한 버전입니다. 대화나 요약, 코드 생성처럼 우리가 떠올리는 AI 비서에는 Instruct가 더 가깝습니다.

카카오 개발기에는 3B, 1.3B와 함께 0.9B 모델도 등장합니다. 3B를 2B, 1.3B, 0.9B로 단계적으로 줄이며 성능을 물려주는 실험을 했기 때문입니다. 하지만 카카오가 이번에 공개한다고 명시한 가중치는 3B와 1.3B의 Base·Instruct입니다. 0.9B까지 공개됐다고 쓰면 개발 대상과 실제 배포 목록을 섞는 셈입니다.

왜 거대한 AI를 두고 작은 AI를 만들까

큰 모델은 대체로 더 많은 지식과 복잡한 문제 해결 능력을 갖습니다. 대신 실행할 때 많은 메모리와 전력, 서버 비용이 듭니다. 스마트폰이 모든 요청을 클라우드의 대형 모델로 보내면 통신 지연이 생기고, 연결이 끊긴 곳에서는 작동하기 어렵습니다. 대화나 문서가 외부 서버로 이동하는 문제도 생깁니다.

SLM은 모든 문제를 혼자 풀겠다는 모델이 아닙니다. 자주 반복되고 범위가 좁은 일을 기기 가까이에서 빠르게 처리하는 쪽에 가깝습니다.

• 메시지나 통화 내용 요약
• 짧은 답장과 문장 교정
• 앱 안에서 사용자의 명령 분류
• 일정·검색 같은 기능을 호출할지 판단
• 기기 안 문서에서 필요한 내용을 찾는 보조 작업

어려운 추론은 클라우드의 큰 모델에 맡기고, 간단하고 민감한 작업은 기기의 작은 모델이 맡는 식으로 역할을 나눌 수도 있습니다. 냉장고 하나를 옮길 때는 큰 트럭이 필요하지만, 매일 장을 볼 때까지 늘 큰 트럭을 부를 이유는 없는 것과 비슷합니다.

카카오는 이미 2026년 3월 출시한 ‘카나나 인 카카오톡’에 자체 SLM을 사용한다고 밝혔습니다. 다만 그 서비스가 이번에 공개한 Kanana-2 가중치를 그대로 쓴다는 발표는 없습니다. 공개 모델과 실제 서비스 내부 모델을 같은 것으로 단정해서는 안 됩니다. 연결점은 ‘작은 모델을 실제 생활 서비스에 활용한다’는 방향입니다.

‘한국어 효율 30%‘는 정확도가 아니다

이번 발표에서 가장 오해하기 쉬운 숫자가 30%입니다. 카카오의 설명은 Kanana-2 토크나이저가 이전 세대보다 한국어 처리 효율을 30% 이상 개선했다는 것입니다.

언어모델은 문장을 글자 그대로 읽지 않습니다. 입력 문장을 토큰이라는 작은 조각으로 나눈 뒤 숫자로 바꿔 처리합니다. 영어 중심으로 만들어진 토크나이저는 한국어 한 단어나 어미를 지나치게 잘게 쪼갤 때가 있습니다. 같은 뜻을 전달하는데 토큰이 더 많이 필요하면 처리해야 할 양도 늘어납니다.

가상의 예를 들어보겠습니다.

“내일 오후 회의 내용을 요약해 줘”

이 문장을 이전 방식이 20개 토큰으로 나눴는데 새 방식은 14개 안팎으로 표현할 수 있다면, 모델은 같은 한국어 요청을 더 짧은 입력으로 받습니다. 여러 문장을 계속 처리하는 서비스에서는 이 차이가 메모리 사용량과 처리 속도, 비용으로 누적됩니다.

중요한 단서가 있습니다. 토큰을 30% 덜 쓴다고 답변의 사실성이 자동으로 30% 좋아지는 것은 아닙니다. 토크나이저 개선은 언어를 담는 포장 방식의 효율이고, 지식과 추론 정확도는 모델 학습과 데이터, 후속 조정의 영향을 따로 받습니다. 따라서 제목을 “한국어 성능 30% 향상”이라고 뭉뚱그리면 실제 발표보다 과장됩니다.

긴 문장을 읽으면서 메모리는 줄이는 방법

작은 모델이 긴 대화를 읽으면 다른 문제가 생깁니다. 앞에서 본 단어를 기억하기 위해 임시로 쌓아두는 정보, 이른바 KV 캐시가 커집니다. 대화가 길수록 메모리를 더 많이 차지해 스마트폰 같은 환경에는 부담입니다.

Kanana-2 1.3B는 이를 줄이기 위해 **슬라이딩 윈도 어텐션(SWA)**을 사용합니다. 모든 층이 처음부터 끝까지 전체 문장을 바라보는 대신, 일부는 가까운 범위를 집중해서 보고 중간중간 전체를 보는 층을 섞는 방식입니다. 카카오 모델 카드에 따르면 32K 길이에서 전체 어텐션만 쓰는 모델과 비교해 KV 캐시 사용량을 최대 약 72.7% 줄였습니다. 기본 문맥 길이는 최대 32,768토큰입니다.

쉽게 말해 긴 회의록을 읽을 때 모든 문장을 계속 책상 위에 펼쳐두는 대신, 지금 필요한 주변 페이지를 중심으로 보고 가끔 전체 목차를 확인하는 방식입니다. 완전히 같은 작업은 아니지만, 왜 메모리가 줄어드는지는 이 비유로 이해할 수 있습니다.

다만 32K를 지원한다는 사실과 32K 전체를 언제나 정확하게 이해한다는 말은 다릅니다. 카카오 자체 RULER-32K 평가에서 3B Base는 67.50, 1.3B Base는 55.72를 기록했습니다. 비교 모델 Qwen3-1.7B-Base는 69.01이었습니다. 긴 입력을 넣을 수는 있지만, 그 안의 정보를 정확히 찾아 쓰는 능력에서는 경쟁 모델보다 낮은 결과도 나왔다는 뜻입니다.

성능표를 보면 강점과 약점이 함께 보인다

제조사가 새 모델을 공개할 때는 대개 이긴 숫자가 앞에 나옵니다. 이번에도 “유사 크기 글로벌 모델 대비 경쟁력 있는 성능”이 강조됐습니다. 실제 카카오의 Instruct 평가에서 Kanana-2는 한국어 대화, 지시 이행, 도구 호출과 코드 생성에서 눈에 띄는 결과를 냈습니다.

평가 항목	Kanana-2 3B	Kanana-2 1.3B	Qwen3.5 2B	Qwen3 1.7B
한국어 대화 KoMT-Bench	6.92	6.54	5.21	5.29
지시 이행 IFEval	80.96	77.63	66.91	68.39
도구 호출 BFCL-v3 Live	71.94	69.64	66.96	65.48
코드 생성 MBPP	70.63	69.05	55.56	62.17
수학 MATH-500	61.20	61.40	67.80	72.00
일반 지식 MMLU-CoT	61.09	60.37	69.01	66.02

표의 결은 분명합니다. 한국어와 지시 수행, 도구 사용은 강하고 수학과 일반 지식은 상대적으로 약합니다. 특히 1.3B가 자신보다 큰 3B에 가까운 지시 이행과 코드 생성 점수를 낸 것은 압축 모델의 실용성을 보여주는 대목입니다. 반대로 “작지만 모든 영역에서 최고”라는 결론을 내릴 수는 없습니다.

평가 조건도 봐야 합니다. 카카오는 같은 생성 설정을 사용했다고 밝혔지만, 이 수치는 모두 카카오가 공개한 자체 평가입니다. 일부 대화 평가는 GPT-4o를 심판 모델로 사용했고, 한국어 코딩 평가 중에는 내부 번역 데이터도 포함됐습니다. 독립 기관이 같은 환경에서 재현한 결과가 나오기 전까지는 가능성을 보여주는 제조사 성적표로 읽는 게 적절합니다.

META TOUR의 관점: Kanana-2의 경쟁력은 “가장 똑똑한 AI”보다 “작은 크기로 한국어 명령을 얼마나 잘 알아듣는가”에 있습니다. 거대 모델의 종합 점수표와 같은 잣대로만 보면 이 모델이 노리는 자리를 놓치게 됩니다.

내 스마트폰에서 바로 실행할 수 있을까

결론부터 말하면, 온디바이스를 겨냥한 모델이지만 일반 사용자가 파일을 내려받아 바로 쓰는 완제품 앱은 아닙니다.

허깅페이스에는 모델 가중치와 Transformers, vLLM 등을 이용한 실행 방법이 공개돼 있습니다. 개발자는 이를 내려받아 자신의 환경에서 시험하거나 서비스에 맞게 추가 학습할 수 있습니다. 하지만 실제 스마트폰 앱에 넣으려면 다음 작업이 필요합니다.

• 모델 수치를 더 적은 비트로 줄이는 양자화
• 안드로이드·iOS 또는 전용 AI 칩에 맞는 추론 엔진 선택
• 기기 메모리와 발열·배터리에 맞춘 최적화
• 앱 기능과 모델을 연결하고 개인정보 처리 방식을 설계하는 작업

따라서 “스마트폰에서 구동할 수 있다”는 말은 탑재 가능성을 목표로 설계됐다는 의미에 가깝습니다. 모든 스마트폰에서 같은 속도로 잘 돌아간다는 보장은 아니며, 카카오는 이번 공개와 함께 지원 기기 목록이나 소비자용 실행 앱을 제시하지 않았습니다.

온디바이스라고 해서 개인정보가 자동으로 안전해지는 것도 아닙니다. 앱이 모델을 기기 안에서 실행하더라도 검색이나 계정 동기화를 위해 서버와 통신할 수 있습니다. 실제 서비스가 데이터를 어디서 처리하고 무엇을 전송하는지는 각 앱의 안내를 따로 확인해야 합니다.

그럼에도 작은 모델의 방향은 중요합니다. AI가 일상 앱에 깊이 들어갈수록 모든 요청을 거대한 서버로 보내는 방식은 비용과 지연, 프라이버시 측면에서 부담이 커집니다. 카나나처럼 한국어에 맞춘 작은 모델은 그 부담을 나눌 선택지가 됩니다. AI가 사용자의 목표를 이해하고 여러 기능을 부르는 방식은 AI 에이전트란 무엇인가에서 더 쉽게 풀어두었습니다.

‘오픈소스’지만 상업 이용 조건은 확인해야 한다

네 모델은 누구나 내려받아 연구하고 수정할 수 있도록 가중치가 공개됐습니다. 하지만 흔히 접하는 Apache 2.0처럼 모든 상업적 재판매를 폭넓게 허용하는 라이선스는 아닙니다. Kanana License라는 카카오의 사용자 지정 조건이 적용됩니다.

라이선스 원문에 따르면 모델이나 파생 모델을 이용해 자신의 서비스를 개발·운영하는 것은 별도 상업 라이선스 없이 가능합니다. 반면 다음 사업에는 카카오가 별도로 부여하는 상업 라이선스가 필요합니다.

1. 모델이나 파생 모델의 API·클라우드 접근권을 제3자에게 판매
2. SI 또는 온프레미스 구축 상품의 일부로 모델을 재판매
3. 모델을 기기에 내장해 제3자에게 판매

예를 들어 사내 문서 검색 도구를 자체 운영하는 것과, Kanana-2 API 사용권을 다른 회사에 돈을 받고 파는 것은 라이선스상 같은 일이 아닙니다. 공개 가중치라는 이유만으로 “어떤 상업 서비스에도 무료”라고 단정하면 안 됩니다. 실제 제품에 넣기 전에는 최신 라이선스 원문과 카카오의 안내를 확인해야 합니다.

한편 카카오는 모델 카드에서 사전 학습과 후속 학습에 카카오 사용자 데이터를 사용하지 않았다고 명시했습니다. 카카오톡 대화가 공개 모델 학습에 들어간 것 아니냐는 우려에 답하는 중요한 문장입니다. 다만 학습 데이터 전체 구성과 필터링을 외부가 독립적으로 검증했다는 의미까지는 아닙니다.

이번 공개가 중요한 진짜 이유

Kanana-2 SLM을 챗GPT의 새 경쟁자로 보면 크기부터 맞지 않습니다. 이 모델은 모든 질문에 답하는 하나의 거대한 두뇌보다, 한국어 서비스 안에 들어가는 작고 전문적인 부품에 가깝습니다.

그 부품이 공개됐다는 데 의미가 있습니다. 국내 개발자는 한국어 대화와 지시 수행에 맞춘 1.3B·3B 모델을 직접 내려받아 실험할 수 있습니다. 회사는 민감한 데이터를 외부 범용 API로 보내지 않고 자체 환경에 맞춘 모델을 검토할 수 있습니다. 연구자는 카카오가 공개한 압축·증류 결과를 다른 모델과 비교할 수 있습니다.

반대로 아직 확인해야 할 것도 많습니다.

• 실제 스마트폰별 속도·메모리·배터리 성능
• 양자화했을 때 한국어 능력이 얼마나 유지되는지
• 카카오 자체 평가가 외부 평가에서도 재현되는지
• 실제 서비스에서 환각과 유해 응답을 어떻게 통제하는지
• 사용자 지정 라이선스가 국내 개발 생태계 확산에 어떤 영향을 주는지

그래서 지금의 가장 정확한 평가는 이렇습니다. Kanana-2는 한국어 온디바이스 AI의 가능성을 보여주는 유망한 공개 모델이지만, 일반 사용자가 손쉽게 쓰는 완제품이나 모든 영역에서 검증된 최강 모델은 아닙니다.

자주 묻는 질문

Kanana-2 SLM은 어떤 모델인가요?

카카오가 스마트폰과 PC처럼 자원이 제한된 환경을 겨냥해 개발한 한국어·영어 경량 언어모델입니다. 2026년 7월 28일 3B와 1.3B 크기의 Base·Instruct 모델 네 종이 허깅페이스에 공개됐습니다.

한국어 효율이 30% 향상됐다는 것은 정확도가 30% 올랐다는 뜻인가요?

아닙니다. 이전 세대 토크나이저보다 한국어 문장을 30% 이상 효율적으로 토큰화한다는 뜻입니다. 같은 문장을 더 적은 토큰으로 표현하면 처리량과 메모리·비용 측면에서 유리하지만, 답변 정확도가 곧바로 30% 상승했다는 의미는 아닙니다.

Kanana-2를 스마트폰에서 바로 사용할 수 있나요?

온디바이스 배포를 목표로 설계됐지만, 모델을 내려받는 것만으로 모든 스마트폰에서 바로 실행되는 것은 아닙니다. 실제 모바일 앱에는 양자화, 기기별 추론 런타임, 메모리 최적화와 앱 통합이 추가로 필요합니다.

Base 모델과 Instruct 모델은 무엇이 다른가요?

Base는 대규모 문장을 학습한 기본 모델로 추가 연구·미세조정에 적합합니다. Instruct는 질문과 지시를 따르도록 후속 학습한 모델이라 대화, 요약, 코드 생성, 도구 호출 같은 실제 응용에 더 가깝습니다.

Kanana-2는 상업적으로 무료로 사용할 수 있나요?

자체 서비스의 개발·운영에는 별도 상업 라이선스 없이 사용할 수 있습니다. 다만 모델 API·클라우드 접근권 판매, SI·온프레미스 재판매, 모델을 기기에 탑재해 제3자에게 판매하는 경우에는 카카오의 별도 상업 라이선스가 필요합니다. 실제 이용 전 최신 Kanana License 원문을 확인해야 합니다.

카나나 인 카카오톡이 이번 공개 모델을 사용하나요?

카카오는 카나나 인 카카오톡에 자체 SLM을 활용한다고 밝혔지만, 이번에 공개한 Kanana-2 가중치가 서비스에 그대로 사용된다고 명시하지는 않았습니다. 같은 계열의 방향성을 공유한다고 볼 수는 있어도 두 모델을 동일한 것으로 단정하면 안 됩니다.

마무리

AI 경쟁은 그동안 얼마나 큰 모델을 만들고 얼마나 어려운 문제를 푸는지에 집중됐습니다. 하지만 AI가 스마트폰과 메신저, 자동차와 가전 안으로 들어가려면 다른 질문이 필요합니다. 얼마나 작게 만들면서도 필요한 일을 놓치지 않을 수 있는가.

Kanana-2 SLM은 그 질문에 대한 카카오의 두 번째 답입니다. 30%라는 숫자의 핵심은 더 똑똑해졌다는 광고 문구가 아니라, 한국어를 더 적은 토큰으로 다루도록 기초 체질을 바꿨다는 데 있습니다. 여기에 긴 입력의 메모리를 줄이는 구조와 작은 모델로 성능을 물려주는 압축 기술을 더했습니다.

지금 당장 내 스마트폰에 설치할 AI 앱은 아닙니다. 그렇지만 앞으로 카카오톡 안에서 메시지를 정리하고, 기기 안 문서를 찾고, 간단한 명령을 처리하는 AI가 어떤 크기와 방식으로 움직일지를 미리 보여주는 모델입니다. 거대한 AI가 모든 일을 독차지하는 대신, 작고 빠른 한국어 AI가 필요한 곳에 나눠 들어가는 흐름. 이번 공개에서 봐야 할 변화는 바로 그쪽입니다.

참고 자료

• 카카오 테크블로그 — 더 작고 강해진 Kanana SLM 개발 (공개 모델·학습 과정·한국어 토크나이저·SWA·임베딩 연구, 2026-07-28). 자료 보기
• 카카오 허깅페이스 — Kanana-2-SLM 공식 컬렉션 (공개 모델 네 종, 2026-07-28). 자료 보기
• 카카오 허깅페이스 — Kanana-2-3B-Instruct 모델 카드 (모델 개요·성능표·배포 방법·학습 데이터 안내). 자료 보기
• 카카오 허깅페이스 — Kanana License (이용·배포 및 별도 상업 라이선스 조건). 자료 보기
• 카카오 테크블로그 — 작지만 강한 Kanana Nano 효율적으로 개발하기 (이전 세대 SLM 압축·증류 개발기, 2025-01-10). 자료 보기