토큰이 뭔데,
컨텍스트가 뭔데

사람은 글을 단어 단위로 읽는다. "안녕하세요"는 한 단어다. 하지만 AI는 다르다. AI에게 "안녕하세요"는 2~3개의 조각이다. 이 조각 하나하나를 토큰이라 부른다.

왜 한국어가 더 많은 토큰을 쓰는가. AI의 사전(vocabulary)은 영어 중심으로 만들어졌기 때문이다. 영어 단어는 통째로 사전에 올라가 있지만, 한글은 자음과 모음의 조합이 워낙 다양해서 더 잘게 쪼개야 표현할 수 있다. 같은 내용을 전달해도 한국어는 영어보다 토큰을 1.5~2배 더 소비한다.

이게 왜 중요한가. AI 서비스의 요금은 대부분 토큰 단위로 매겨진다. 1,000토큰에 얼마, 하는 식이다. 한국어 사용자는 같은 양의 정보를 처리해도 영어 사용자보다 비용이 더 든다. 그래서 AI 모델이 한국어 토큰을 얼마나 효율적으로 처리하는지가 실질적인 성능 지표가 된다.

AI에게 긴 이야기를 하다 보면 앞에서 한 말을 잊어버리는 경험을 해본 적이 있을 것이다. "아까 제가 말한 프로젝트 이름이 뭐였죠?" 하고 물으면 엉뚱한 답이 돌아온다. 이유가 있다. AI에게는 한 번에 기억할 수 있는 분량의 한계가 있기 때문이다.

초기 ChatGPT(GPT-3.5)의 컨텍스트 윈도우는 4,096토큰이었다. A4로 약 7~8페이지. 긴 보고서를 통째로 넣을 수 없었다. 2024년에 나온 모델들은 128K(약 A4 250페이지)까지 늘었고, 2026년 현재 최신 모델들은 256K(약 A4 500페이지)를 기본으로 제공한다.

숫자가 커지면 무엇이 달라지는가. 문서 전체를 한 번에 넣고 질문할 수 있다. 100페이지짜리 계약서를 읽고 특정 조항을 찾아달라고 할 수 있다. 지난 한 달의 대화 기록을 기억한 채로 이어서 대화할 수 있다. 프로젝트의 소스 코드 전체를 넣고 버그를 찾아달라고 할 수 있다.

Qwen3.5는 기본 256K 토큰, YaRN이라는 기술을 적용하면 1M(100만) 토큰까지 확장된다. 한국어 기준 A4 약 2,000페이지. 200페이지짜리 소설 10권을 동시에 펼쳐놓고 작업하는 셈이다. 이 정도면 기업의 사내 매뉴얼 전체를 한 번에 넣고 질문할 수 있다.

AI 뉴스를 보면 "397B 파라미터"라는 표현이 등장한다. B는 Billion, 즉 10억이다. 397B면 3,970억 개. 이 숫자가 클수록 AI가 학습한 지식의 양이 많다고 보면 된다. 하지만 숫자가 크다고 무조건 좋은 것은 아니다.

여기서 문제가 생긴다. 파라미터가 3,970억 개면 이걸 돌리는 데 수천만 원짜리 GPU가 필요하다. 일반인이 접근할 수 없는 규모다. 그래서 Qwen3.5는 전혀 다른 방식을 쓴다.

결과적으로 Qwen3.5는 1조 파라미터급 모델의 성능을 내면서, 실제 연산량은 170억 파라미터 수준이다. 같은 성능에 GPU 비용은 훨씬 적게 든다. 이것이 MoE 아키텍처의 핵심이다. "적은 돈으로 비싼 병원 수준의 진료를 받는 방법"이라고 이해하면 된다.

여기에 한 가지 기술이 더해진다. Multi-Token Prediction(MTP). 보통 AI는 한 번에 토큰 하나씩 생성한다. 한 글자 쓰고, 다음 글자 예측하고, 또 쓰고. MTP는 한 번에 여러 토큰을 동시에 예측한다. 답변 생성 속도가 체감될 정도로 빨라진다. Qwen3.5가 256K 컨텍스트에서 이전 모델 대비 19배 빠른 처리 속도를 기록한 배경이다.

2026년 2월 16일, 알리바바 클라우드가 Qwen3.5를 공개했다. AI 커뮤니티가 반응한 이유는 단순하다. 무료인데 유료급이다.

벤치마크 숫자는 비전문가에게 의미가 없다. 대신 이렇게 번역할 수 있다.

한 가지 더. Qwen3.5는 201개 언어를 지원한다. 이전 버전(119개)에서 대폭 확대되었고, 한국어에 대한 추론 능력이 별도로 강화되었다. 한국어 30,000개의 수학/과학/코딩 추론 데이터로 추가 학습한 연구 결과도 있다. 한국어 음성 인식(TTS)에서는 10개 언어 중 최저 오류율을 기록했다.

물론 한계도 있다. 복잡한 대규모 코드 리팩토링이나, 최상위 수준의 추론 과제에서는 Claude Opus나 GPT-5 계열이 여전히 우위를 점한다. Qwen3.5는 "모든 분야에서 1등"이 아니라, "무료 모델 중 거의 모든 분야에서 1등"이다. 이 차이를 이해하는 것이 중요하다.