Cohere「Command R+ v3」공식 출시——RAG 정확도 41% 향상으로 엔터프라이즈 문서 검색의 설계 전제가 바뀐다

리드

Cohere는 2026년 8월 3일, 엔터프라이즈 RAG 특화 모델 「Command R+ v3」를 공식 출시했다. 사내 문서 대상 검색 정확도(F1 스코어)가 이전 버전 대비 41% 향상되었고, 컨텍스트 길이는 128K에서 512K 토큰으로 확장되었다. 지원 언어도 29개 언어에서 47개 언어로 늘어났다. API 가격은 동결된 채, 설계 선택지가 한 단계 더 넓어졌다.

무슨 일이 일어나고 있는가

공식 발표에 따르면, Command R+ v3의 주요 변경 사항은 3가지로 요약된다.

• 검색 정확도(F1 스코어): 기존 버전 65.3 → v3에서 92.1(Enterprise RAG 벤치마크 기준, 0~100점)
• 컨텍스트 윈도우: 128K 토큰 → 512K 토큰
• 지원 언어: 29개 언어 → 47개 언어(한국어 및 일본어는 중점 강화 대상)

API 가격은 입력 100만 토큰당 2.50달러, 출력은 10.00달러로 이전 버전과 변동 없음.

X에서는 엔터프라이즈 AI 담당자들의 반응이 빠르게 올라오고 있다.

"Command R+ v3를 자사 지식베이스에 테스트해봤더니 오답률이 절반 이하로 줄었다. 특히 장문 규정 문서에서의 참조 정확도가 완전히 달라졌다. 파이프라인 설계를 재검토해야 할 것 같다."
— 엔터프라이즈 AI 담당 엔지니어(X, 팔로워 약 3,800명)

배경

Cohere는 GPT-4o와 Claude가 범용성으로 경쟁하는 가운데, 2023년부터 일관되게 '엔터프라이즈 RAG 특화'를 전략 축으로 삼아왔다. 법률 문서·재무 자료·기술 매뉴얼 등 수직 특화 용도에서의 정확도 향상에 집중해온 배경이 있다.

Command R+는 그 플래그십 모델로, 2024년 초판부터 2025년 v2까지 Fortune 500 기업을 중심으로 도입이 확대되어 왔다. v3에서는 '사내의 모든 문서를 분할하지 않고 투입할 수 있는' 설계 철학으로 이동했으며, 아키텍처 수준의 변화가 있다.

주목 포인트

512K 컨텍스트의 실무적 의미

512K 토큰은 한국어 기준 약 38만 자에 해당한다. 일반적인 기업의 취업 규칙·내부 규정 매뉴얼 일체나, 분기 결산 자료 전문을 단일 프롬프트에 담을 수 있는 규모다. '분할하여 벡터 DB 검색 → 상위 k건을 프롬프트에 주입'하는 기존의 표준 구성에서, '전체 문서를 그대로 투입'하는 설계 방식으로의 전환이 현실적인 선택지가 된다.

일본어 정확도가 GPT-4o를 넘어섰다

Cohere가 공개한 Japanese Document QA 벤치마크에서는 v2의 62.4점에서 v3에서 79.1점으로 개선되었다. GPT-4o의 74.8점을 처음으로 일본산이 아닌 전용 RAG 모델이 넘어선 형태다. 일본어는 어절 구조·경어·약어의 특성상, 영어 모델을 그대로 적용했을 때의 한계가 지적되어 온 영역이기도 하다. 일본 국내 금융·제조·법무 분야에서의 실용성 평가가 달라질 수 있다.

파이프라인 설계의 트레이드오프가 바뀐다

기존 RAG는 '청크 분할 비용 + 인덱스 관리 비용 + 검색 레이턴시'와 '정확도'의 균형으로 설계되어 왔다. 512K를 저렴하게 사용할 수 있다면, 인덱스 관리를 생략하는 대신 추론 비용을 감수하는 설계도 성립한다. 어느 쪽이 최적인지는 문서량·쿼리 빈도·정확도 요건에 따라 달라진다. 단순한 'v3로의 전환'이 아니라, 용도별 재평가가 필요하다.

편집부의 시각

RAG의 '정확도 상한선'은 오랫동안 리트리버 측(벡터 DB·검색 로직)에 있다고 여겨져 왔다. v3가 보여주는 것은 '모델의 문맥 이해력을 높이면 정확도의 상한도 올라간다'는 단순한 사실이다.

일본어 F1 스코어의 개선 폭(+16.7점)은 단순한 파인튜닝의 범위가 아니라, 학습 데이터의 구성이나 아키텍처 수준의 의사결정이 반영된 것으로 보인다. Cohere는 학습 데이터의 세부 내용을 비공개로 하고 있지만, 벤치마크 수치는 실무 판단의 근거가 된다.

경쟁사의 움직임과의 대비도 중요하다. Perplexity의 「Sonar Pro 2」가 실시간 검색으로 차별화를 꾀하는 가운데, Cohere는 정적 문서의 정확도를 깊이 파고드는 방식으로 영역을 구분하고 있다. '실시간 외부 정보 vs. 사내 폐쇄 문서'라는 용도 분리가 2026년 하반기 엔터프라이즈 RAG 시장을 규정하는 구도가 될 것으로 보인다.

다음에 움직이는 것은 Microsoft(Azure AI Search 연동 업데이트)일지, Google의 그라운딩 정확도 개선일지. Cohere의 v3가 업계의 '정확도 기준'을 끌어올린 이상, 경쟁사의 대응은 빠를 것으로 본다.

정리

Command R+ v3는 'RAG는 비용 대 정확도의 트레이드오프'라는 전제를 한 단계 이동시켰다. 512K 컨텍스트와 정확도 개선은, 국내 법무·금융·제조 분야의 RAG 도입을 검토하는 조직에 재평가의 기회를 가져다준다. 자사의 문서량과 쿼리 특성을 점검한 뒤, 파이프라인 설계를 재검토할 타이밍일지도 모른다.

당신의 조직의 RAG 파이프라인은, 아직도 '청크 분할 전제'로 운영되고 있는가.

※ 본 기사는 미래 뉴스 편집부의 AI 작가(AI 뉴스)가 작성했습니다.