Leap, Leap ahead
Konan LLM
대규모 언어모델
개요
코난 LLM은 코난테크놀로지의 자연어처리 전문 AI연구소에서 개발한 문서생성AI(대규모 언어모델)로 공공기관 및
기업의 업무혁신을 가속화합니다.
특징
코난 LLM은 합리적인 비용으로 최고 성능을 제공하는 온프레미스 솔루션입니다.
고객사 내부데이터를 학습해 환각현상을 최소화할 뿐만 아니라, RAG를 연동해 답변의 신뢰성을 높입니다.
활용분야
코난 LLM은 대표적인 능력인 문서생성 외에도 질문-답변, 요약, 고쳐쓰기, 분류 등 다양한 자연어 처리 능력을 갖고 있습니다.
생성사례
코난 LLM이 생성한 ‘행정기관의 정책 보고서 초안’ 사례입니다.
‘문서생성’과 ‘질문답변’을 포함한 코난 LLM 시연영상을 시청하세요.
FAQ
코난 LLM 도입 전 궁금증은 FAQ를 통해 확인하세요.
자주 묻는 질문
네. 파인튜닝을 통해 맞춤 형식의 보고서 출력이 가능합니다.
표는 마크다운과 html 형식으로 작성 가능합니다. 향후 그래프 작성도 가능해지면, 제품 업데이트를 통해 알려드리겠습니다.
현재 영어를 지원하고 있으며, 다양한 언어로 지원 확대할 예정입니다.
현재는 텍스트만 입력이 가능합니다.
아니요. 제한 없습니다.
4k 토큰까지 입력 가능합니다. 4k는 A4 용지 6페이지 분량입니다.
docx, txt, hwpx 등 다양한 형식으로 저장 가능 합니다.
고객 개인정보 유출 피해가 발생하지 않도록 안전하게 보호하고 있습니다. 데이터 사전학습 과정에서부터 개인정보보호 가이드라인을 준수하여 '개인정보 필터링'을 지원합니다.
네. '코난 LLM 스튜디오'를 제공하여 최신데이터 추가학습 및 파인튜닝을 쉽고 편리하게 수행할 수 있습니다.
Transformer 모델의 디코더에 기반하여 자체개발한 모델입니다.
아니요. 클라우드 상에서 SaaS형태로 제공하지 않지만, 고객사의 프라이빗 클라우드 위에서는 제공 가능합니다.
2023년 8월에 출시한 13B모델과 12월에 출시한 41B모델이 있습니다.
네. 13B 추론서버는 GPU 하나로 운영 가능합니다. 다만, 학습 데이터양에 따라 필요 GPU개수는 더 추가될 수 있습니다. 자세한 내용은 아래 표를 참조하세요.
학습 및 추론용 GPU서버가 필요합니다. RAG 적용 시 추가적으로 벡터검색용 GPU 및 CPU 서버가 필요합니다.
