LLM(Large Language Model, 대규모 언어 모델)은 수천억 개 이상의 매개변수를 가진 인공 신경망을 방대한 텍스트로 학습시켜, 앞의 토큰을 보고 다음 토큰을 예측하는 방식으로 글을 이해하고 생성하는 언어 모델이다.
구글의 머신러닝 교육 문서는 LLM을 “토큰 또는 토큰 시퀀스를 예측하며, 때로는 여러 단락에 해당하는 예측 토큰을 예측”하는 모델로 정의하고, “수천 개의 토큰을 자동으로 예측(완성)할 수 있는 자동 완성 메커니즘”이라고 설명한다 (Google for Developers, LLM: 대규모 언어 모델이란 무엇인가요?). ChatGPT, 제미나이, 클로드 같은 AI 챗봇과 구글 AI 개요, 퍼플렉시티 같은 AI 검색이 모두 LLM 위에서 돈다.
다음에 올 토큰의 확률을 계산해 가장 그럴듯한 토큰을 이어 붙이는 방식이다. 언어 모델은 “더 긴 토큰 시퀀스 내에서 발생하는 토큰 또는 토큰 시퀀스의 확률을 추정”하는 모델이고, 토큰은 단어, 하위 단어, 문자 하나일 수 있다. 영어에서는 토큰 1개가 약 4자에 해당한다 (Google for Developers, 대규모 언어 모델 소개).
LLM이 이전 언어 모델과 다른 점은 두 가지다. 매개변수가 훨씬 많고, 훨씬 긴 문맥을 읽는다. 이를 가능하게 한 구조가 2017년 구글 연구진이 발표한 트랜스포머(Transformer)로, 순환 신경망과 합성곱을 버리고 어텐션 메커니즘만으로 만든 네트워크다 (arXiv, Attention Is All You Need, 2017-06-12).
| 구성 요소 | 하는 일 |
|---|---|
| 토큰화 | 입력 텍스트를 토큰 단위로 쪼개 숫자로 바꾼다 |
| 임베딩 | 각 토큰을 의미가 담긴 벡터로 표현한다 |
| 셀프 어텐션 | 입력의 각 토큰이 다른 토큰들과 얼마나 관련 있는지 가중치를 매겨 문맥을 파악한다 |
| 디코더 | 문맥을 바탕으로 다음 토큰의 확률 분포를 만들고 하나를 고른다 |
셀프 어텐션은 “입력의 다른 토큰이 이 토큰의 해석에 얼마나 영향을 미치나요?”라는 질문을 토큰마다 던지는 장치다. “The animal didn’t cross the street because it was too tired”에서 it이 동물인지 거리인지를 주변 단어와의 관련도로 판정한다. 트랜스포머에는 “수천억 또는 수조 개의 매개변수”가 들어가고, 구글은 “매개변수가 많은 트랜스포머가 매개변수가 적은 트랜스포머보다 일관되게 성능이 우수”하다고 정리한다 (Google for Developers, LLM: 대규모 언어 모델이란 무엇인가요?).
먼저 방대한 텍스트에서 빈칸을 채우는 사전 학습을 하고, 그 뒤에 지시를 따르도록 조정한다. 사전 학습은 “Oranges are traditionally ___ by hand” 같은 마스크 처리된 문장을 수없이 맞히는 과정이고, 이어지는 명령어 조정(instruction tuning)이 사용자의 질문에 답하는 능력을 붙인다.
규모가 성능을 결정한다는 사실은 2020년 OpenAI의 스케일링 법칙 연구가 보였다. 언어 모델의 손실은 모델 크기, 데이터 크기, 학습 연산량에 대해 거듭제곱 법칙으로 줄어들고, “더 큰 모델이 표본 효율이 훨씬 높다” (arXiv, Scaling Laws for Neural Language Models, 2020-01-23). 같은 해 나온 GPT-3는 매개변수 1,750억 개로 “이전의 어떤 비희소 언어 모델보다 10배” 컸고, 별도 미세 조정 없이 예시 몇 개만 주면 번역, 질의응답, 3자리 산수를 수행했다 (arXiv, Language Models are Few-Shot Learners, 2020-05-28).
스탠퍼드 연구진은 이렇게 “광범위한 데이터로 대규모 학습해 다양한 후속 작업에 적응할 수 있는 모델”을 파운데이션 모델(foundation model)이라고 이름 붙였다 (arXiv, On the Opportunities and Risks of Foundation Models, 2021-08-16). 기업이 자체 데이터로 LLM을 쓰는 방법은 셋으로 갈린다. 프롬프트에 지시와 예시를 넣는 프롬프트 엔지니어링, 문서를 검색해 답변에 붙이는 RAG, 모델 가중치를 다시 학습시키는 파인튜닝이다.
LLM은 텍스트를 다루는 모델이고, 생성형 AI는 LLM을 포함해 이미지와 음성까지 새로 만들어 내는 기술 전체이며, ChatGPT는 LLM 위에 대화 인터페이스를 얹은 제품이다. 구글 “LLM” 검색 결과의 관련 질문 블록에 “생성형 AI와 LLM의 차이점”, “LLM과 GPT의 차이점”이 뜰 만큼 자주 섞이는 개념들이다.
| 용어 | 범위 | 예 |
|---|---|---|
| 언어 모델 | 토큰 확률을 추정하는 모든 모델 | N-gram 모델, 순환 신경망 |
| LLM | 그중 매개변수와 학습 데이터가 매우 큰 트랜스포머 기반 모델 | GPT-4, Gemini, Claude, Llama |
| 생성형 AI | 텍스트, 이미지, 음성, 영상을 새로 만드는 AI 전체 | LLM, 이미지 생성 모델(Imagen 등) |
| GPT | OpenAI가 만든 LLM 계열의 이름 (Generative Pre-trained Transformer) | GPT-3, GPT-4 |
| ChatGPT | GPT 계열 LLM에 대화 UI와 도구를 붙인 서비스 | chatgpt.com |
“ChatGPT는 LLM인가”라는 질문의 답은 “LLM으로 만든 서비스”다. 같은 방식으로 구글 AI 개요와 AI 모드는 제미나이 LLM으로, 퍼플렉시티는 여러 LLM으로 만든 검색 제품이다.
글 생성과 요약, 번역, 코드 작성, 질의응답 챗봇, 그리고 검색이다. 구글 1페이지의 IBM, AWS, 인텔 문서가 공통으로 드는 용도가 이 다섯이고, 마케터에게 가장 큰 변화는 검색이다.
스탠퍼드 AI 인덱스 2025는 2024년에 조직의 78%가 AI를 쓴다고 답했고(2023년 55%), GPT-3.5 수준 성능의 추론 비용이 2022년 11월부터 2024년 10월 사이에 280분의 1 이하로 떨어졌다고 집계했다 (Stanford HAI, The 2025 AI Index Report). 비용이 이만큼 내려가면서 LLM이 검색 결과 페이지 안으로 들어왔다.
검색에 LLM이 들어오면 콘텐츠의 성패 기준이 바뀐다. 검색 엔진이 링크 10개를 보여 주던 자리에 LLM이 여러 문서를 읽고 답을 합성하기 때문에, 문서는 순위가 아니라 인용 여부로 평가받는다. 이 최적화가 GEO와 LLMO이고, LLM 인용이 그 성과 지표다.
환각, 비용, 편향 세 가지다. 구글은 LLM으로 추론할 때의 문제로 “LLM은 환각을 일으키므로 예측에 오류가 포함되는 경우가 많습니다”, “엄청난 양의 컴퓨팅 리소스와 전기를 소비합니다”, “다양한 편향을 나타낼 수 있습니다”를 든다 (Google for Developers, LLM: 대규모 언어 모델이란 무엇인가요?).
환각은 LLM이 다음 토큰의 확률로 문장을 만들기 때문에 생긴다. 근거가 없어도 통계적으로 그럴듯한 문장은 나온다. 학습 시점 이후의 정보를 모른다는 한계도 같은 뿌리다.
대표적 보완책이 검색 증강 생성(RAG)이다. 답변 전에 외부 문서를 검색해 참조하게 하면 최신 정보와 근거를 보강할 수 있지만, “검색된 문서의 품질에 따라 환각이 완전히 사라지지는 않는다” (위키백과, 대형 언어 모델). AI 검색이 웹 문서를 인용하는 이유가 바로 이 그라운딩이고, 인용될 만큼 명확하고 출처가 분명한 문서가 필요해지는 이유이기도 하다.
구글 키워드 플래너 기준 “llm”의 월간 검색량은 2025년 9월부터 2026년 8월까지 27,100에서 40,500 사이였고 2026년 3월과 4월에 40,500으로 가장 높았다. “llm 뜻”은 같은 기간 4,400에서 6,600으로 늘었다.
네이버 검색광고 API로 본 네이버 쪽 수요는 “LLM 뜻”이 월 PC 3,690회, 모바일 8,270회로 “llm”(6,260회, 7,220회)보다 모바일에서 더 많다. 구글에서든 네이버에서든 뜻을 묻는 질의가 검색의 절반 가까이를 차지한다.
서치폴라리스 서치콘솔에는 2026년 8월 18일부터 9월 14일까지 “llm”이 들어간 질의 47종이 잡혔다. 같은 블로그 글이 “llm”에서는 평균 75.9위였지만 “ai llm 뜻”에서는 9.9위였다. 기업 문서(IBM, AWS, 인텔)가 점령한 두 글자 질의보다 뜻을 묻는 긴 질의에서 국내 문서가 자리를 잡는다는 것을 자사 데이터가 보여 준다.
LLM은 모델의 종류이고 GPT는 OpenAI가 만든 LLM 계열의 이름이다. GPT는 Generative Pre-trained Transformer의 약자로, 트랜스포머 디코더 구조를 사전 학습한 모델이라는 뜻이다. Gemini, Claude, Llama는 GPT가 아니지만 모두 LLM이다.
ChatGPT는 LLM으로 만든 대화형 서비스다. 안에서 도는 GPT 모델이 LLM이고, ChatGPT는 그 모델에 대화 기록 관리, 웹 검색, 파일 읽기 같은 기능을 붙인 제품이다.
전혀 다르다. 법학의 LL.M.은 Master of Laws(법학 석사) 과정으로 하버드 로스쿨의 경우 1년 과정에 65개국 180명 안팎이 다닌다 (Harvard Law School, LL.M. Program). 구글 자동완성에 “llm 뜻 로스쿨”, “llm 뜻 법학”이 뜨는 것은 이 동음이의 때문이다.
클라우드 API를 부르지 않고 내 컴퓨터나 회사 서버에서 직접 실행하는 LLM이다. Llama, Gemma, Mistral처럼 가중치가 공개된 모델을 내려받아 돌리며, 데이터가 밖으로 나가지 않는 대신 GPU 메모리와 성능 한계를 감수한다.
서치폴라리스가 AI 검색 가시성을 진단하고 GEO 실행까지 대행합니다.