AI는 질문을 어떻게 이해하고 답할까?
쿼리 팬아웃부터 멀티모달 AI, 컨텍스트 윈도우, 임베딩, 벡터 검색, RAG까지, AI가 고객의 질문을 이해하고 관련 정보를 찾아 답변을 생성하는 과정과 마케터가 알아야 할 핵심 개념을 정리했습니다.
키워드
📌 마케터를 위한 핵심 요약
AI는 고객의 질문을 이해하고, 관련 정보를 찾아 종합한 뒤 답변을 생성합니다. 프롬프트부터 RAG까지, AI가 답변을 만드는 과정에서 알아야 할 핵심 용어 6가지를 짚어봅니다.
고객은 키워드 검색을 넘어 AI에게 원하는 조건을 설명하며 상품을 찾습니다. AI는 질문의 맥락을 파악하고 의미가 비슷한 정보를 찾으며, 필요한 자료를 참고해 답변을 만듭니다. 오늘은 AI 답변이 만들어지는 과정을 중심으로 마케터가 알아두면 좋은 용어 6가지를 정리했습니다.
1. 쿼리 팬아웃 (Query Fan-out)
쿼리 팬아웃(Query Fan-Out)은 하나의 질문을 여러 개의 하위 질문으로 나누어 동시에 검색하는 AI 검색 기술입니다. 기존 검색이 하나의 검색어에 맞는 결과를 찾는 방식이라면, 생성형 AI는 사용자의 의도를 바탕으로 여러 관련 정보를 동시에 찾고, 이를 종합해 답변을 만듭니다.1)
중요한 점은 AI가 하나의 키워드에만 집중하는 것이 아니라, 고객의 질문을 이해하고 다양한 주제를 함께 찾는다는 것입니다. 상품명뿐 아니라 성능, 용도, 가격, 사용 환경 등 고객이 궁금해할 내용을 구체적으로 제공하면 AI가 관련 정보를 찾는 데 도움이 될 수 있습니다.
2. 멀티모달 AI (Multimodal AI)
멀티모달 AI는 텍스트·이미지·오디오·영상처럼 여러 형태의 데이터를 동시에 처리하고 이해하는 AI를 말합니다. 기존 AI가 텍스트 중심으로 정보를 처리했다면, 멀티모달 AI는 다양한 형태의 정보를 종합해 답변을 생성합니다.2) 고객이 상품 사진을 올리며 “비슷한 디자인의 원피스를 찾아줘."라고 질문하면, AI가 이미지와 텍스트를 함께 분석해 답변하는 것이 대표적인 예입니다.
이러한 변화로 고객이 상품을 찾는 방식도 다양해지고 있습니다. 마케터는 상품 정보와 이미지가 같은 내용을 담고 있는지 점검하고, AI가 상품을 정확하게 이해하고 답변할 수 있도록 관리하는 것이 중요합니다.
3. 컨텍스트 윈도우 (Context Window)
컨텍스트 윈도우(Context Window)는 AI가 답변을 생성할 때 한 번에 참조할 수 있는 정보의 범위를 의미합니다. 쉽게 말해 AI의 작업 메모리로, 고객의 현재 질문 뿐 아니라 앞서 나눈 대화까지 참고합니다. Anthropic은 이를 모델이 응답을 만들 때 한 번에 참고할 수 있는 텍스트의 범위라고 설명합니다.3) 예를 들어 고객이 "하객룩을 추천해줘."라고 질문한 뒤 "10만 원 이하로.", "여름에 입기 좋은 스타일로."처럼 조건을 추가하면, AI는 앞선 대화를 참고해 답변을 생성합니다.
4. 임베딩 (Embedding)
임베딩(Embedding)은 텍스트나 이미지 같은 데이터를 AI가 이해할 수 있는 숫자 벡터로 변환하는 기술입니다. 중요한 것은 단순히 숫자로 바꾸는 것이 아니라, 의미가 비슷한 정보를 가까운 위치에 배치한다는 것입니다. Google은 임베딩이 데이터 사이의 의미적 관계를 나타내는 방법이라고 설명합니다.4)
이미지 출처: Google
Google은 여러 음식의 유사성을 활용해 임베딩을 설명합니다. 샌드위치를 기준으로 하면 핫도그와 피자는 샐러드보다 공통된 특징이 많아 더 가깝게 표현됩니다. 반대로 보르시(스프)는 샌드위치와 성격이 달라 멀리 표현됩니다. 여기에 디저트에 가까운지, 액체에 가까운지 같은 기준을 추가하면 의미 차이를 더욱 정교하게 표현할 수 있습니다.4)
상품도 같은 방식으로 표현할 수 있습니다. '가벼운 여름 원피스'와 '시원한 린넨 원피스'는 사용하는 단어가 달라도 계절, 소재, 착용감 같은 특징이 비슷해 가까운 정보로 표현될 수 있습니다.
5. 벡터 검색 (Vector Search)
벡터 검색(Vector Search)은 키워드가 정확히 일치하는 정보가 아니라, 의미가 비슷한 정보를 찾는 검색 방식을 의미합니다. 임베딩을 통해 만들어진 벡터 공간에서 질문과 가까운 정보를 찾아 답변에 활용합니다. IBM은 벡터 검색을 질문의 의미와 맥락을 바탕으로 관련 정보를 찾는 기술이라고 설명합니다.5)
예를 들어 고객이 "우리 동네에 있는 맛있는 피자집"을 검색했을 때, 기존 키워드 검색은 '맛있는', '피자집'이라는 단어가 포함된 결과를 중심으로 보여줍니다. 벡터 검색은 '평점이 높은 피자집', '주민들이 추천하는 피자집'처럼 같은 단어가 없어도 의미가 비슷한 정보를 찾아 답변에 활용합니다.6)
이커머스에서도 같은 원래가 적용됩니다. 고객이 "하객룩 원피스"를 찾을 때, 상품명에 하객룩이라는 단어가 없어도 의미가 비슷한 상품을 찾을 수 있습니다. 상품의 특징, 소재, 착용 상황처럼 다양한 정보를 함께 제공하는 것이 중요합니다.
6. RAG (검색 증강 생성, Retrieval-Augmented Generation)
RAG(Retrieval-Augmented Generation)는 AI가 답변을 생성하기 전 관련된 문서나 데이터를 먼저 찾고, 그 내용을 바탕으로 답을 생성하는 방식입니다. 생성형 AI의 답변 오류를 줄이고, 최신·전문 정보를 반영하며, 답변의 근거를 제시하는데 도움이 됩니다.6)
예를 들어 정확한 답변이 필요한 CS 등에서는 FAQ, 운영 문서, 웹페이지를 활용해 답변을 만들 수 있습니다. 새로운 정책이나 이벤트도 관련 문서를 업데이트 해 AI 답변에 반영할 수 있습니다. 중요한 점은 AI가 답변을 만들 때 참고하는 정보의 품질이 답변의 품질을 좌우한다는 것입니다. 정보를 최신 상태로 유지하고, 일관된 내용을 제공하는 것이 중요합니다.
AI는 고객 질문의 맥락을 이해하고 정보를 찾아 답변을 생성합니다. 고객의 상품 탐색 방식이 달라진 만큼, 우리 상품 정보가 AI에 어떻게 이해되고 답변에 활용되는지도 함께 점검해볼 시점입니다.
출처
1) Google Search Help, AI Mode in Search
2) IBM, What is Multimodal AI?
3) Anthropic, Context windows
4)Google Developers, Machine Learning Crash Course – Embedding space and static embeddings
5) IBM, 벡터 검색(Vector Search)이란?
6) Google Cloud, Generative AI Glossary
고객은 키워드 검색을 넘어 AI에게 원하는 조건을 설명하며 상품을 찾습니다. AI는 질문의 맥락을 파악하고 의미가 비슷한 정보를 찾으며, 필요한 자료를 참고해 답변을 만듭니다. 오늘은 AI 답변이 만들어지는 과정을 중심으로 마케터가 알아두면 좋은 용어 6가지를 정리했습니다.
1. 쿼리 팬아웃 (Query Fan-out)
쿼리 팬아웃(Query Fan-Out)은 하나의 질문을 여러 개의 하위 질문으로 나누어 동시에 검색하는 AI 검색 기술입니다. 기존 검색이 하나의 검색어에 맞는 결과를 찾는 방식이라면, 생성형 AI는 사용자의 의도를 바탕으로 여러 관련 정보를 동시에 찾고, 이를 종합해 답변을 만듭니다.1)
중요한 점은 AI가 하나의 키워드에만 집중하는 것이 아니라, 고객의 질문을 이해하고 다양한 주제를 함께 찾는다는 것입니다. 상품명뿐 아니라 성능, 용도, 가격, 사용 환경 등 고객이 궁금해할 내용을 구체적으로 제공하면 AI가 관련 정보를 찾는 데 도움이 될 수 있습니다.
2. 멀티모달 AI (Multimodal AI)
멀티모달 AI는 텍스트·이미지·오디오·영상처럼 여러 형태의 데이터를 동시에 처리하고 이해하는 AI를 말합니다. 기존 AI가 텍스트 중심으로 정보를 처리했다면, 멀티모달 AI는 다양한 형태의 정보를 종합해 답변을 생성합니다.2) 고객이 상품 사진을 올리며 “비슷한 디자인의 원피스를 찾아줘."라고 질문하면, AI가 이미지와 텍스트를 함께 분석해 답변하는 것이 대표적인 예입니다.
이러한 변화로 고객이 상품을 찾는 방식도 다양해지고 있습니다. 마케터는 상품 정보와 이미지가 같은 내용을 담고 있는지 점검하고, AI가 상품을 정확하게 이해하고 답변할 수 있도록 관리하는 것이 중요합니다.
3. 컨텍스트 윈도우 (Context Window)
컨텍스트 윈도우(Context Window)는 AI가 답변을 생성할 때 한 번에 참조할 수 있는 정보의 범위를 의미합니다. 쉽게 말해 AI의 작업 메모리로, 고객의 현재 질문 뿐 아니라 앞서 나눈 대화까지 참고합니다. Anthropic은 이를 모델이 응답을 만들 때 한 번에 참고할 수 있는 텍스트의 범위라고 설명합니다.3) 예를 들어 고객이 "하객룩을 추천해줘."라고 질문한 뒤 "10만 원 이하로.", "여름에 입기 좋은 스타일로."처럼 조건을 추가하면, AI는 앞선 대화를 참고해 답변을 생성합니다.
4. 임베딩 (Embedding)
임베딩(Embedding)은 텍스트나 이미지 같은 데이터를 AI가 이해할 수 있는 숫자 벡터로 변환하는 기술입니다. 중요한 것은 단순히 숫자로 바꾸는 것이 아니라, 의미가 비슷한 정보를 가까운 위치에 배치한다는 것입니다. Google은 임베딩이 데이터 사이의 의미적 관계를 나타내는 방법이라고 설명합니다.4)
이미지 출처: Google
Google은 여러 음식의 유사성을 활용해 임베딩을 설명합니다. 샌드위치를 기준으로 하면 핫도그와 피자는 샐러드보다 공통된 특징이 많아 더 가깝게 표현됩니다. 반대로 보르시(스프)는 샌드위치와 성격이 달라 멀리 표현됩니다. 여기에 디저트에 가까운지, 액체에 가까운지 같은 기준을 추가하면 의미 차이를 더욱 정교하게 표현할 수 있습니다.4)
상품도 같은 방식으로 표현할 수 있습니다. '가벼운 여름 원피스'와 '시원한 린넨 원피스'는 사용하는 단어가 달라도 계절, 소재, 착용감 같은 특징이 비슷해 가까운 정보로 표현될 수 있습니다.
5. 벡터 검색 (Vector Search)
벡터 검색(Vector Search)은 키워드가 정확히 일치하는 정보가 아니라, 의미가 비슷한 정보를 찾는 검색 방식을 의미합니다. 임베딩을 통해 만들어진 벡터 공간에서 질문과 가까운 정보를 찾아 답변에 활용합니다. IBM은 벡터 검색을 질문의 의미와 맥락을 바탕으로 관련 정보를 찾는 기술이라고 설명합니다.5)
예를 들어 고객이 "우리 동네에 있는 맛있는 피자집"을 검색했을 때, 기존 키워드 검색은 '맛있는', '피자집'이라는 단어가 포함된 결과를 중심으로 보여줍니다. 벡터 검색은 '평점이 높은 피자집', '주민들이 추천하는 피자집'처럼 같은 단어가 없어도 의미가 비슷한 정보를 찾아 답변에 활용합니다.6)
이커머스에서도 같은 원래가 적용됩니다. 고객이 "하객룩 원피스"를 찾을 때, 상품명에 하객룩이라는 단어가 없어도 의미가 비슷한 상품을 찾을 수 있습니다. 상품의 특징, 소재, 착용 상황처럼 다양한 정보를 함께 제공하는 것이 중요합니다.
6. RAG (검색 증강 생성, Retrieval-Augmented Generation)
RAG(Retrieval-Augmented Generation)는 AI가 답변을 생성하기 전 관련된 문서나 데이터를 먼저 찾고, 그 내용을 바탕으로 답을 생성하는 방식입니다. 생성형 AI의 답변 오류를 줄이고, 최신·전문 정보를 반영하며, 답변의 근거를 제시하는데 도움이 됩니다.6)
예를 들어 정확한 답변이 필요한 CS 등에서는 FAQ, 운영 문서, 웹페이지를 활용해 답변을 만들 수 있습니다. 새로운 정책이나 이벤트도 관련 문서를 업데이트 해 AI 답변에 반영할 수 있습니다. 중요한 점은 AI가 답변을 만들 때 참고하는 정보의 품질이 답변의 품질을 좌우한다는 것입니다. 정보를 최신 상태로 유지하고, 일관된 내용을 제공하는 것이 중요합니다.
AI는 고객 질문의 맥락을 이해하고 정보를 찾아 답변을 생성합니다. 고객의 상품 탐색 방식이 달라진 만큼, 우리 상품 정보가 AI에 어떻게 이해되고 답변에 활용되는지도 함께 점검해볼 시점입니다.
출처
1) Google Search Help, AI Mode in Search
2) IBM, What is Multimodal AI?
3) Anthropic, Context windows
4)Google Developers, Machine Learning Crash Course – Embedding space and static embeddings
5) IBM, 벡터 검색(Vector Search)이란?
6) Google Cloud, Generative AI Glossary