AI가 질문을 이해하는 능력은 비약적으로 발전했습니다. 이제는 어떻게 질문하느냐(Prompt Engineering)보다 무엇을 제공하느냐(Context Engineering)가 더 중요한 시대가 되었습니다. 본 글에서는 2025년 7월 발표된 논문 ‘A Survey of Context Engineering for Large Language Models‘을 바탕으로 더 나은 AI 활용법을 소개합니다.

프롬프트 vs 컨텍스트

• 프롬프트 엔지니어링: 최고의 답변을 얻기 위해 질문 자체를 다듬는 기술. (예: 심문관이 정교한 질문을 던지는 것)
• 컨텍스트 엔지니어링: AI가 문제를 잘 풀 수 있도록 모든 자료와 환경을 제공하는 기술. (예: 심문관에게 사건 파일 전체를 넘겨주는 것)

컨텍스트 엔지니어링의 3단계

1. 검색 및 생성 (RAG): 인터넷이나 내부 문서 등 외부 지식을 AI에게 제공하여 할루시네이션(거짓 정보)을 줄이고 정확도를 높입니다.
2. 처리 (Self-Refine): AI가 스스로 초안을 만들고 수정하며 자체적으로 답변을 개선하도록 유도합니다.
3. 관리 (Memory): AI의 기억 용량 한계를 극복하기 위해 핵심 정보를 요약하고 압축하여 효율적으로 저장합니다.

실전 활용 팁: AI에게 일을 잘 시키려면?

• 목적은 명확하게, 범위는 작게: 질문을 쪼개서 요청하세요. 중요한 정보는 처음이나 끝에 배치할 때 가장 잘 기억합니다.
• 정보는 최대한 많이: 단순히 질문만 하지 말고, 관련 문서나 도구(API) 등 참고 자료를 함께 제공하세요. 풍부한 맥락이 최고의 답변을 만듭니다.

👉 브런치에서 글 전문 읽기