AI를 '쓰는 팀' vs '이해하는 팀'의 차이
AI 도구를 도입한 팀과 AI 원리를 이해하고 도입한 팀은 제품 결정의 질이 다릅니다. 그린다에이아이 팀이 트랜스포머 아키텍처를 직접 공부하게 된 계기, 그 과정에서 발견한 것들, 그리고 실제 제품 설계가 어떻게 달라졌는지를 솔직하게 공유합니다.
AI를 '쓰는 팀' vs '이해하는 팀'의 차이
🔑 핵심 요약 (TL;DR) AI 도입 전략의 진짜 차이는 도구를 '쓰는 것'과 '이해하는 것' 사이에서 갈립니다. LLM 작동 원리를 실무 감각으로 이해한 팀은 출력 오류의 원인을 진단하고, 제품 설계 결정의 질을 높일 수 있습니다. 코드를 짤 필요 없이, 세 가지 핵심 개념만 갖춰도 AI 도입 전략 의사결정이 달라집니다.
AI 도입 전략을 고민하는 팀이라면 한 번쯤 이런 상황을 겪어봤을 겁니다. 유튜브에서 LLM 입문 영상 하나가 30만 뷰를 넘겼다는 걸 보셨나요? 처음엔 저희도 그냥 넘겼어요. 그런데 조금 더 들여다보니, 그 숫자가 단순한 콘텐츠 인기가 아니라는 생각이 들었습니다. AI 도구를 매일 쓰면서도 "이게 왜 이런 답을 내놓지?"라는 질문 앞에서 멈춰본 적 있으신가요? 그 불안감이 30만 명을 영상 앞에 앉혔다고 저희는 읽었어요.
AI 도입 전략에서 "이해한다"는 게 뭔데?
솔직히 말하면, 저희 팀도 처음엔 ChatGPT API를 그냥 붙여서 썼습니다. 프롬프트 넣으면 뭔가 나오고, 나온 걸 쓰면 되는 거 아닌가 싶었죠. AI 도구 도입 자체는 어렵지 않았거든요. 문제는 그 이후였어요. 출력이 갑자기 흔들릴 때, 같은 인풋인데 결과가 달라질 때 — 이걸 어디서 고쳐야 하는지, 어떻게 설명해야 하는지 감이 오질 않았습니다.
여기서 "쓰는 팀"과 "이해하는 팀"의 차이가 갈립니다.
- 쓰는 팀: 결과가 이상하면 "모델이 이상한 것 같다"로 넘어갑니다.
- 이해하는 팀: "토크나이징 방식이 이 도메인에 맞지 않는 건 아닐까", "컨텍스트 윈도우가 꽉 찬 건 아닐까"를 먼저 의심합니다.
이 한 가지 차이가 제품 설계 결정의 질을 완전히 바꿔놓더라고요.
Gartner의 AI 도입 단계 모델을 빌려 말하자면, 대부분의 팀은 'Awareness(인식)'와 'Adoption(도입)' 사이 어딘가에 머물러 있습니다. 진짜 'Integration(통합)'으로 넘어가려면, 도구가 왜 그렇게 작동하는지 설명할 수 있는 팀이 필요해요.
LLM 이해 실무: 저희가 트랜스포머를 직접 읽은 이유
계기는 단순했습니다. 수출 자동화 AI 기능을 만들다가 특정 조건에서 LLM 출력이 반복적으로 불안정해지는 문제에 부딪혔어요. 처음엔 프롬프트 문제라고 생각했고, 다음엔 모델 버전 문제라고 생각했죠. 그런데 아무리 프롬프트를 다듬어도 해결이 안 됐습니다.
그때 팀 내에서 이런 말이 나왔어요. "이게 버그인지, 아니면 확률적 생성 모델의 특성인지 우리가 구분을 못 하고 있는 거 아닌가." 그 질문이 스터디를 시작하게 만들었습니다. Vaswani et al.의 Attention Is All You Need(2017) 논문을 처음 펼쳤을 때는 솔직히 막막했어요. 수식이 가득한 페이지를 보면서 '이걸 왜 읽고 있지'라는 생각도 들었거든요.
그런데 토크나이징, 임베딩, 포지셔널 인코딩을 하나씩 풀어가면서 실무적인 직관이 생겼습니다. "왜 긴 문서를 통째로 넣으면 출력이 흐려지는가" — 이 질문에 대한 답을 갖게 된 거예요. LLM 이해 실무 관점에서, 입문서나 강의가 줄 수 있는 건 이런 "작동 원리의 직관"이지 실제 구현 역량과는 분명히 거리가 있어요. 그 차이는 솔직하게 인정하는 게 맞다고 봅니다.
LLM 이해가 수출 자동화 AI 제품 결정을 바꾼 세 가지 사례
이론 공부가 실무에 어떻게 연결됐는지, 구체적으로 세 가지를 공유합니다.
청킹 전략 도입. 컨텍스트 윈도우의 한계를 이해하기 전까지, 저희는 긴 수출 문서를 그냥 통째로 넘기고 있었어요. 이해하고 난 뒤에는 문서를 의미 단위로 나눠 처리하는 청킹 전략을 적용했고, 출력 안정성이 눈에 띄게 달라졌습니다.
모델 선택 기준 변화. 벤치마크 수치가 높은 모델이 항상 좋은 건 아니었어요. 수출 도메인 특유의 용어와 문서 구조에 얼마나 잘 맞는지, 파인튜닝 가능성이 있는지를 먼저 보게 됐죠.
에러 대응 방식 변화. LLM이 확률적으로 동작한다는 걸 알고 난 뒤, 재시도 로직 설계 자체가 달라졌습니다. 단순히 "다시 호출"이 아니라 조건부 분기를 설계하게 됐어요.
다만 한 가지 솔직하게 말씀드리면 — 에이전틱 AI(멀티스텝 추론, 툴 콜링, 메모리 관리)로 넘어가는 건 단순한 LLM 이해와는 또 다른 단계입니다. LangChain 같은 프레임워크를 써본다고 바로 에이전틱 시스템 설계를 잘할 수 있는 건 아니거든요. 저희도 아직 배우는 중이에요.
ChatGPT 프롬프트 한계와 AI 학습 콘텐츠 홍수 속에서 실제로 필요한 것
요즘 유튜브나 인스타그램을 열면 "LLM 원리, 책 한 권으로 끝내기", "DM 주시면 링크 드립니다" 형태의 콘텐츠가 정말 많아요. 그런데 저는 그 콘텐츠 자체보다, 왜 30만 명이 몰렸는가가 더 흥미롭습니다. AI 도구를 매일 쓰는데 원리를 설명하지 못한다는 불안감이 그 수요를 만들어낸 거예요. 그리고 그 불안감엔 꽤 현실적인 근거가 있죠.
다만 "책 한 권으로 LLM을 이해한다"는 전제에 대해서는 조금 냉정하게 볼 필요가 있어요. 트랜스포머 아키텍처의 실제 구현 복잡도를 감안하면, 입문서가 줄 수 있는 건 작동 원리의 직관이지 실무 역량이 아닙니다. ChatGPT 프롬프트 한계를 피부로 느끼면서도 왜 그런지 설명하지 못한다면, 기대치가 어긋날 수밖에 없거든요.
해외영업 AI 활용을 고민하는 수출 담당자나 해외영업팀장 입장에서 실제로 필요한 이해 수준은 코드를 직접 짜는 게 아닙니다. 다음 세 가지를 실무 감각으로 갖추는 것으로 충분합니다.
- "출력 결과가 왜 불안정할 수 있는지"
- "어떤 조건에서 AI를 믿으면 안 되는지"
- "파인튜닝이 언제 의미 있는지"
이 세 가지 정도를 실무 감각으로 갖고 있으면 AI 도입 전략 의사결정이 달라집니다. 더 깊이 파고들고 싶다면 Stanford CS224N 공개 강의나 Hugging Face 공식 문서가 실제로 도움이 돼요. 'DM 주시면 드립니다' 방식보다 훨씬 직접적이거든요.
기술을 이해하는 팀이 고객에게 다르게 말할 수 있는 이유
저희가 계속 공부하는 이유는 사실 단순합니다. 기술을 이해하는 팀이 고객에게 더 정직할 수 있기 때문이에요. AI가 잘하는 것뿐 아니라 못하는 것도 솔직하게 말할 수 있거든요. "이 조건에서는 AI 출력을 그대로 신뢰하면 안 됩니다"라고 말할 수 있는 팀이, 결국 신뢰를 더 얻는다고 생각합니다.
저희가 다음으로 파고들고 있는 건 RAG(Retrieval-Augmented Generation) 파이프라인 최적화와 에이전틱 워크플로우 설계예요. 수출 도메인에서 실시간으로 갱신되는 바이어 정보를 LLM이 어떻게 다루게 할 것인가 — 이 문제가 꽤 복잡하거든요. 그 과정에서 발견한 것들도 계속 이 블로그에서 공유할 예정입니다.
글쓴이 · RINDA 수출영업 리서치팀 (해외 바이어 발굴·수출 영업 자동화 리서치 에디터)
200+ 한국 수출기업의 해외 바이어 발굴 파이프라인 데이터와 RINDA 플랫폼 내부 관찰을 기반으로, 수출 실무에서 즉시 활용할 수 있는 전략·체크리스트를 편집합니다.
이 글에서 소개한 것처럼 LLM 원리 이해를 수출 영업 자동화 제품에 직접 녹이는 작업을 하고 있는 팀이 그린다에이아이입니다. RINDA는 해외 바이어 발굴과 콜드메일 자동화를 다루고 있고, 그린다에이아이는 그 기반 위에서 AI 수출 자동화 전반을 탐구하는 팀입니다. 어떤 문제를 어떻게 풀고 있는지 궁금하시다면, 부담 없이 이야기 나눠보셔도 좋습니다.
Q. LLM 원리를 어느 수준까지 이해해야 AI 도입 전략 결정에 도움이 되나요?
A. 코드를 짤 수 있어야 할 필요는 없습니다. "컨텍스트 윈도우가 무엇인지", "출력이 확률적으로 달라질 수 있다는 것", "파인튜닝이 언제 의미 있는지" — 이 세 가지 개념을 실무 감각으로 갖고 있으면 AI 도구 도입 결정의 질이 달라집니다. 그 이상은 실제로 제품을 만드는 팀에게 필요한 깊이예요.
Q. 트랜스포머 아키텍처 공부, 어디서 시작하면 좋을까요?
A. 저희 팀 경험상 Stanford CS224N 공개 강의와 Hugging Face NLP 코스가 가장 실용적이었습니다. Vaswani et al. 논문은 기반 개념을 잡은 뒤 읽는 게 훨씬 소화가 잘 되고, 처음부터 펼치면 막막할 수 있어요.
Q. 에이전틱 AI가 요즘 많이 언급되는데, LLM 이해와 어떻게 다른가요?
A. LLM 이해는 기초 체력이고, 에이전틱 AI 설계는 그 위에서 작동하는 별도의 역량입니다. 멀티스텝 추론, 툴 콜링, 메모리 관리 — 이것들은 LLM을 "쓸 줄 아는" 것과는 다른 설계 문제예요. 저희도 아직 배우는 중이고, 이 둘을 혼동하면 기대치가 어긋나는 경우가 많습니다.
