다르메시 샤가 말하는 AI 활용법: 프롬프트·맥락·실험이 핵심

다르메시 샤가 말하는 AI 활용법: 프롬프트·맥락·실험이 핵심

다르메시 샤가 말하는 AI 활용법: 프롬프트·맥락·실험이 핵심


기사 요약

  • 샌프란시스코 INBOUND 기조연설에서 허브스폿 CTO 다르메시 샤는 AI를 ‘경쟁’이 아닌 ‘협업’ 대상으로 보고 함께 빌드하라고 강조했다.
  • 성과는 모델 선택, 프롬프트 엔지니어링, 맥락 제공의 질에 좌우되며, 무엇이든 먼저 AI로 시도하고 반복·실험하라고 조언했다.
  • 그는 AI 에이전트의 10년이 시작됐다며 TEAM(분류·실험·자동화·측정) 전략과 인간의 EQ가 결합된 증강 지능의 가치를 역설했다.

INBOUND 2024: 다르메시 샤의 AI 마스터리 핵심

허브스폿의 연례 컨퍼런스 INBOUND가 샌프란시스코에서 열렸고, 공동 창업자 겸 CTO인 다르메시 샤는 생성형 AI의 본질과 조직 변화를 주제로 문을 열었다. 그는 “AI가 기회인가, 위협인가?”라는 질문에 “정답은 예스”라는 농담으로 시작하며, AI를 제로섬 경쟁이 아닌 플러스섬 협업으로 바라보라고 제안했다.

AI와 경쟁하지 말고 함께 빌드하라

6천 명 대상의 비공식 설문에서 많은 이들이 “AI와 어떻게 경쟁하나?”를 ‘AI를 상대로’ 싸우는 문제로 해석했다. 샤는 목표는 기계와 싸우는 것이 아니라 기계와 함께 만드는 것이라며, AI 역량은 기하급수적으로 커지지만 학습 곡선과 가치 실현은 선형에 가깝다고 설명했다. 그는 대규모 언어 모델이 셰익스피어 전집부터 인터넷 토론, 과학 강연까지 학습해 ‘다음 단어’를 놀라울 정도로 정확히 예측하며, 그래서 마치 사고하는 것처럼 느껴진다고 말했다.

물론 한계도 있다. LLM은 학습 데이터에 제한되고 환각을 일으키며, 시점에 묶이고 상태가 없다. 그러나 사용자 상호작용, 대화 기록, 문서·이미지 같은 리소스, 그리고 인터넷·데이터베이스·서드파티 API 도구 연결을 통해 점차 더 유용해진다.

결과를 좌우하는 세 가지: 모델, 프롬프트, 맥락

샤의 실전 팁은 간단하다. 컴퓨터 앞에 앉아 어떤 일을 시작하든 먼저 AI로 시도해보라. 지금은 안 되더라도 ‘아직’ 안 되는 것일 수 있으니 3개월 뒤 다시 시도하라는 것이다. 결과의 질은 사용하는 모델, 작성하는 프롬프트, 그리고 제공하는 맥락에 달려 있다.

프롬프트 엔지니어링 기본기

대부분의 사용자는 AI 잠재력의 10%도 쓰지 못한다. 샤는 프롬프트 엔지니어링 관점에서 60-30-10 규칙을 제안한다. 60%는 잘 먹히는 프롬프트를 그대로 쓰고, 30%는 그 프롬프트를 반복 개선하며, 10%는 전혀 해보지 않은 새로운 시도를 하라. 필요하다면 메타프롬프트로 AI에게 프롬프트 자체를 개선해달라고 요청하라. 이러한 프롬프트 엔지니어링 습관이 누적될수록 성과가 커진다.

모델 선택 가이드

모델 생태계는 ‘캄브리아기 폭발’처럼 다채롭지만, 그는 최전선 모델 중 하나를 고르면 충분하다고 말했다. 예로 OpenAI GPT-5, Anthropic Claude, Google Gemini가 거론됐다. 너무 고민하지 말고 개인 혹은 회사에서 쓰는 한 가지를 선택해 꾸준히 다듬는 편이 프롬프트 엔지니어링 효율을 높인다.

맥락 엔지니어링과 MCP

맥락 엔지니어링은 요청에 정확한 배경을 더해 응답 품질을 끌어올리는 작업이다. 모든 주요 LLM이 제공하는 사용자 지정 지침을 활용해 역할, 톤, 답변 방식 등을 규정하면 지속적으로 품질이 개선된다. 또한 MCP(Model Context Protocol)를 지원하는 앱과 연결하면 허브스폿을 포함한 수천 개 애플리케이션의 데이터를 모델 컨텍스트로 바로 주입할 수 있다. 맥락 엔지니어링과 프롬프트 엔지니어링을 함께 운용하면 시너지가 극대화된다.

AI 에이전트의 10년과 실행 전략

샤는 “올해는 AI 에이전트의 해”가 아니라 “AI 에이전트의 10년”이 시작됐다고 강조했다. 그가 선보인 Agent.ai에는 현재 200만 명 이상이 참여하고, 약 2만6천 명이 직접 에이전트를 만들었다. 그는 이번 키노트 준비 자료 전부를 담아 누구나 대화할 수 있는 에이전트를 You.ai에 공개하기도 했다.

TEAM 전략: 분류, 실험, 자동화, 측정

열정적인 개인의 ‘영웅적’ 시도를 팀의 습관으로 확산시키기 위해 TEAM(분류·실험·자동화·측정) 프레임워크를 적용하라. 작은 파일럿이라도 시작해 하이브리드 팀(사람+AI)을 구축하고, 반복을 통해 업무의 표준 운영 절차로 정착시키는 것이 핵심이다.

증강 지능의 시대: 더 인간답게

AI가 아무리 똑똑해도 인간은 EQ(정서 지능)에서 앞선다. 삶과 업무의 경험을 AI 도구와 결합하면 생산성과 만족도가 모두 향상된다. 샤는 “미래는 인공지능의 것이 아니라, 증강 지능을 갖춘 여러분의 것”이라며, AI가 반복 업무를 대신해 우리가 더 탁월한 일에 집중하도록 돕는다고 마무리했다. 프롬프트 엔지니어링 같은 습관화된 역량이 쌓일수록 그 미래는 더 빨리 다가온다.