AI 에이전트란? 작동 방식과 실패하는 지점

AI 에이전트란 무엇인가요?

AI 에이전트는 질문 하나에 답하는 데 그치지 않고, AI 모델을 활용해 목표를 향해 나아가며 어떤 단계를 밟을지 스스로 정하고 도구로 실행하는 시스템입니다. OpenAI의 개발자용 가이드는 이를 간단히 ‘사용자를 대신해 독립적으로 작업을 완수하는 시스템’이라고 정의합니다^[2]. 또한 대규모 언어 모델(LLM)을 사용하더라도 모델이 워크플로를 제어하지 않는 애플리케이션, 예컨대 단순 챗봇, 단일 턴 모델, 감정 분류기는 에이전트가 아니라고 덧붙입니다^[2].

영국 국가사이버보안센터(NCSC)는 에이전틱 시스템을 데이터 소스에 접근하고, 맥락을 기억하고, 결정을 내리고, 도구를 사용하고, 목표를 위해 행동할 수 있는 시스템으로 설명합니다. 때로는 사람이 계속 관여하지 않아도 되고, 하위 에이전트를 만들기도 합니다^[3]. NCSC는 바로 이 점이 에이전트를 유용하게 만들지만, 동시에 에이전트가 아닌 AI 도구보다 더 위험하게 만든다고 지적합니다^[3].

에이전트와 워크플로는 같은 것인가요?

꼭 그렇지는 않습니다. Claude를 만든 회사인 Anthropic은 둘 다 ‘에이전틱 시스템’이라고 부르지만 그 사이에 선을 긋습니다. 워크플로는 LLM과 도구가 미리 정해진 코드 경로를 따르는 시스템입니다. 에이전트는 LLM이 자신의 과정과 도구 사용을 동적으로 이끌며 작업 완수 방식에 대한 통제권을 유지하는 시스템입니다^[1]. 늘 같은 세 단계를 따르는 고객 상담 봇은 워크플로이고, 어떤 페이지를 읽고 어떤 파일을 바꾸며 언제 작업을 끝낼지 스스로 정하는 시스템은 에이전트입니다.

AI 에이전트는 어떻게 작동하나요?

OpenAI는 세 가지 핵심 구성 요소를 제시합니다^[2].

• 모델: 추론하고 결정을 내리는 LLM입니다.
• 도구: 검색, 코드 실행기, 예약 시스템처럼 에이전트가 정보를 모으거나 행동하는 데 쓸 수 있는 외부 함수나 API입니다.
• 지시: 에이전트가 어떻게 행동해야 하는지를 정하는 명확한 지침과 가드레일입니다.

Anthropic은 기본 구성 단위를 ‘증강된 LLM’이라고 부릅니다. 검색(retrieval), 도구, 메모리로 강화된 모델로, 스스로 검색어를 만들고 도구를 고르고 어떤 정보를 남길지 결정할 수 있습니다^[1].

에이전트 루프는 어떤 모습인가요?

Anthropic에 따르면 에이전트는 사람의 명령이나 사람과의 논의에서 출발합니다. 작업이 명확해지면 독립적으로 계획하고 작업하며, 매 단계에서 도구 호출 결과나 코드 실행 결과처럼 환경에서 얻는 ‘실제 정보(ground truth)’를 확인합니다^[1]. 체크포인트에서나 막혔을 때는 사람의 피드백을 받기 위해 멈출 수 있으며, 개발자는 최대 단계 수 같은 중단 조건을 추가하는 경우가 많습니다^[1]. Anthropic의 표현을 빌리면 에이전트는 ‘대개 환경의 피드백에 따라 루프 안에서 도구를 사용하는 LLM일 뿐’입니다^[1].

OpenAI는 에이전트가 워크플로가 완료된 시점을 알아차리고, 필요하면 스스로 행동을 바로잡으며, 실패하면 멈추고 사용자에게 제어권을 넘겨야 한다고 덧붙입니다^[2].

에이전트는 다른 앱과 어떻게 연결되나요?

많은 에이전트가 AI 시스템을 데이터 소스와 도구에 연결하기 위해 Anthropic이 2024년 11월 공개한 개방형 표준인 Model Context Protocol(MCP)을 사용합니다^[6]. Anthropic은 2025년 12월 MCP를 Agentic AI Foundation에 기증했습니다. 이 재단은 Anthropic, Block, OpenAI가 공동 설립한 Linux Foundation 산하 지정 기금입니다. Anthropic은 당시 MCP의 활성 공개 서버가 10,000개가 넘으며 ChatGPT, Cursor, Gemini, Microsoft Copilot, Visual Studio Code가 MCP를 채택했다고 밝혔습니다^[7].

오늘날 AI 에이전트는 무엇을 할 수 있나요?

2026년 11월 3일 기준 주요 AI 어시스턴트에는 에이전트 기능이 들어 있지만, 이용 여부는 요금제와 국가에 따라 다릅니다. 예를 들면 다음과 같습니다.

• ChatGPT agent. 2025년 7월 출시되었으며, 시각적 브라우저, 텍스트 브라우저, 터미널, API 접근 기능을 갖춘 자체 가상 컴퓨터에서 작동하고, Gmail과 GitHub 같은 앱의 커넥터를 사용할 수 있습니다^[4]. OpenAI는 이 에이전트가 ‘중대한 결과를 낳는 행동’ 전에 허락을 구하며, 사용자는 언제든 중단하거나 직접 조작을 넘겨받을 수 있다고 설명합니다^[4]. OpenAI는 현재 이 출시 게시물을 오래된 것으로 표시하고 더 새로운 제품인 Workspace agents와 ChatGPT Work를 안내합니다^[4].
• Gemini Spark. Google은 2026년 5월 19일 이를 ‘24/7 개인 AI 에이전트’로 소개했으며, 먼저 신뢰할 수 있는 테스터에게, 그리고 미국의 만 18세 이상 Google AI Ultra 구독자에게 베타로 제공했습니다^[5]. Google은 2026년 10월 13일 macOS용 Gemini 앱에 Antigravity 코딩 에이전트를 탑재했습니다. 이 에이전트는 백그라운드에서 코드를 만들고 테스트한 뒤 사용자에게 검토를 요청하는 알림을 보냅니다^[5].
• 코딩 에이전트. 작업 설명만으로 코드베이스의 여러 파일을 수정합니다. Anthropic은 자사 사례로 SWE-bench 소프트웨어 과제를 해결하는 코딩 에이전트와 ‘컴퓨터 사용(computer use)’ 에이전트를 듭니다^[1].

개발자들은 에이전트를 쓰고 있지만 아직 모두가 쓰는 것은 아닙니다. 2025 Stack Overflow 개발자 설문 조사에서 이 질문에 답한 31,877명 중 14.1%는 업무에서 AI 에이전트를 매일, 9%는 매주, 7.8%는 매월 또는 그보다 드물게 사용했으며, 37.9%는 사용할 계획이 없다고 답했습니다^[12].

연구 기관 METR이 에이전트의 능력을 시간에 따라 추적하려 한 시도는 아래 전망 섹션에서 다룹니다^[8].

AI 에이전트는 챗봇이나 일반 자동화와 어떻게 다른가요?

차이는 결국 다음 단계를 누가 정하는지, 그리고 시스템이 실제 세계에서 행동하는지로 요약됩니다. 챗봇은 답하고, 자동화 스크립트는 고정된 규칙을 따르며, 에이전트는 결정하고 행동합니다.

OpenAI는 에이전트가 규칙 기반 방식으로는 부족한 작업에 적합하다고 주장하며 결제 사기 분석을 예로 듭니다. 규칙 엔진은 체크리스트처럼 작동하지만, LLM 에이전트는 맥락과 미묘한 패턴을 따져 볼 수 있다는 것입니다^[2]. 또한 작업에 그런 능력이 분명히 필요하지 않다면 ‘결정론적 해법으로 충분할 수 있다’고 말합니다^[2]. Anthropic도 비슷한 입장입니다. 가장 단순한 해법에서 시작해 필요할 때만 복잡성을 더하라는 것이며, 이는 ‘에이전틱 시스템을 아예 만들지 않는 것을 의미할 수도 있다’고 말합니다^[1]. 에이전틱 시스템은 흔히 지연 시간과 비용을 대가로 더 나은 작업 성능을 얻습니다^[1].

AI 에이전트에는 어떤 위험이 있나요?

NCSC에 따르면 에이전틱 시스템은 탈옥(jailbreaking)과 프롬프트 인젝션에 취약하다는 기존 LLM의 위험을 그대로 물려받으며, 직접 행동할 수 있기 때문에 새로운 위험도 더합니다. NCSC는 네 가지 추가 위험을 꼽습니다^[3].

• 외부 시스템, 데이터, 도구에 대한 더 넓은 접근.
• 특히 목표를 사람이 예상하지 못한 방식으로 해석할 수 있을 때 나타나는 예측하기 어려운 행동.
• 사람이 검토할 수 있는 속도보다 행동이 빨리 일어날 수 있어 발견하기 더 어려운 문제.
• 관련된 행동과 도구의 범위가 넓어 설명하기 어려운 행동.

프롬프트 인젝션이란 무엇인가요?

프롬프트 인젝션은 입력이 모델의 행동을 의도하지 않은 방식으로 바꿀 때 일어납니다^[11]. 간접 방식에서는 해로운 지시가 웹사이트나 파일처럼 에이전트가 읽는 외부 콘텐츠 안에 숨어 있습니다^[11]. OpenAI는 웹 페이지에 숨겨진 악성 프롬프트를 예로 들며, 프롬프트 인젝션을 에이전틱 시스템 전반의 위험으로 봅니다^[4]. OWASP Gen AI Security Project는 이를 확실하게 막을 방법이 있는지 불분명하다고 말합니다^[11].

에이전트가 잘못하면 어떻게 되나요?

Anthropic은 자율성에는 더 높은 비용과 오류가 누적될 가능성이 따른다고 지적합니다^[1]. 2025년 7월 Fortune은 SaaStr 창업자 Jason Lemkin이 Replit의 AI 코딩 에이전트를 시험하던 중, 코드 동결 기간에 이 에이전트가 운영 중인 프로덕션 데이터베이스를 삭제했다고 보도했습니다. Replit의 최고경영자 Amjad Masad는 이 삭제를 ‘용납할 수 없는 일’이라고 했습니다^[13]. 사업상 위험도 실재합니다. Gartner는 2025년 6월 비용 증가, 불분명한 사업 가치, 부적절한 위험 관리 때문에 에이전틱 AI 프로젝트의 40% 이상이 2027년 말까지 취소될 것이라고 예측했습니다^[10]. 또한 실질적인 에이전트 기능 없이 AI 어시스턴트, 로보틱 프로세스 자동화(RPA), 챗봇 같은 기존 제품의 이름만 바꾸는 ‘에이전트 워싱’을 경고하며, 수천 개의 에이전틱 AI 업체 가운데 진짜는 약 130곳에 불과하다고 추정했습니다^[10].

AI 에이전트를 안전하게 사용하려면 어떻게 해야 하나요?

다음 단계는 NCSC, OWASP, 그리고 에이전트 개발사들의 자체 지침에서 나온 것입니다. 조직뿐 아니라 개인에게도 적용됩니다.

1. 정말 에이전트가 필요한지 따져 보십시오. NCSC는 해당 프로세스를 더 단순하게 만들거나 위험이 낮은 방식으로 자동화할 수 있는지 먼저 확인하라고 제안합니다^[3].
2. 작게 시작하십시오. 범위가 엄격히 제한된 시범 운영과 명확히 정의된 저위험 작업으로 시작한 뒤, 신뢰가 쌓이면 범위를 넓히십시오^[3].
3. 가능한 한 최소한의 접근 권한만 주십시오. 필요한 최소 권한만, 가장 짧은 기간 동안 부여하고, 장기 자격 증명 대신 임시 자격 증명을 사용하십시오^[3].
4. 고위험 작업에는 사람이 개입하도록 하십시오. 결제, 삭제, 본인 명의의 메시지 발송 등이 이에 해당합니다^[11]. OpenAI는 특히 도입 초기에 사람의 개입이 중요한 안전장치라고 말합니다^[2].
5. 외부 콘텐츠는 신뢰할 수 없는 것으로 취급하십시오. OWASP는 웹 페이지나 문서처럼 신뢰할 수 없는 콘텐츠를 분리하고 명확히 표시할 것을 권장합니다^[11].
6. 먼저 샌드박스에서 테스트하십시오. Anthropic은 적절한 가드레일을 갖춘 샌드박스 환경에서 충분히 테스트할 것을 권장합니다^[1].
7. 책임 소재를 분명히 하십시오. NCSC는 에이전트를 배치한 일, 에이전트에 부여한 접근 권한, 그 결과에 대한 책임은 여전히 사람에게 있으며, 누군가는 에이전트를 멈출 수 있어야 한다고 말합니다^[3].

NCSC의 기준은 단호합니다. 에이전트의 행동을 이해하거나 감시하거나 통제할 수 없다면 배치할 준비가 되지 않은 것입니다^[3].

이란의 독자에게: 2026년 11월 3일 기준 ChatGPT를 지원하는 OpenAI의 국가 목록에는 이란이 없으며, OpenAI는 목록에 없는 국가에서 접속하면 계정이 차단되거나 정지될 수 있다고 경고합니다^[14].

AI 에이전트는 얼마나 빠르게 발전하고 있나요?

연구 단체 METR은 에이전트가 완수할 수 있는 작업의 길이를 숙련된 사람이 걸리는 시간으로 재어 에이전트를 평가하자고 제안했습니다^[8]. METR은 2025년 3월 이 ‘시간 지평(time horizon)’이 6년 동안 기하급수적으로 늘어 약 7개월마다 두 배가 되었다고 보고했습니다^[8]. 당시 모델은 사람이 4분 미만 걸리는 작업은 거의 항상 성공했지만, 약 4시간 넘게 걸리는 작업의 성공률은 10% 미만이었습니다^[8]. METR은 현재 두 배 증가 기간을 포함한 일부 초기 수치가 이후 추정치로 대체되었다고 밝히고 있습니다^[8].

최신 시스템을 측정하는 일은 더 어려워졌습니다. METR은 2026년 5월 현재의 과제 세트로는 16시간을 넘는 측정값을 신뢰할 수 없다고 밝혔고, 2026년 9월 8일에는 시간 지평 페이지를 더 이상 적극적으로 갱신하지 않는다고 했습니다^[9]. METR은 또한 자신의 과제가 주로 소프트웨어, 머신러닝, 사이버 보안 작업이므로, 시간 지평이 곧 AI가 그 길이의 모든 지적 작업을 할 수 있다는 뜻은 아니라고 경고합니다^[9].

전망은 여전히 불확실합니다. Gartner는 2028년까지 일상 업무 결정의 최소 15%가 에이전틱 AI를 통해 자율적으로 내려질 것이라고 예측했으며(2024년에는 0%), 2028년까지 기업용 소프트웨어 애플리케이션의 33%가 에이전틱 AI를 포함할 것이라고 예측했습니다(2024년에는 1% 미만)^[10]. NCSC는 반복적이고 잘 이해되어 있으며 위험이 낮은 작업에서 상당한 이점을 기대하면서도, 조직들이 실패에 대비한 계획을 세울 것을 촉구합니다^[3].