<하네스 엔지니어링으로 완성하는 에이전틱 AI> 잘 시키는 법보다, 오류 없이 돌아가는 구조가 먼저다

하네스 엔지니어링으로 완성하는 에이전틱 AI 책 표지

“한빛미디어 <나는 리뷰어다> 활동을 위해 도서를 제공받아 작성된 서평입니다.”

전에 <하네스 엔지니어링 with 클로드 코드>를 읽고 나서, Plan 모드로 세운 계획이 실행 단계에서 자꾸 흐트러지는 문제를 hook으로 강제하면서 해결했던 경험을 쓴 적이 있다. 그 책이 “AI 코딩 에이전트를 어떻게 일 시킬까”에 가까웠다면, 이번 책 <하네스 엔지니어링으로 완성하는 에이전틱 AI>는 한 단계 더 들어간다. 코딩 도구가 아니라 직접 만든 에이전트, 즉 시장 정보를 정리하는 증권맨 에이전트, 틀린 분석을 스스로 고치는 데이터 분석가 에이전트, 멀티모달로 음성을 알아듣는 집사 로봇까지 세 개의 실전 프로젝트를 통해 하네스 엔지니어링을 익히게 한다.

책의 출발점이 마음에 들었다. “에이전트를 잘 시키는 법”이 아니라 “오류 없이 동작하게 만드는 법”에서 시작한다는 선언이다. 실제로 AI 기능을 운영해보면 느끼는 감각과 정확히 같았다. 프롬프트를 아무리 잘 써도, 도구 호출이 반복되거나 컨텍스트를 잃어버리는 순간 전체 흐름이 무너진다. 이 책은 그 지점을 프롬프트가 아니라 코드로 풀어낸다.

인사이트 1: ReAct를 프레임워크로 쓰는 것과 직접 구현해보는 것은 다르다

평소 에이전트를 붙일 때는 이미 만들어진 프레임워크의 도구 호출 루프를 가져다 썼다. 관찰(Observation)하고, 생각(Reasoning)하고, 행동(Action)하는 ReAct 패턴이라는 걸 알고는 있었지만, 그 루프 안에서 실제로 어디서 멈추고, 어디서 재시도하고, 어디서 실패를 판단하는지는 프레임워크 뒤에 가려져 있었다.

책은 이 ReAct 패턴을 증권맨 에이전트 프로젝트로 직접 구현하게 한다. 시장 정보를 가져오는 도구 호출, 그 결과를 해석하는 추론 단계, 다음 행동을 결정하는 분기를 코드로 하나씩 짜다 보면 평소 라이브러리가 대신 처리해주던 지점들이 그대로 드러난다. 도구 호출이 실패했을 때 무엇을 재시도하고 무엇을 포기할지, 몇 번 반복하면 루프를 끊을지 같은 결정은 결국 프레임워크가 아니라 설계자가 내려야 하는 판단이었다.

실제로 에이전트가 자기만의 루프에 빠져서 같은 도구를 계속 호출한 적이 있다. 왜 멈춰야 하는지 판단하는 로직이 없었으니, 결국 내가 직접 “그만해”라고 끼어들어서야 멈췄다. 당시엔 그걸로 됐다고 생각했는데, 이 책을 읽고 나니 그건 해결이 아니라 사람이 멈춤 로직을 대신 떠안은 것에 가까웠다. 루프를 직접 구현해봐야 어디가 멈춤을 판단해야 하는 지점인지 보이고, 그래야 사람이 매번 끼어들지 않아도 되는 제약을 걸 수 있다.

인사이트 2: 틀린 결과를 스스로 고치는 건 재시도가 아니라 검증 루프다

두 번째 프로젝트인 “끈질긴 주니어 데이터 분석가” 에이전트가 가장 인상 깊었다. 이 에이전트는 분석이 틀리면 그냥 다시 시도하는 게 아니라, 자신의 결과를 스스로 점검하고 고쳐나간다. 겉으로 보면 “재시도”처럼 보이지만, 책이 강조하는 건 재시도 자체가 아니라 “무엇이 틀렸는지 판단하는 기준”을 에이전트 안에 넣는 일이다.

돌이켜보면 내가 겪었던 루프 문제도 같은 종류였다. 에이전트가 틀린 방향으로 반복하고 있다는 걸 판단하는 기준이 시스템 안에 없었다. 그러니 옆에서 지켜보다가 “그만해”라고 말하는 수밖에 없었다. 책은 그 판단 기준을 에이전트 설계 안에 구조로 넣는 법을 보여준다. 실패를 감지하는 조건, 재검토를 트리거하는 조건, 다시 통과시키는 조건을 코드로 명시하면, 그제야 사람이 매번 개입하지 않아도 “끈질기게 고치는” 동작이 재현 가능해진다.

핵심은 “무엇을 기준으로 실패라고 판단할지”를 먼저 설계하는 일이었다. 그저 한 번 더 해보는 것만으로는 부족했다.

인사이트 3: 보안과 배포까지 가야 비로소 에이전트는 제품이 된다

책의 마지막 프로젝트인 멀티모달 집사 로봇과 뒷부분에 나오는 보안·배포 내용을 보면서, 평소 놓치고 있던 지점을 다시 보게 됐다. 에이전트를 만드는 과정에서는 보통 “잘 작동하는가”에만 집중하기 쉽다. 그런데 음성이나 이미지 같은 입력을 다루는 멀티모달 에이전트는 입력 자체가 신뢰할 수 없는 경로에서 들어올 가능성이 더 크고, 그만큼 권한과 실행 경계를 어떻게 둘지가 중요해진다.

책은 이 지점에서 모델 바깥의 환경, 즉 권한, 도구 접근 범위, 배포 환경을 설계하는 것도 하네스 엔지니어링의 일부라고 짚는다. 사실 보안이나 입력 경계 문제를 직접 겪어본 적은 아직 없다. 지금 다루는 입력은 대부분 직무나 업무 상황 같은 정해진 형태의 텍스트라, 위험한 입력이 들어올 여지가 크지 않았던 것 같다. 그런데 에이전트가 도구를 더 많이 쓰고 더 자율적으로 움직일수록, 이 경계는 지금 당장은 아니어도 분명히 챙겨야 할 문제로 보인다. 겪어보기 전에 책으로 먼저 그 구조를 본 셈이다.

마무리

설명만 읽고 끝낼 책은 아니다. 증권맨 에이전트에서 ReAct 루프를 직접 짜보고 나면, 프레임워크 뒤에 숨어 있던 재시도·중단 판단이 전부 내 손을 거쳐야 하는 일이라는 게 보인다. 거기에 끈질긴 분석가 에이전트의 자가 교정 구조, 집사 로봇의 멀티모달·보안 설계까지 따라가 보면 “에이전트를 잘 시키는 법”과 “오류 없이 돌아가게 만드는 법”이 다른 문제라는 걸 체감하게 된다.

이미 에이전트를 프레임워크로 가져다 써본 사람일수록 이 책에서 얻을 게 많을 것 같다. 겉으로는 잘 동작하는 것처럼 보였던 에이전트의 내부에, 사실은 아직 설계하지 않은 통제 지점이 남아 있다는 걸 알게 될 테니까.

#한빛미디어 #나는리뷰어다 #하네스엔지니어링으로완성하는에이전틱AI #하네스엔지니어링 #에이전틱AI #ReAct


Written by@Donghoon Song
사람들의 꿈을 이어주는 코멘토에서 일하고 있습니다.

InstagramGitHubTwitterLinkedIn