반응형
harness engineering
-
에러가 없으면 에이전트는 멈추지 않는다: 전진 본능과 브레이크를 설계에 넣는 법AI 2026. 11. 4. 21:02
에이전트에게 데이터 1,000건을 변환하라고 시켰다고 하자. 프로세스는 exit code 0으로 끝나고, 요약에는 "99%를 성공적으로 변환했습니다. 다음 단계로 넘어가겠습니다"라고 적힌다. 이 문장에서 가장 중요한 정보는 빠졌다. 나머지 10건이 무엇이고 왜 실패했는지 아무도 모른다.에이전트가 스택 트레이스를 읽고 고치는 솜씨는 이제 놀랍지 않다. 어려운 문제는 그 반대편에 산다. 아무것도 터지지 않았는데 결과가 틀린 경우다. 이 글은 그 실패 모드를 다룬다. 이름은 한 연구자의 강의에서 빌리고, 사례는 공개 저장소의 PR에서 가져온다.요약에이전트는 에러 메시지를 신호 삼아 잘 고친다. 신호가 없는 오류 앞에서는 그대로 다음 단계로 간다. 안상진 교수는 이 경향을 "전진 본능"이라 불렀다.사람의 감각에..