AI 자동화에서 가장 어려운 설계가 뭘까?

AI 자동화에서 가장 어려운 설계가 뭘까?
AI가 뭘 하게 할지가 아니라,
사람이 어디서 끼어들지를 정하는 거다.

AI 에이전트를 5개 병렬로 돌리고 있다.
코드 리뷰, 콘텐츠 생성, 보안 검사, 지식 관리까지.
처음엔 "전부 자동화하면 되겠는데?"라고 생각했다.
결과:
자동화할수록 품질이 흔들렸다.
AI가 자기 실수를 못 보는 구간이 구조적으로 생겼다.

한국 개발자 컨퍼런스(FDE Night 2026)에서 흥미로운 개념이 나왔다.
"Harness Editor"
영상 편집에서 시퀀스를 배치하듯이,
AI 자동화에서 사람이 개입하는 구간과 빠지는 구간을 편집하는 인터페이스.
이게 정확히 내가 겪은 문제의 해법이었다.

지금 내 시스템에는 4가지 자동화 경계가 있다.
1. 도구 호출 전 자동 검증
2. 도구 호출 후 자동 기록
3. 워크플로우 내 명시적 승인 지점
4. 규칙 기반 경계.
핵심은 이걸 고정하지 않는 거다.
보안 작업에선 사람이 더 자주 끼어들고,
반복 포맷팅에선 완전히 빠진다.
작업의 위험도에 따라 경계를 동적으로 편집한다.

AI 자동화의 진짜 설계는 AI 능력이 아니라 인간 개입 지점의 편집이다.
"어디서 빠질 것인가"가 "어디서 쓸 것인가"보다 어렵고 중요하다.
자동화 시스템 만들고 있다면,
사람이 끼어드는 지점을 명시적으로 설계하고 있는지 한번 점검해보는걸 추천한다.