AI의 종착지는 AGI, 그런데 우리에게 남는 진짜 문제는 '검증'이다

AI의 최종 목적지가 AGI라는 데는 대체로 이견이 없다. 에이전트가 대부분을 알아서 해주는 시스템 — 방향은 정해졌다. 그렇다면 지금 우리가 실제로 붙들어야 할 문제는 "언제 도착하느냐"가 아니라, 그 세계에서 무엇이 병목이 되느냐다. 우리 결론은 두 단어다: 검증, 그리고 agent-to-agent.

1. 방향은 AGI, 그러나 지금 중요한 건 '지속가능성'

에이전트가 유스케이스를 하나둘 삼키는 흐름은 이미 시작됐다. 코딩, 리서치, 운영 — 사람이 하던 절차가 에이전트의 이너 루프로 들어간다. 여기서 화려한 데모와 실전을 가르는 기준은 하나다: 지속가능하게 돌아가는가.

지속가능성을 따지면 결국 검증에 도달한다. 자동화의 가치는 "얼마나 많이 자동화했나"가 아니라 "틀렸을 때 얼마나 싸게 잡아내나"로 결정되기 때문이다.

2. 검증은 사라지지 않는다 — 얇아질 뿐

완전 자율을 향해 가더라도, 중간중간의 가벼운 검증은 여전히 필요하다. 다만 전부에 대해서가 아니다.

• 랜덤성이 크거나 중요도가 낮은 것 → 검증 생략, 위임.
• 되돌리기 어렵거나 외부로 나가는 것 → 사람의 얇고 빠른 확인.

즉 목표는 "검증을 없애는 것"이 아니라 검증을 가능한 한 얇게 만드는 것이다. 두꺼운 검증은 자동화를 무효화하고, 검증이 없으면 신뢰가 무너진다. 그 사이의 최적점을 설계하는 게 실력이다.

3. 이미 AI가 사람을 '호출'하고 있다

주목할 구조 변화가 있다. 예전엔 사람이 도구를 호출했다. 지금은 AI가 필요할 때 사람을 호출한다 — 확인이 필요한 순간, 판단이 갈리는 순간, 권한이 필요한 순간에.

그렇다면 다음 질문은 자연스럽다: 이 '사람 호출'을 어떻게 효율화할 것인가?

• 사람은 아우터 루프에서 감시하고, 에이전트는 이너 루프를 반복한다.
• 호출은 배치로 모으고, 컨텍스트를 붙여 "3초 안에 판단 가능한 형태"로 전달한다.
• 반복되는 승인 패턴은 규칙으로 굳혀 호출 자체를 줄인다.

호출당 사람의 인지 비용을 낮추는 것 — 이것이 자율 에이전트 시대의 숨은 생산성 지표다.

4. agent-to-agent

한 걸음 더 나가면 agent-to-agent다. 사람을 호출하던 자리 일부를 다른 에이전트가 받는다. 검증하는 에이전트, 협상하는 에이전트, 조율하는 에이전트. 사람의 개입은 점점 '정말 중요한 결정'으로 수렴한다.

여기서도 원칙은 같다. 에이전트끼리 주고받더라도 어딘가엔 검증 지점이 있어야 하고, 그 검증은 얇고 빠르게 설계돼야 한다. agent-to-agent는 사람을 지우는 게 아니라, 사람이 봐야 할 지점을 더 날카롭게 좁히는 것이다.

우리의 잠정 결론

1. 방향(AGI·완전 자율)은 논쟁거리가 아니다. 속도와 설계가 논쟁거리다.

2. 지속가능성의 병목은 검증이다 — 없애지 말고 얇게 만들어라.

3. AI가 사람을 호출하는 구조는 이미 왔다. 호출당 인지 비용을 낮추는 게 다음 레버.

4. agent-to-agent는 사람을 지우지 않는다. 사람이 봐야 할 지점을 좁힌다.

참고 영상: 개발 예시 사례