2025년 12월, 무언가 바뀌었다

2025년 한 해 동안 Claude Code, Codex 같은 도구들은 "꽤 도움이 되지만 자주 고쳐줘야 하는" 상태에 머물러 있었다. 12월 휴가 기간에 시간이 늘어났고, 그가 새 모델들에 더 많은 작업을 맡기기 시작했을 때 변화가 보였다. 코드 청크가 점점 더 길게, 더 일관되게 돌아왔고, 점점 더 신뢰하게 됐다.

그의 진단은 명확하다. AI를 ChatGPT 옆에 붙은 부속물로 경험했던 사람이라면, 12월 이후 다시 한 번 보라는 것이다. 에이전트형, 일관된 워크플로우는 그때부터 실제로 작동하기 시작했다. 이 시점에서 그의 사이드 프로젝트 폴더가 폭발적으로 늘었고, 그 여파를 지금도 추적 중이라고 한다.

Software 3.0 — 컨텍스트가 새로운 코드

Stephanie가 "팀이 이 패러다임 전환을 진짜로 믿게 되는 날, 무엇을 다르게 만들어야 하나"라고 묻자, 카르파시는 자신의 시퀀스를 다시 펼친다.

그가 든 결정적인 예가 "설치"다. 옛 패러다임에서는 다양한 환경에 대응하는 셸 스크립트를 만들어야 했고, 그 스크립트는 곧 비대해지고 부서지기 쉬워졌다. OpenClaw라는 도구의 설치 방식은 그 반대였다. "이 텍스트 블록을 복사해 당신의 에이전트에게 붙여넣으세요." 에이전트가 환경을 살피고, 오류를 디버그하고, 적응한다. 더 부정확하지만, 더 적응적이다.

MenuGen — "이 앱은 존재하지 말았어야 했다"

식당에서 메뉴판에 그림이 없어 무엇인지 모르는 경험을 해결하려고, 그는 메뉴판 사진을 찍으면 OCR로 메뉴명을 뽑고, 이미지 생성으로 음식 그림을 만들어 주는 앱을 만들었다. Vercel 위에 배포했고, 결제도 붙였다. 흠잡을 데 없는 클래식한 풀스택 앱이었다.

그러다 그는 같은 일을 Software 3.0 방식으로 다시 보았다. 메뉴 사진을 멀티모달 모델(Gemini의 Nano Banana)에게 주고, "이 메뉴 사진에 음식 이미지를 직접 그려서 돌려줘"라고 시키면 끝이었다. 프론트엔드도, OCR 파이프라인도, 별도 이미지 생성 호출도 필요 없었다. 앱 전체가 신경망이 직접 수행하는 변환의 비계(scaffolding)에 불과했던 것이다.

창업자에게 주는 함의는 명확하다: AI는 기존 앱을 더 빠르게 만들어주는 도구만이 아니다. 일부 앱은 앱으로 존재해서는 안 된다. 입력 미디어가 직접 출력 미디어로 변환되는 영역이 점점 넓어진다.

검증 가능성이 자동화의 지도를 그린다

그의 핵심 프레임은 두 줄로 압축된다.

자동 보상 신호가 있는 작업 — 수학, 코딩, 테스트, 벤치마크, 게임 — 은 모델이 반복해서 연습할 수 있다. 그래서 빠르게 좋아진다. 코딩 에이전트가 일반 챗봇보다 훨씬 더 잘 작동하는 이유도 같다. 테스트가 통과하느냐 실패하느냐, 프로그램이 도느냐 망가지느냐, diff가 어떻게 생겼느냐 — 모두 검증 가능하다.

다만 검증만으로는 부족하다 — Jagged Intelligence

대담에서 그는 한 가지 정교화를 덧붙인다. 모델의 능력은 단지 "그 작업이 검증 가능한가"에만 좌우되지 않는다. 연구실(lab)이 어디에 학습 주의를 기울였는가가 결정적이다. 그가 제시한 거친 공식은 다음과 같다.

체스가 좋은 예다. GPT-3.5에서 GPT-4로 넘어가며 체스 실력이 급상승한 것은, 일반 지능이 전반적으로 좋아져서라기보다, 학습 데이터에 체스 데이터가 대거 포함됐기 때문이라고 그는 추정한다.

딸기와 세차장 — Jaggedness의 단면

이를 보여주는 가장 유명한 예시들이 있다. "strawberry"에 r이 몇 개인가? 한때 모델들이 자주 틀렸다. 더 최근 예시: "세차장이 50미터 거리인데 차를 몰고 갈까요, 걸어갈까요?" 최신 모델이 "가까우니 걸어가세요"라고 답하기도 한다.

실용적 결론: 모델은 매뉴얼 없이 나온다. 어느 회로에서 RL을 받았는지 알 수 없다. 당신의 응용이 그 회로 안이라면 날아간다. 밖이라면 비참하게 실패한다. 창업자는 자기 도메인이 그 지도 위 어디에 위치하는지 탐색해야 한다.

바이브 코딩은 바닥을, 에이전틱 엔지니어링은 천장을 올린다

작년에 자기가 만든 단어 "바이브 코딩"의 후속을 묻자, 그는 깔끔하게 두 개념을 분리한다.

그는 못을 박는다. "바이브 코딩 때문에 취약점을 만들어도 된다는 면제부는 없습니다. 당신은 여전히 당신 소프트웨어에 책임이 있어요. 다만 더 빨리 할 수 있죠. 어떻게 하면 그걸 제대로 할 수 있는지가 핵심 질문입니다."

"10x 엔지니어"라는 옛 비유는 이제 부족하다. 에이전트를 잘 부리는 사람과 그렇지 못한 사람의 격차는 10배가 아니라 그 이상이 된다는 게 그의 예측이다.

채용도 바뀌어야 한다

그가 강하게 주장하는 것 중 하나: 채용 프로세스가 옛 패러다임에 머물러 있다. 작은 알고리즘 퍼즐을 풀게 하는 면접은 더 이상 적절하지 않다. 그가 제안하는 면접은 이렇다 — "트위터 클론을 에이전트들을 위해 만들어 보세요. 안전하게 만드세요. 그러면 제가 Codex 에이전트 10개를 풀어서 그 사이트를 뚫어보겠습니다. 뚫리면 안 됩니다."

LLM은 동물이 아니라 귀신이다

카르파시가 자기 블로그에서 다듬어 온 표현 — Animals vs. Ghosts — 의 의미를 다시 묻자, 그는 답한다.

동물은 진화가 만들어낸 존재다. 생존 압력, 체현된 감각, 호기심, 놀이, 내재적 동기가 있다. LLM에는 그 어느 것도 없다. 그것은 사전학습·사후학습·강화학습·제품 피드백·경제적 인센티브가 빚어낸 통계적 시뮬레이션이다. 외계 같지만 인간 산물의 평균을 합성한 외계다.

그래서 한 순간 천재 같다가 다음 순간 어이없이 멍청하다. 매끄러운 인간 정신이 아니라, 들쭉날쭉한 외계 도구다. 올바른 태도는 무시도 맹신도 아닌 경험적 친숙함 — 어디서 작동하는지, 어디서 실패하는지, 어떤 가드레일이 필요한지 직접 학습하는 것.

"생각은 외주줄 수 있어도 이해는 외주줄 수 없다"

마지막 질문은 교육이었다. 지능이 저렴해진 세상에서 깊이 배울 가치가 남는 것은 무엇인가. 카르파시는 최근 자기 머리를 흔들었다는 한 줄짜리 트윗을 인용한다.

에이전트가 사고를 떠맡을수록, 인간 쪽 병목은 이해로 이동한다. 무엇이 만들 가치가 있는지, 어떤 질문이 중요한지, 어떤 결과가 의심스러운지, 어떤 트레이드오프가 받아들일 만한지 — 이걸 결정하려면 이해가 있어야 한다. 정보가 여전히 사람 머리로 흘러 들어가야 한다는 뜻이다.

그가 흥미를 느끼는 것은 그래서 LLM 지식 베이스(LLM Wiki) 같은 도구다. 답을 주는 기계가 아니라, 정보를 다른 각도로 투영해 이해를 증폭시키는 기계. 그의 microGPT 프로젝트도 같은 맥락이다. 의존성 없는 단일 파일 GPT 구현 — 사람도, 에이전트도 들여다볼 수 있는 작은 교육적 산물.

대담의 마지막. Stephanie가 농담한다. "몇 년 뒤에 다시 와서, 우리가 완전히 자동화 바깥으로 밀려났는지, 이해마저 모델이 떠맡았는지 확인해야겠네요." 카르파시는 짧게 감사를 표하고, 무대를 나선다.