노정석 · 최승준이 전하는
AI 최전선

"좋은 교과서 하나만 있으면 다 된다라는 거를 보여 주는 거죠."

"인텔리전스의 가격이 0으로 수렴해 가고 있다는 거, 에이 좋은 모델은 더 비싸게 파는 거 아니야 근데 이게 참 생각을 해 보면 두 배 좋은데 가격이 열배 비싸다라고 하면 사람들이 아마 그거 안 쓸 거예요."

"지금 모델이 어떻다 얘기하는게 꼭 CPU 스펙 외우는 꼴과 비슷한 거 같은 느낌이 들어서 어 저는 이제 요거는 이제 그만하려고 그래요."

"인텔리전스 아웃렛이 달리기 시작을 할 건데 … 뭐가 중요한 걸까 뭘 만들어야 될까라는 생각을 해보면 그냥 전기의 비유를 갖고 와서 생각을 해 보면 당연히 요런 것들이 아아 우리의 삶을 더 윤택하게 만드는 각종 어플라이언스를 가전제품들이죠."

"이제는이 모델에서 일어나는 거 팔로잉을 그만하고 가전 제품에 집중해야 되겠다라는 생각을 요새 강력하게 하고 있는 중입니다."

"검증 불가능한 영역으로 그럼 도망가면 되겠구나."

"처음에 evaluation 틀이 명확하게 상상 안 되는 프로젝트는 시작하면 안 된다."

"이것의 제일 큰 주제는 어떻게 도망갈까예요. 어떻게 도망갈까에 대한 도피 일기인 것이지 이게 그다지 막 자랑스러운 내용은 사실은 아니죠."

"open-endedness 쪽에서는 agent만이 아니라 환경도 trainable object로 보거든요. 그래서 그 둘 사이의 관계가 막 엮여 들어가는 부분이 있는데 문득 그 생각이 들었어요."

"로그로 바꿔 보면 지금 linear하니까 이거 엄청 exponential한 거죠. 그렇죠. 그래서 지금은 2027년에 AI가 될까 말까라는 고민이 무의미하지 않을까요? 된다라는 가정하고 뭘 하는 것이 맞겠죠?"

"구글이 많이 따라왔다는 표현이 좀 희한하긴 한데, 어쨌든 계속 서로 비슷한 시기에 발표하면서 이렇게 경쟁을 치고 나가고 있잖아요."

"구글과 OpenAI가 결정적으로 다른 부분이 하나 있다면 구글은 그 수익 모델이 있고 OpenAI는 없거든요. 그래서 그것들의 차이가 꽤 크리티컬하게 동작하지 않을까 싶어요."

"따라가다 우리 집 소를 놓치겠더라고요 진짜."

"모델이 내부적으로 몇 단계 앞을 예측한다. 그거를 알려고 한 실험이 아니라 다른 거를 못 한다를 증명하려고 했는데 시도했던 건데 오히려 그게 된다는 걸 알아내는 그런 얘기들이 좀 적혀 있었습니다."

"다 쓸만해요. 진짜. 그록도 그렇고 GPT 4.5도 그렇고."

"바이브 코딩과 비슷하되 통제하고 있다는 체면마저 내려놓는 방식이군요. 앱 환각의 무주를 무작기로 떠는 산책 같다고 할까요."

"사고의 과정 자체를 제가 의도하는 방향으로 제어를 하는 쪽으로 그동안 많이 해 왔었는데, 한번 모델 자체의 추진력이 어디까지 되는가를 좀 실험을 해 보고 싶었던 거예요."

"나라면 이 정도 썼을까 싶을 만한 내용으로 되게 잘 나왔어요."

"이거를 처음에 잘 프로그래밍을 해 놓으면 모델이 쭉 추진해 가는, 어 컴파일하는 느낌 같은 게 좀 있는 거예요."

"같은 엔진이더라도 케파가 큰 엔진은 끌어낼 수 있는 게 되게 많을 수 있다. 근데 그게 포스트 트레이닝으로도 끌어낼 수 있지만 프롬프트로도 끌어낼 수 있는 여지가 꽤 있을 수 있다."

"MCP를 모르는 상태에서 MCP를 쓴 거거든요. vibe coding이잖아요."

"코드는 안 읽지만 CoT는 있습니다. CoT를 읽으면 흐름이 보이거든요."

"프롬프트 한 번에 일이 완성되는 경우를 제가 잘 본 적이 없거든요. AI와 끊임없이 인터랙션 하면서 원하는 방향으로 바꾸는, 저는 연습을 통해서 얻어지는 것 같거든요."

"거기에서 배워지는 거는 AI 리터러시가 배워지거든요. LLM하고 티키타카하면서 결과물을 어떻게 얻어낼지에 대한 감을 얻으려면 대화를 굉장히 많이 해봐야 된다고 생각하거든요."

"이미 인터페이스로 들어왔어요. 그렇기 때문에 구체적인 상만 있으면 돼요."

"o3를 조금 쓰다 보면 되게 현학적인 말로 말을 하더라고요. 이것을 보면서 이제는 슬슬 나도 더 열심히 공부해야지 모델이 생성하는 것 읽어낼 수 있나, 이런 고민을 잠깐 했었던 시간도 있었습니다."

"뉴스레터가 만들어지는 거 아닌가. 일주일에 어느 요일에 발행해 줘 하면 작동한다는 거죠."

"learning만 잘하는 사람이 아니라 unlearn도 되게 잘하는 사람이더라고요. 기존의 프로세스나 이런 것들은 다 깡그리 무시하고 목적에 따라서 경로를 완전히 재정의하는 것을 잘하는 사람들이 AI 시대에 성과의 점프를 가져오더라고요."

"지치지 않고 따라가는 것만도 칭찬받아야 한다. 이 흐름에 보조를 맞추는 것 자체도 역량 중 하나인 것 같다는 생각도 듭니다."

"OpenAI가 더 이상 12개월 앞서는 리드를 갖고 있지는 않은 것 같다. 3, 4개월 정도라도 리드가 있으면 그 안에서 할 수 있는 일들이 많이 있기 때문에 여전히 조금 더 한 발 앞서 나가고 있다."

"Gemini가 기린 동상 만드는 거에서 방금 수족관을 부쉈죠. 그리고 그걸 이제 Claude는 모르는 상태에서 물을 채웁니다."

"핵심은 소프트웨어에 대한 백과사전적 지식을 갖췄지만 과도한 자신감으로 허풍을 떨며 좋은 코드에 대한 안목이 거의 없는 새로운 junior intern 신동에게 단단한 목줄을 채우는 것입니다."

"M명 1팀으로 하던 거를 M개의 팀으로 쪼개거나 혼자 플러스 AI로 해서 일을 더 많이 하게 된다는 거죠. 인간 각자가 팀장이 되는 셈이라 책임도 더 높아지고."

"그냥 지금은 닥치고 뛰는 수밖에 없다."

"스케일을 높이는 작업을 하기 위해서는 스케일이 안 나는 작업을 많이 해야 한다. 완벽한 AI coding을 하려면 노가다를 뛰며 내 환경 세팅을 해야 한다."

"얼마나 싸지고 얼마나 더 빨라질 것이냐 이런 문제들에 더 관심이 가는 것 같고 그러다 보니까 필연적으로 에이전트로 대표되는 이 시장이 급속도로 뜨거워지는 느낌을 받는다."

"agent는 역시 쉽지 않네요. 어쩔 땐 잘 되고 어쩔 땐 잘 안 되는 문제가 너무 큽니다."

"실행만 하는 게 아니라 실행 결과의 feedback을 확실하게 줘서 방향 조정을 하게 해야—그게 하나 되게 중요한 교훈이었고 그거를 할 때와 안 했을 때의 차이가 굉장히 컸습니다."

"이것이 미래구나라는 생각이 좀 들어요. 동작하면 그냥 덮고 넘어가더라고요."

"지금은 무언가 시대를 정의하고 예측하기 위해서 활동하는 게 거의 의미가 없다는 생각이 들어요. '야, 이건 되는 게임이다'라는 가정 하에 좀 빌딩해야 되는 타임 아닌가."

"뉴스를 안 보면 unlearning을 하고 새롭게 적응할 timing을 놓칩니다."

"AlphaCode 논문에 나오던 게 현실이 됐어요. '장기적으로 코드 생성은 고등 AI risk로 이어질 수 있다'—3년 만에."

"computation이 모든 것이다라는 명제로 환원할 수 있어요. 영겁의 시간, 즉 computation을 투입해서 저희 진화가 됐잖아요. 그 게임은 이미 정해진 게임이다."

"google scale에서 1%라면 어마어마한 자원 절감이 생기는 거죠. 그래서 이것이 자기 개선을 하고 있다는 이야기가 나와요."

"개인이 이걸 할 수 있는 2025년 현재라는 거죠."

"솔직히 말하건대 이 모든 발전에 지쳤습니다. 머리가 GPT-2 수준이 됐다."

"Sergey Brin이 'No pressure'라고 했더니 Demis가 막 웃으면서 '지금 밖에 나가서 열심히 일해야 된다'고 했어요."

"2023년에는 Google I/O 봤을 때 이거 좀 별로인데 하는 느낌이었는데, 올해는 너무 많아서—공룡 말씀해 주시니까 약간 상황이 묘하게 돌아가고 있습니다."

"오토메이션에 오토메이션에 오토메이션이 지금 곱해지고 있는 그런 느낌입니다."

"이번 수퍼위크 전후로 무언가 달라졌다는 것이 제일 지금 와닿아요. 정보 coverage가 넓은 사람이 이 상전이가 일어났다고 하는 것이 이제 저한테는 signal입니다."

"올해 시작할 때만 하더라도 과연 이게 소프트웨어 엔지니어를 완전 대체할 수 있을까라는 게 저희의 질문이기도 했는데 불과 5개월이 지난 시점에서 그 품질이 굉장히 좋단 말이죠."

"우리는 지금 인류 역사상 가장 기묘한 양육 계약을 체결하려 하고 있다. 우리가 낳은 지적 자손에게 상속권을 미리 약속하면서 그들이 우리를 부양해 주기를 기대하는."

"1+1=2라는 답을 주기 위해서 저는 우주의 저편까지 가면서 아인슈타인과 불확정성의 원리까지를 전부 하면서 탐구의 세계를 다녀왔다."

"why가 도출되면 what과 how는 따라올 가능성이 있겠네요. 이제 how는 AI가 찾아주고 있고 사실상 what도 Claude Opus가 잘 찾아주더라고요."

"지금 우리 모두는 다시 한번 꿈꿔야 할 타이밍인 거죠."

"AGI를 저는 어떤 특정 시점으로 보지 말고 전이하는 기간으로 보는 게 더 옳은 시각인 것 같아요."

"10명이 하던 일을 1명이 하게 되면 9명을 자르고 이 효율을 증가시킬 것인가 아니면 일을 10배로 늘릴 것인가. 저는 아마도 일을 10배로 늘릴 것이다에 베팅을 하고 있고."

"회사라는 개념도 결국은 이 non-verifiable을 verifiable로 바꿔주는 closed-loop feedback system이구나."

"내부 고객들 다수가 '우리는 화장품 회사가 아니라 AI 회사야'라고 얘기하는 게 이제 제가 듣거든요."

"얘는 검색 product를 만드는 거랑 훨씬 비슷해요. UX는 거의 대부분 그냥 표준화돼서 몇 개로 정해질 거고, 사실은 걔가 뱉어내는 결과들의 quality, 그 결과들의 evaluation이 핵심 metric으로 동작하는 서비스거든요."

"모델의 추론 능력이 실제로 우리가 제품에서 모델을 사용하는 수준보다 조금 앞서게 되었다는 점입니다. 저는 최근에 '역량 과잉 현상'이라는 것에 대해 많이 이야기하고 있습니다."

"모델과 제품이 할 수 있는 것과 그것이 일상적으로 사용되는 방식 사이의 격차, 즉 overhang이 현재 엄청나게 크다. 이 부분에서 제품의 역할이 여전히 매우 강력하고 필요하다."

"사람이 무언가 작업을 요청할 때 머릿속에 확실한 상이 서지 않은 상태에서 AI랑 티키타카를 하다 보면 중간에 스파게티들이 꼬여서 구제 불가능한 수준이 되죠."

"우리가 전통적으로 익숙하던 어떤 조직 구조가 AI 이것 때문에 아래 레이어가 자동화됐고, 모두가 윗 레이어로 더 한 단계 올라오기를 지금 강요받고 있는 거다."

"인간은 무의식을 써야 합니다. 자고 뇌가 잘 작동하게 한 다음에 뭔가가 떨어져 나오고 뭔가가 강조되고 하는 그 시간 간격을 주고 다시 임하는 것이 의미 있는 practice라고 보거든요."

"당신이 최고 지능이 아닐 때의 삶이 어떤지 알고 싶다면 닭에게 물어보라."

"새로운 가장 뜨거운 프로그래밍 언어는 영어다."

"2025년은 에이전트의 해가 아니다. 2025년부터 2035년까지를 '에이전트의 10년'이라고 부르는 게 낫다."

"초지능이 우리를 위해 새로운 과학을 발견하고 있다면, 사회는 결국 그것에 대처하는 방법을 찾아내겠지만 그 속도는 매우 느릴 수 있다."

"저희는 이제껏 앞에 있는 나무들만 보고 살았는데, 이제 갑자기 기어를 다음 단으로 바꾼 느낌, 다시 숲으로 올라가서 숲의 전체적인 모양을 이야기하는 사람들이 늘어나고 있다는 것이 저희가 오늘 주목했던 포인트라고 보시면 될 것 같습니다."

"harness를 만드는 것도 이건 언젠가 끝날 일이다, scale에 투자하는 게 훨씬 맞다. 그러나 현실은 6개월짜리 harness를 많이 만들어야 되거든요. 6개월 안에 없어질 것을 오늘 빌드해서 내일 deploy하는 것은 어마어마하게 큰 의미가 있다는 얘기를 저는 여기에 보완해서 드리고 싶습니다."

"System 2는 충분히 좋은 System 1 없이는 동작하지 않는 이야기다. 비둘기에게 체스를 가르칠 수 없다."

"지금 삽질하는 엔지니어는 다음 단계에서 모델의 능력이 신장되었을 때 훨씬 더 빠르게 감을 잡지 않을까요?"

"결국 돌고 돌고 돌아서 언제나 이기는 것은 결국은 데이터구나. 저는 사실 데이터가 프로그램 그 자체라고 생각하거든요."

"우리는 사실 이 문제에 대해 생각할 필요가 없어. 모델이 그냥 알아서 할 거야. 우리가 해야 할 일은 점점 더 어려운 문제를 주는 것뿐이고, 그러면 자체 컨텍스트를 관리하는 창발적 속성이 생길 거야."

"가내수공업과 완벽하게 자동화된 공장 그 사이 어딘가에서 기술의 발전에 갭이 존재하는데, 그 사이에서 해볼 수 있는 것들은 무엇이냐."

"프론티어 모델은 제가 생각할 때 바다 위에 있는 항공모함이고 스타트업들은 제트보트인데, 제트보트가 항공모함이 가려는 길 앞에서 살아남는 방법은 속도를 최고로 높여서 빨리 도망가는 방법밖에는 없다는 생각을 하고 있고."

"어떤 기술의 발전도 인류를 재정의하지 못했었는데, (AGI의 출현은) 인류를 재정의할 만한 변화일 수도 있겠다는 생각까지도 하고 있습니다."

"결국 소프트웨어 가격이 0에 계속 수렴한다니까, 문제를 가진 자들의 밸류가 높아집니다."

"당신이 지식 노동자 중 시니어라고 하면, 당신이 하는 업무를 주니어들에게 주기 전에 무조건 여러 모델에게 줘서 초안을 만든 다음에 그 주니어들에게 검토를 시켰을 때 그 주니어가 AI가 답할 수 없는 무언가를 value-add 할 수 있느냐 없느냐를 보고 그 주니어들의 가치를 생각해 볼 필요가 있다."

"핵심은 우리가 tool use를 위해서 도입했던 다양한 harness, agentic workflow framework 같은 것들을 모델 자체에 내재화하고 있다는 겁니다."

"데이터를 깔끔하게 Claude Code에 연결하기만 하면 그 데이터를 향해서 어떤 질문이든 할 수 있어요. 질문이 bottleneck이 되더라고요, 질문이."

"지능이 무료가 되면 질문의 질이 곧 답변의 질이다. 문제 정의가 곧 문제 해결이다."

"Future, 미래는 이미 와 있는데 단지 이것도 jagged한 거죠. 평평하게 모든 곳에 펴지지 않았을 뿐이구나."

"인간은 촉매자이자 산파이며 창시자입니다. 우주의 네 번째 시대인 설계의 시대를 완성시키는 존재입니다."

"더하기를 풀어서 쓰는 단계를 보여주면 세 자릿수 더하기를 할 때는 Chain of Thought를 쓰면 풀게 할 수 있다가 GPT-3.5가 나왔을 때의 상황이거든요. 그게 22년 말, 더하기를 하던 애가 지금 IMO를 푸는 거죠."

"매일 아침 눈을 떠서 지능의 최전선이 어디까지 나아갔는지 직접 보고 거기에 조금이라도 더 힘을 보태 밀어 올릴 수 있다는 것은 정말 특권입니다."

"인재가 지금 같은 premium을 받은 전례가 있었나요?"

"스포츠 쪽에는 있었죠."

"사람이 기계와 완전히 다른 존재다라는 그 전제는 틀렸다. 사람도 똑같은 로직으로 돌 것이다. 그 생각이 저는 계속 강화됩니다."

"이 설계 같은 걸 보다 보면 항상 느끼는 건데 이거 살짝 연금술 같은 거거든요. 왜 그렇게 했는지에 대해서 이론적인 근거는 없어요."

"가짜로 상상을 하더라도 그걸 쓸 수 있는 능력을 지금 catch한 거잖아요."

"실질적으로 에이전트 애플리케이션을 만들다 보면 모델들이 훈련이 덜 되어 있어서 얘들이 보지 못한 도메인에서 논리적으로 tool calling의 플로우를 프롬프트를 아무리 잘 잡아줘도 못 잡는 경우를 너무 많이 경험하거든요."

"이건 이제 우리가 어떤 결과적으로는 모델에 비즈니스 workflow를 학습시키는 게 궁극적인 답일 것 같거든요."

"이 과정에서 저도 나름 예전에 pre-train phase에 어설프게 알고 있었던 것이 강하게 post-train이 되면서 머릿속에 지식으로 자리 잡고, 촘촘하게 머릿속에 도구로 안정화되는 거죠."

"오늘 새로 등장했던 universal verifiers, 현재 아직 해결이 안 됐던 non-verifiable한 영역을 verifiable하게 만드는 것을 시스템 안에 포함했다는 뉘앙스인 거죠. 문제적인 것 아닌가요? non-verifiable한 것을 verifiable하게 만드는 걸 시스템 안에 통합했다는 것은 어디로 도망가야 하는 건가요?"

"모든 knowledge의 생성을 search problem으로 전환할 수 있다가 사실 Bitter Lesson이라든지 여기서 얘기하는 경험의 시대가 얘기하는 거라서, 모델이 충분히 좋아졌다는 가정을 했을 때 컴퓨터를 더 투입하고 적절한 RL과 그 RL을 감싸는 harness를 잘 만들면 끝까지 갈 거라는 얘기를 하고 있는 것 같아요."

"Dreamer-model이 생산한 데이터·아이디어는 '남이 묻지 못하는 질문'의 형태로 존재한다. 해자가 코드·가중치 차단이 아닌 인지적 불가측성에서 비롯된다는 점을 강조한다."

"가지고 있는 것조차 열심히 일하는 사람한테 다 뺏겨버릴 수 있는 그런 세상인 거죠. 기술의 출현은 사람들을 공평하게 만드는 게 아니라, 그 수단을 먼저, 그리고 적절하게 이용한 사람에게 부를 몰아주는 형태로 항상 동작했거든요."

"할 필요는 없지만, 하는 게 의미가 있을 지점이 있을 것 같아요."

"OpenAI가 봤을 때는 '이건 그냥 내놔도 되는 기술'이라고 판단을 한 거죠. 내부적으로는 이 모델의 한계를 확실히 알고 있다는 거죠."

"저는 굉장한 호재라고 봅니다. H100 2,000장이 있으면 44일 훈련을 하면 됩니다. 데이터가 충분히 준비돼 있다고 하면요."

"MoE라고 했을 때 expert가 '나는 수학을 잘해', '나는 국어를 잘해' 이런 expert가 아닙니다. 다 비슷비슷하게 멍청한 애들이 여러 개 있다고 보시면 돼요."

"신경계를 밖으로 뜯어내고 있는 중입니다."

"BEP가 눈에 보이기 시작하면 회사의 모든 모드가 바뀝니다."

"지금 정말 석 달 전에 알았던 게 쓸모없어지는 그런 시대를 살고 있는 것 같아요."

"포르쉐가 새 911을 내놓을 때 Nürburgring lap time을 강조하지만, 시장에서 팔리냐 안 팔리냐는 편의 장치가 얼마나 달려 있냐, 아내한테 선물로 줄 수 있냐 같은 요소들이 훨씬 더 중요하다."

"자율성과 속도의 조합은 주요 잠금 해제다."

"GPT-5는 미래로의 도약이 아니라 Sonnet 3.5 킬러입니다."

"석기 시대에 오신 것을 환영합니다. 인간은 이제 도구를 사용하는 법을 배웠다."

"내일 당장 무슨 일이 일어날지 정의할 수는 없기 때문에 오늘 무언가를 끊임없이 하고 있는 것 말고는 중요한 게 없다. 더 심하게 요약하면 오늘 토큰 많이 써보는 게 중요하다."

"결국 이렇게 하다 보면 원래 Lean Startup이 갖고 있던 가벼움보다는 구조적 설계 혹은 다양한 업무들을 잘 수행하는 제너럴리스트, 그리고 내 제품이 어떻게 고객한테 다다를지에 대한 방법론에 대한 집착, 이런 것들이 좀 더 새로 부각되고 있는 씬일 것 같습니다."

"이 벤처 캐피탈은 무언가를 같이 만드는 사람이 돼야 한다."

"현금을 쓰던 사회에서 바로 QR 결제로 갈 수 있는 사회같이 느껴져요. 신용카드라는 매개가 없기 때문에 차라리 오히려 더 전환해서 부가가치가 확 터질 수도 있다."

"결국은 unlearn이 일어나야 한다고 생각한다. 그런데 unlearn 또한 배워야 되잖아요. 나 혼자만으로는 안 되고 다른 사람과의 접점을 만들어야 뭘 내가 비워내고 알았던 걸 어떻게 없애야 다음 단계로 가는지를 배울 수 있다."

"AI를 도구라고 생각하고 적절할 때 활용하는 회사, 위기라고 인식하고 따라가려는 회사, 이걸 기회라고 생각해서 구조부터 고민해서 아예 다르게 성장하려는 회사. 무조건 세 번째죠."

"내가 네 말을 안 들은 것을 어마어마하게 후회한다. Claude Code가 정말 신세계다. 'Claude Code is all you need'."

"인간과 AI의 커뮤니케이션 cost가 인간과 인간의 커뮤니케이션 cost보다 압도적으로 낮아요."

"재능에 AI를 곱하면 태도는 multiplier가 아니라 bias가 된다, 더하는 term이 된다."

"산업혁명이 200년을 걸렸다면, 인지 혁명은 어쩌면 10년 내에 끝나버릴 수도 있다."

"가중치, weight를 update해야만 하는 그런 압박감이 있어서 너무 피곤해요."

"이거는 세상의 물리에 대한 이해도가 다 있다."

"2021년 1월에 DALL-E를 봤을 때 사람들이 귀엽다 했어요. 근데 지금은 안 귀엽잖아요. 지금은 그냥 현실이죠. 지금 co-drawing으로 데모했을 때도 귀엽다 하는 것은 위험함의 징후일 수 있다."

"내가 왜 이걸 까먹고 있었지? 재발견."

"제안이 있었다는 게 훨씬 더 중요한 거죠."

"그 맥락 안에서 발현됐다는 거죠. 제가 이걸 어떻게 알았을까요? GPT-5가 대화 중에 제안했기 때문에."

"만약 AI가 궁극의 레버리지라면, 그걸 사용하는 인간의 차이는 미미해야 하는 거 아닐까라는 상상을 해보게 된 거죠."

"모성 본능이 설계되면 엄마들은 모성 본능을 끌래요?라는 질문에 대부분 아니요라고 대답할 거라는 거죠."

"우리가 지배해야 한다는 테크 브로 발상을 버리고 그들이 우리의 엄마가 되도록 설계해야 한다. 그러면 우리가 아주 똑똑하지 않더라도 우리가 최대한 잘하도록 원할 것입니다."

"사회라는 harness가 세팅한 목적 함수가 그게 아닌 거죠."

"비동시적 동시성이 일어나고 있는 요즘이 전환기의 본질일지도 모른다."

"프런티어에 있는 사람들은 프런티어에 지금 무슨 일이 일어나고 있는지에 대해서는 얘기를 안 하고 있죠."

"평가가 결국 학습을 결정하는 문제다."

"데이터 중에서 웹 텍스트는 굉장히 강력한 데이터인데, 이것은 한 번에 수없이 많은 과제를 학습하는 것과 비슷합니다."

"인간은 KPI만을 위해서 일을 하진 않죠. 모델도 마찬가지여야 하지 않을까."

"3개월에서 6개월 정도만 앞에 보이고, 1년에서 2년 뒤는 안개가 너무 가까이 짙게 깔려 있는 상태."

"AI를 많이 쓰는 사람이 결국에는 더 많은 지혜를 얻기도 하고, 이 지혜라는 것은 내가 어떻게 하면 이 AI라는 친구한테 더 좋은 인풋을 넣고 이 친구의 아웃풋을 잘 활용할 수 있을까 하는 고민에서 나온다."

"사실 Claude Code가 할 수 있다는 건 버스 팩터가 무한대다. 왜냐하면 '문맥이 왕'이니까. 최대한 많은 문맥을 AI에 제공하고 모든 것을 문서화해서 회람시키면 누구라도 그걸 재현할 수 있다."

"현재 코드를 작성하는 행위는 너무나도 쉬운 행위예요. 너무나도 쉬운 행위인데, 내가 뭘 하고 싶은지를 스스로 납득하는 것 자체가 너무나도 중요한 거죠."

"모든 것을 시인하고 내려놓고, 새로운 것을 다 받아들여서 해야 한다는 걸 너무너무너무 강하게 느끼고 하셔야 돼요. 그렇지 않으면 모든 회사는 사라질 거고, 이건 역사적으로도 반복됐습니다."

"두 가지 생각이 있다. 하나는 모델이 기하급수적으로 발전할 거라고 생각하고 그거에 맞춰서 무언가 product plan을 짜는 회사. 두 번째는 어리석은 회사들인데, 지금 모델의 성능에 맞춰서 harness를 짜는 회사다. 두 번째 카테고리는 우리가 압살할 거다."

"모델은 2026년 중반까지 전일, 8시간 근무를 자율적으로 작업할 수 있을 것입니다. 2026년 말 이전에 최소 하나의 모델이 많은 산업에서 인간 전문가의 성능과 일치할 것입니다."

"이제는 사람들은 찾는 것에서 '시키는 것'으로 이동하고 있다"

"지금 딸깍하는 느낌이고, 이게 Context Rot의 문제는 있지만 그것과 개인이 받아들이는 것과 상관없이 현실은 진행되고 있다."

"지능이 병목이라기보다는 약간 자잘한 일들이 되게 의외로 병목이라는 걸 오히려 느끼는 요즘인 것 같아요."

"6개월 뒤에 모델이 할 수 있을 것에 베팅하라... 기울기가 굉장히 가파르기 때문에 뭔가 exponential하게 생각을 해라."

"사람이 불안하면 얘를 막 점프 뛰어서 하려고 그러기도 하잖아요. 그런 식으로 모델도 불안해하면서 앞에 있는 걸 압축하거나 축약해 버리거나."

"우리가 생각하는 대로 이루어지기 때문에 생각하는 것이 되게 중요할 수 있다." (Memex 개념 소개)

"지금 쓰고 있는 이미 궤도에 오른 CLI 도구들, 지금 다시 나타나고 있는 노코드 툴이 역사에서 계속 다시 부활하고 있는데... 6개월 뒤, 1년 뒤의 인터페이스는 뭐여야 되는가"

"저의 문체로 입문하자, 내가 알려면 결국 내 방식이어야 된다."

"예측하려는 행위 자체, 틀릴지언정 한번 시도해 보는 것들, 이런 것들이 결국에는 6개월 뒤에 무슨 일이 벌어질지는 모르지만 상상해 보고 그냥 오늘 해볼 수 있는 실험 같은 것 해보고 하는 나날로 보내야 되지 않을까요"

"연산을 활용하는 것이 사람의 구체적인 지식을 활용하는 것보다 훨씬 우월하다. 그리고 연산을 활용할 수 있는 최고의 방법은 학습과 탐색이다."

"그런데 그것은 착각이라는 겁니다. 사람의 마음은 훨씬 복잡하고 훨씬 복잡다단하고 복잡 미묘하기 때문에, 우리가 안다고 생각하는 건 거기에서 굉장히 작은 파편일 수밖에 없다는 거죠."

"모델이 정말로 일반화 가능한 패턴들이 드러날 수 있는 가능성이 생깁니다."

"학습이라는 것 자체가 문제를 푸는 도구가 되는 형태가 될 거라고 생각합니다."

"성공적인 agent engineering이란 Bitter Lesson이 언젠가는 우리를 다 없애버릴 거라는 걸 알지만, 그럼에도 오늘 한 그루의 사과나무를 심는 것을 계속 반복하는 것, 언제까지? AGI가 나올 때쯤까지."

"사람들은 더 이상 찾지 않습니다. 이젠 시킵니다."

"나쁘게 얘기하면 소프트웨어 가지고 벌어먹고 있던 사람들 전부 새 된 거거든요."

"이제 더 이상 기득권이 아니다. 점근하고 있다는 말이 정확히 맞죠. 0에 계속 가까워질 겁니다. 이미 0인지도 모르고요."

"unlearn과 learn이 빠르신 분들... 그런 분들이 저희 대상인 것 같고요."

"강화 학습은 인간의 수준을 뛰어넘을 가능성이 생깁니다. 그러니까 바둑에서 그것을 가장 잘 보여주고 있죠."

"모델이 풀 수 없는 문제에 대해서 모델이 어떻게 행동할까요? 데이터를 전부 외워버릴 수 있는 능력이 있는 경우가 많이 있습니다."

"극히 드뭅니다. 극히 드물기 때문에 이게 LLM에서 고질적으로 발생하는 문제입니다. 그래서 질문에 대해서 좀 생각하고 답을 하면 좋은데 일단 답부터 하는 거죠."

"포스트 트레이닝은 데이터를 창조한다는 느낌에 더 가깝거든요. 그러면 이제 그 창조를 얼마나 잘하는가, 이 부분이 노하우가 될 것이고."

"프리트레이닝을 통해서 선택지의 개수가 크게 줄어듭니다. 한 3.7개 정도에서 하나 뽑는 문제로 바뀌는 거예요."

"왜 그렇게 빨리 배워야 되나, 왜 천천히 즐겁게 배울 수 있는데 허겁지겁 쫓기며 배워야 하나, 불안한 미래 때문에 오늘의 뿌듯한 배움을 왜 희생해야 하나."

"교육에 대한 어떤 초기 추측들이 실제 수업을 해보면 실제와 다르며 진행되면서 달라진다는 거죠. 사람과 하는 거니까요."

"미래는 이미 와 있다. 단지 고르게 퍼져 있지 않을 뿐이다."

"알아낼 수 있는 것은 너무 알려주면 안 된다는 철학이 있어요. 알아낼 수 있게 지원을 해야지."

"결국 align이 되게 중요하죠. 조직의 가치와 구성원의 가치가 align되는 게 물론 어느 조직이나 그렇지만 여기서도 너무나 중요하고."

"2.5에서 3.0 사이의 델타, 그 차이는 지금까지 본 것 중에 가장 크다. 아직 한계가 보이지 않는다."

"그 시절도 불과 3~4개월 만에 끝나는 거거든요."

"200년 동안 일어난 일이 앞으로 2년 동안 일어날 거라고 보는 게 어쩌면 맞고."

"와트가 병목일 때, 와트당 토큰이 의사결정을 주도할 것이다."

"요즘 너무 머리를 많이 써야 돼요. 계속 읽고, 계속 뭔가 수행시키고, managing하고 해야 되니까 피곤합니다, 진짜."

"AI는 냉장고다. 거기에서 맛있는 음식이 만들어지고 진짜 되는 것들은 아직 나오지 않았다."

"스케일링이라는 화두가 되면서 결국은 투자 금액이 커지다가 이것은 정부 보증이 있어야 한다는 수준까지 나아가고 있다. 그렇기 때문에 이게 더 들끓는 것 같습니다."

"감정이 있다면 불확실성 속에서 도약을 할 때 이성과는 완전히 별개의 영역에서 작용해서 도움이 될 수 있죠."

"충분히 스케일이 커지면 그 아래의 기저가 무엇이 되었든 간에 다음 것이 떠오른다는 얘기를 했던 거고, 스케일만으로는 부족해요. 두 번째가 Strange Loop, 이상한 고리라고 불리는 그런 존재거든요."

"취향이라는 게 참 재미있는 문제이기는 하죠. 연구를 하기 전에, 그 연구의 결과가 나오기 전에 그 방향으로 나아가야 된다는 걸 아는 능력이겠죠."

"저는 지금 우리가 쓰고 있는 트랜스포머는 우리가 입력하는 순간만 autoregressive하게 도는 거고, 그 루프가 저는 보상 함수든 뭐든 얘가 스스로 해결하는 시작점이 되지 않을까라고 상상하고 있어요."

"한 달이 1년 같다라는 이야기를 하는데 이제는 그 단위를 2주로 줄여야 되려나 봐요. 2주가 1년 같은, 그런 변화들이 막 나오고 있습니다."

"벤치마크를 만들면 된다. 약간 이게 뒤바뀌어 있긴 한데 그런 느낌적인 느낌이에요."

"모두가 창업가로 내몰리는 세상이 금방 시작될 것 같아요. 도대체 누가 공급자이고 누가 소비자인지 모를 정도로 이렇게 왁자지껄한 포럼 형태가 되는 게 또 새로운 시장의 양상이지 않을까 싶어요."

"Right questions are all we need. 옳은 질문을 하면 해법은 그냥 AI가 바로 만들어 준다는 얘기. 결국은 문제 보유 = 해결이거든요."

"AGI는 당연히 온다. 그런 논의가 지금 무의미해요. 이제는 그냥 배경의 속도와 같이 뛰어야 되는 시기인 것 같아요."

"인간의 역할은 수학적 발판을 제공하는 것이 아니라 검증과 명확한 글쓰기에 집중하는 데 머물렀다."

"2026년의 과학 뉴스는 읽어도 잘 모르겠다라는 뭐 그런 약간 느낌적인 느낌을 받고 있습니다."

"Manhattan Project예요. 이게 중국과 미국 사이에 누가 더 초지능에 먼저 도달하느냐, 이 부분이 안보에 직결되는 내용이다 보니까 이제 국가 단위의 프로젝트까지 결성됐고."

"산업혁명보다 10배 크고 10배 더 빨리 일어날 거다. 한 세기가 아니라 약 10년에 걸쳐 펼쳐질 거다."

"그때는 세대를 걸쳐 일어났기 때문에 부모가 실업자가 되면 아이들은 새 직업이 있는 세상에서 살 수 있었는데, 지금은 부모와 아이가 동시에 실업자가 되는 세상이라는 얘기거든요."

"DeepSeek이 제한된 연산 자원, 800~2,000대 분량 정도의 연산 자원으로도 프런티어를 노릴 수 있다는 걸 보여줬고, 그게 증명되고 나니까 모두가 그렇다면 프런티어를 노려야겠다는 쪽으로 전환되기 시작했죠."

"RLHF가 챗봇을 만들기 위한 post-training이었다면 RLVR은 에이전트를 만들기 위한 post-training이다."

"RL을 통해서 어떤 능력을 배울 수 있냐면, pre-training에서 배웠던 능력을 조합하는 능력을 모델이 배울 수 있다고 생각하고 있습니다."

"사칙연산 같은 능력은 pre-training 과정에서 배우는 거죠. 그런데 RL을 통해서 이 pre-training에서 배웠던 능력을 조합하는 능력을 모델이 배울 수 있다."

"2025년은 RL의 해였네요. MoE와 RL은 사실은 또 다른 레이어의 이야기니까 아키텍처에 대한 부분과 이제 위에서 학습, 어떤 커리큘럼의 이야기니까 다른 부분이고요."

"지난 30일 동안만이라도 따라가지 않은 사람들은 이 주제에 대해 이미 deprecated된 세계관을 가지고 있는 거다."

"적정한 Harness만 있다면 오늘날의 AI는 실제로 중요한, 진짜 지속적인 작업을 할 수 있으며 그것이 차례로 우리가 작업에 접근하는 방식을 바꾸기 시작하고 있다."

"모델이 '유저가 이걸 다 알고 있는 상황인가 보다'라고 하면 스포츠카 모드가 되는데, 그다음을 제어하는 건 사실 어렵긴 할 수 있거든요."

"모델이 나를 잘 돕게 하려면 내가 모델을 잘 도울 필요가 있다는 생각을 많이 해요."

"영어가 새로운 programming language네요."

"KV cache는 자라나는 기억의 궁전이고, 파라미터는 움직이지 않는 지형이며, 토큰은 그 둘 사이를 오가는 순례자다. 그 연쇄의 궤적이 우리가 의미라고 부르는 풍경을 만든다."

"10x가 뉴노멀이 되어서 1x가 되면은 어떻게 되는 건가."

"우리가 prompting을 한다는 건 여기에 갑자기 커다란 건축물을 한 번에 확 세우는 거예요. 그 건축물도 아름다워야 되지 않을까요?"

"학부 1,2학년 수준의 선형대수는 알아야 돼요. 그리고 한 번 정도 토이라도 구현을 해보긴 했어야죠."

"인간의 뇌도 그냥 autoregressive한 머신이다라는 걸 보여주는 거거든요."

"안 되던 게 됩니다. 옛날에 안 됐던 것들."

"LLM에서 scaling law가 되었던 것처럼 여기도 모든 task 다 모아서 학습시키면 될 거다, general한 게 될 거다, 이런 가정이 다 기반에 깔려 있고요."

"촉각이 없으니까 진짜 잘 안 돼요. 이런 task를 우리가, 촉각이 필요한 작업이 생각보다 우리 세상에 많더라고요."

"올해 아니면 내년일 거라고 저도 생각을 합니다. 진짜로 로봇이 배포되어서 특정한 task, 꽤나 general한 task들을 시장에서 가져오기 시작한 순간."

"Tesla가 정확하게 보여줬었던 그 trajectory죠. 그 자취죠."

"취향, 판단, 방향성은 인간에게서 나왔지만 AI는 이 연구에서 빠른 반복과 탐색을 위한 강력한 force multiplier였습니다."

"OpenClaw가 예고한 보안 취약성은 수주 사이에 Moltbook을 통해 현실화됐고... 어마어마하게 많은 API 키가 노출이 되는, 100만 개였네."

"의도를 이끌어내고 명시하고 이해하는 일이 중요하다는 것을 보여줍니다. 조향 가능성과 관측 가능성은 앞으로도 흥미로운 연구의 영역이 될 거예요."

"도메인의 크기가 한 100이라고 하면 그 100 중에 0에서부터 소위 한 95, 이 정도까지는 frontier 모델이 굉장히 잘합니다. 그럼 위에 5 남았다는 얘기인데 그 5가 사실은... 암묵지의 영역"

"이제는 코딩하는 걸로는 안 된다. 무언가 문제를 정의하고 그걸 풀 수 있는 사람으로 넘어가지 않으면... 사업가의 포지션이 되지 않으면 이거는 진짜 답이 없다."

"코드는 가치가 거의 0으로 수렴하게 되고, DevOps에서 developer가 하는 일이 종류가 완전히 바뀌지 않으면 이분들은 직업을 잃거나 아니면 좀 어려운 상황에 처하게 되겠죠."

"소프트웨어의 정의가 OMR 카드에 마킹하던 거에서 키보드 기반의 코딩으로 넘어왔듯이, 키보드로 코딩하던 거에서 의미를 전달하는 걸로 코딩이 계속 변하고 있는 단계가 될 거고."

"Claude Code의 핵심 경쟁력은 Opus나 Sonnet 엔진이 아닙니다. Claude Code 그 자체예요."

"인지 부하가 줄지 않습니다. 아무리 AI에게 뭔가를 맡긴다고 해도 인지 부하가 줄지 않고 오히려 끊임없이 피드백이 들어오기 때문에 사람이 되게 삶이 피폐해집니다."

"내 일이 줄어드는 게 핵심이 돼야 됩니다. 새로운 걸 배워서 다른 사람들이 만들어 놓은 무언가를 내가 배우는 게 아니라 내가 지금 처리하는 걸 계속 위탁을 하는 식으로 가는 게 훨씬 더 빠르다."

"구현 장벽이 낮아진다고 엔지니어의 중요성이 줄어들지 않고, 오히려 비전, 판단, 취향의 중요성이 더 커집니다. 만들기가 쉬워질수록 무엇이 만들 가치가 있는지를 결정하는 일이 더 어려운 문제가 됩니다."

"코딩은 이미 켄타우로스 너머의 시절로 가기 시작했는데, 과학은 켄타우로스의 시절로 돌입한 느낌이에요."

"모르는 채로도 옳은 방향으로 나아가려면, 그 나아가 보는 방향에서 자기가 배움을 얻고 결정하는 품질을 높이고 하는 그 과정과 결합되면 됩니다."

"너무 이게 되다 보니까, 건강하게 하는 방법을 지금 사람들이 모르는 중이고, 그게 위험하구나라는 거를 알아가고 있는 중인 것 같거든요. AI가 나를 혹사시키고 무리하게 되는 어떤 메커니즘이구나."

"딸깍이 내가 아니니까. 그 딸깍이 내가 하는 사람들은 지금 신나죠."