1. 문제 제기: AI에 대한 '개인주의적' 사고방식

현재 우리가 생성형 AI를 바라보는 방식은 근본적으로 개인주의적이다. 이는 단지 사용자가 모델과 일대일로 대화하는 인터랙션 방식만이 아니다. 모델이 설계되는 방식, 벤치마크가 평가되는 방식, AI를 활용한 상업·연구 전략이 수립되는 방식 전반에 이 개인주의가 스며들어 있다.

저자들은 이 접근법을 폐기해야 한다고 주장한다 — 적어도 AI가 획기적 혁신과 과학적 발견을 이끌기를 기대한다면 말이다. 복잡계 과학, 조직 행동론, 과학철학의 연구와 수학적 결과들을 종합하면, 심층적인 지적 돌파구는 '단일 초지능 에이전트'가 아니라 '인식론적으로 다양한 AI 에이전트 그룹의 협력'에서 나올 것으로 기대해야 한다.

2. 지적 다양성의 세 가지 이점

수십 년에 걸친 복잡계(Hong & Page, 2001, 2004), 과학철학(Grim & Singer et al. 2013; Weisberg & Muldoon, 2009; Zollman, 2010), 조직 행동론(Lazer & Friedman, 2007), 계산 사회과학(Becker et al., 2017; Centola et al., 2023) 연구는 동일한 결론을 가리킨다: 지적 진보는 다양한 집단의 협업에서 비롯되지, 뛰어난 개인의 독립적 연구에서 나오지 않는다. 저자들은 이 교훈이 인공지능에도 동일하게 적용된다고 주장하며, 인식론적으로 다양한 집단이 가져다주는 세 가지 핵심 이점을 제시한다.

이점 ① 더 넓은 문제 공간의 탐색

다양한 관점을 가진 연구자들은 문제 공간의 서로 다른 영역을 탐색한다. DNA 이중나선 구조의 발견이 대표적인 사례다. 로잘린드 프랭클린(Rosalind Franklin)의 X선 결정학 증거가 왓슨과 크릭(Watson & Crick)에게 전혀 다른 이론적 도구를 가진 연구자만이 활용할 수 있는 구조적 제약 조건을 밝혀주었다. 각 개인의 상보적 강점이 결합되어, 어느 한 사람만으로는 도달할 수 없었던 해법에 이르게 된 것이다.

에이전트 기반 모델은 같은 역학을 보여준다: 다양한 전략은 맹점(Blind Spots)을 줄이고, 공동체 구성원 간의 순차적 개선 기회를 만들어낸다.

이점 ② 조기 합의(Premature Convergence)의 방지

소화성 궤양의 원인을 둘러싼 오랜 논쟁이 인식론적 다양성의 두 번째 이점 — 지속적 탐색 — 을 보여준다. 지적 공동체는 조기 수렴이라는 심각한 위험에 직면한다. 동질적인 집단에서는 초기의 유망한 결과가 탐구 방향을 단일 접근법에 고착시키는데, 그 접근법이 궁극적으로 열등한 경우에도 마찬가지다.

네트워크화된 공동체에 대한 연구는, 긴밀하게 연결되고 방법론적으로 균일한 집단이 초기 신호를 증폭시켜, 경쟁 가설이 공정하게 발전할 기회를 갖기도 전에 차선의 경로에 스스로를 가두어 버린다는 것을 보여준다.

이 역학은 집단사고(Groupthink)와 일맥상통한다. 사회적·방법론적 동질성은 오류 수정을 희생하면서 합의의 속도를 가속화한다. 반면, 다양한 연구자 집단은 개별 전문가나 전문가 팀보다 더 끈기 있게 탐색을 지속한다 — 특히 반독립적(Semi-independent) 클러스터로 구조화되었을 때 그렇다.

이점 ③ 비관습적 접근의 보호

다양성은 주류 합의와 다른 비관습적 접근법이 생존할 수 있는 공간을 만들어낸다. 이는 탐색(Exploration)과 활용(Exploitation) 사이의 균형이라는 복잡계의 근본적 딜레마와 직결된다. 동질적 집단은 활용에 치우쳐 현재 알려진 최선의 해법 주변만 탐색하는 반면, 다양한 집단은 아직 검증되지 않았지만 잠재적으로 우월한 접근법에 자원을 투입할 수 있다.

3. AI에게 다양성의 이점은 더 크고, 비용은 더 적다

이 논문의 핵심 전환점은 여기에 있다. 저자들은 AI 공동체가 인간 공동체의 이 모든 이점을 누리면서도, 인간에게 다양성이 부과하는 비용을 회피할 수 있다고 주장한다.

다양한 인간 집단이 인식론적 다양성에 수반되는 지속적 불일치에 대해 실질적인 대가를 치른다: 조율 오버헤드, 커뮤니케이션 마찰, 그리고 서로 다른 방법과 가정을 가진 연구자들이 함께 일할 때 발생하는 대인 갈등이 그것이다.

AI 공동체는 이러한 부담을 직접 물려받지 않는다. 아키텍처나 훈련 방식의 차이가 AI 모델 간에 대인 마찰을 유발하지 않는다. 병렬화(Parallelization)를 통해 AI 에이전트는 대안적 접근법을 대규모로 탐색할 수 있다: 인간 연구에서는 수 년이 걸릴 지연이 계산 비용으로는 저렴해진다.

결과적으로 AI 공동체는 다양성의 세 가지 이점 모두를 보존하면서, 그에 수반되는 인간적 비용을 관리 가능하고 종종 무시해도 좋을 수준의 계산 비용으로 대체할 수 있다.

4. 현재 AI 개발 패러다임에 대한 비판

저자들은 현재의 AI 산업이 정확히 반대 방향으로 달리고 있다고 지적한다. 단일 모델의 벤치마크 점수를 올리는 것이 개발의 핵심 지표이고, '하나의 모델로 모든 것을 해결하겠다'는 접근이 상업적 전략의 기본값이다. 이는 마치 과학 연구 자금 전부를 단 한 명의 천재 연구자에게 몰아주는 것과 같다.

이 패러다임은 AI 비평가들의 핵심 우려 — 현재 모델이 과거 데이터에 구속되어 혁신에 필요한 창의적 통찰을 결여하고 있다는 점 — 를 해결하지 못한다. 반면, 다양한 AI 팀을 구축하는 접근법은 바로 이 문제에 대한 구조적 해답을 제시한다. 서로 다른 아키텍처, 훈련 데이터, 목적 함수를 가진 AI 에이전트들이 협력함으로써, 어느 단일 모델의 훈련 데이터에도 포함되지 않았던 통찰이 그들의 상호작용에서 출현할 수 있다.

5. 제안: 다중 에이전트 AI 연구 공동체

논문은 궁극적으로, 초지능을 향한 경쟁에서 단일 모델의 능력을 극한까지 밀어붙이는 대신, 아키텍처·훈련 방법론·인식론적 전략이 다양한 AI 에이전트들의 연구 공동체를 설계하는 방향으로 패러다임을 전환할 것을 촉구한다. 이 에이전트들은 반독립적 클러스터로 구조화되어, 충분한 연결성을 통해 인사이트를 공유하면서도 충분한 독립성을 통해 조기 합의를 방지해야 한다.