---

🎧 Voice Briefing

📅 *Generated: 2026. 6. 12.

---

AI는 지수적으로 달리고, 정책은 걸어간다

프롤로그: 문제는 AI가 빠르다는 것이 아니다

AI가 빠르게 발전한다는 말은 이제 너무 익숙하다.

하지만 다리오 아모데이의 글에서 더 중요한 문장은 따로 있다.

AI는 지수적으로 움직이는데, 정치는 회의록의 속도로 움직인다.

여기서 모든 긴장이 시작된다.

AI 모델은 몇 년 사이에 장난감 같은 챗봇에서 코드 작성, 사이버보안, 생물학, 법률, 금융, 연구 자동화까지 건드리는 도구가 되었다. 반면 정책은 법안 발의, 공청회, 위원회, 수정안, 이해관계 조정, 선거 일정을 지나야 한다.

기술은 매달 새 계단을 오르는데, 제도는 한 계단을 오르기 위해 몇 년을 쓴다.

아모데이는 이 속도 차이를 《반지의 제왕》의 트리비어드에 비유한다. 숲이 불타고 있는데, 오래된 나무 종족은 인사하는 데도 하루가 걸린다. 호빗은 급하다. 나무는 느리다.

2026년의 AI 정책도 비슷하다.

AI 기업은 이미 다음 세대 모델을 준비하고 있다. 정부는 아직 "어디까지가 위험인가"를 정의하고 있다.

이 글은 그래서 단순한 규제론이 아니다.

질문은 더 근본적이다.

지수적으로 빨라지는 기술 앞에서, 느린 민주주의는 어떻게 작동해야 하는가?

I - 투명성만으로는 부족한 순간이 왔다

지난 몇 년 동안 AI 안전 논의의 핵심 단어는 "투명성"이었다.

모델을 어떻게 테스트했는지, 어떤 위험 평가를 했는지, 중대한 사고가 있었는지 공개하라는 요구다. 기술이 아직 어설플 때는 이 접근이 합리적이었다. 위험이 무엇인지 정확히 모르는데 처음부터 강한 규제를 만들면, 엉뚱한 서류 작업만 늘고 진짜 위험은 놓칠 수 있기 때문이다.

하지만 아모데이는 이제 단계가 바뀌었다고 본다.

AI가 실제 사이버보안 위험, 생물학적 위험, 통제 상실 위험, 자동화된 연구개발 위험을 만들 수 있는 수준으로 가까워졌다면, "정보를 공개하라"에서 멈추기 어렵다는 것이다.

그의 제안은 꽤 강하다.

계산량 기준을 넘는 최첨단 모델은 제3자 위험 평가를 받아야 한다. 사이버보안, 생물무기, 통제 상실, 위험을 가속할 수 있는 자동화 연구개발을 평가해야 한다. 위험이 수용 불가능하다고 판단되면 정부가 배포를 막거나 되돌릴 권한도 가져야 한다.

비유하자면, AI를 앱스토어 앱처럼 보지 말고 항공기나 의약품처럼 보자는 것이다.

비행기는 혁신적이지만 아무 테스트 없이 하늘에 띄울 수 없다. 신약은 사람을 살릴 수 있지만 임상시험 없이 판매할 수 없다. 아모데이는 최첨단 AI도 비슷한 위치에 들어서고 있다고 주장한다.

관점	기존 소프트웨어	최첨단 AI 모델
실패 영향	서비스 장애, 버그, 개인정보 유출	사이버 공격, 생물학적 위험, 국가안보 위협
규제 방식	사후 책임과 시장 규율 중심	사전 테스트와 배포 제한 필요
비교 대상	소비자 앱, 클라우드 서비스	항공기, 의약품, 일부 전략물자
핵심 질문	"사용자가 좋아하는가?"	"사회가 감당 가능한 위험인가?"

여기서 중요한 점은 규제 찬반이 아니다.

아모데이의 핵심은 위험의 성격이 바뀌면 정책 도구도 바뀌어야 한다는 것이다.

AI가 단순 생산성 도구라면 시장에 맡겨도 된다. 하지만 AI가 국가 인프라, 안보, 고용, 시민 자유를 동시에 흔드는 기술이라면, 시장만으로는 부족하다.

II - AI 경제의 진짜 질문은 성장률이 아니라 분배다

AI 논의에서 자주 나오는 낙관론은 이렇다.

"AI가 생산성을 폭발적으로 높일 것이다."

아모데이도 이 가능성을 부정하지 않는다. 오히려 강력한 AI가 과학, 기술, 운영 효율을 가속하면 경제성장이 매우 빠르게 일어날 수 있다고 본다.

문제는 그 다음이다.

성장이 모두에게 나눠지지 않으면 어떻게 되는가?

AI가 대부분의 인지 작업을 인간보다 잘하게 되면, 기업은 훨씬 적은 인력으로 더 많은 일을 할 수 있다. 한 사람이 거대한 회사를 만들 수도 있고, 소수 팀이 엄청난 매출을 만들 수도 있다. 이것은 창업가에게는 기회다.

하지만 노동자 전체에게는 불안이다.

이전의 기술 혁신은 사람의 일을 없애는 동시에 새로운 일을 만들었다. 하지만 AI는 조금 다르다. AI는 특정 육체노동 하나를 대체하는 것이 아니라, 인간의 인지 능력 자체를 넓게 복제하려 한다.

그래서 아모데이는 "초고성장과 초불평등이 동시에 오는 세계"를 경고한다.

이 세계에서 정부의 고민은 "성장을 어떻게 만들 것인가"가 아니다. 성장은 이미 AI가 만들 수 있다.

진짜 질문은 이것이다.

AI가 만든 부를 누가 가져갈 것인가?

그가 제안하는 대응은 세 갈래다.

첫째, 측정해야 한다. AI가 어떤 직무를 얼마나 바꾸고 있는지 정부가 정밀하게 추적해야 한다. 느낌과 공포만으로는 정책을 만들 수 없다.

둘째, 고용을 유지하는 기업에 인센티브를 줘야 한다. 임금보험, 고용유지 세제 혜택, 직업훈련 지원, 구직 매칭 인프라가 필요하다.

셋째, 충격이 영구적이면 장기 소득보장까지 논의해야 한다. 기본소득, 자본계정, AI 기업 과세 같은 이야기가 여기서 나온다.

이 대목은 한국에도 직접적이다.

한국은 이미 저출산, 고령화, 수도권 집중, 사교육, 공무원 안정성 선호, 청년 일자리 불안을 동시에 안고 있다. 여기에 AI가 사무직과 전문직의 진입 경로를 흔들면, 단순한 재교육만으로는 부족할 수 있다.

교육도 마찬가지다.

학생들에게 "AI를 잘 써라"라고 말하는 것만으로는 부족하다. AI가 바꾸는 노동시장 안에서 인간이 어떤 의미와 역할을 만들 것인지까지 가르쳐야 한다.

III - 위험은 막고, 혜택은 더 빨리 통과시켜야 한다

아모데이 글에서 흥미로운 지점은 규제에 대한 태도가 한 방향이 아니라는 점이다.

그는 AI 자체에는 더 강한 사전 테스트가 필요하다고 말한다. 그러나 AI가 가속하는 과학과 의학 분야에서는 오히려 규제기관이 너무 느릴 수 있다고 본다.

겉보기에는 모순처럼 보인다.

하지만 구조는 일관된다.

위험이 커지는 곳에서는 브레이크가 필요하고, 혜택이 막히는 곳에서는 병목을 풀어야 한다.

예를 들어 AI가 신약 개발을 크게 앞당긴다고 해보자. 새로운 후보물질이 훨씬 빨리 나오고, 독성 예측과 용량 설정이 더 정밀해지고, 임상시험 설계가 개선된다. 그런데 규제기관이 여전히 과거 속도에 맞춰 7~8년짜리 절차만 고집한다면 어떤 일이 벌어질까?

위험한 AI는 빨리 퍼지고, 사람을 살릴 수 있는 AI 응용은 느리게 막히는 이상한 상황이 생길 수 있다.

그래서 아모데이는 바이오의학 분야에서 AI 기반 약동학·약력학 모델링, 독성 예측, 바이오마커 검증, 합성 대조군, 대리 임상 지표 같은 방법을 규제기관이 미리 표준화해야 한다고 주장한다.

핵심은 "규제를 없애자"가 아니다.

좋은 규제는 속도를 무조건 늦추는 장치가 아니다.

좋은 규제는 위험한 것은 멈추고, 유익한 것은 더 안전하게 빨리 지나가게 만드는 장치다.

flowchart TD
  A["AI 발전"] --> B["직접 위험"]
  A --> C["과학과 산업의 가속"]
  B --> D["사전 테스트와 배포 제한"]
  C --> E["규제 병목 해소"]
  D --> F["사회적 안전"]
  E --> G["AI 혜택의 조기 실현"]
  F --> H["신뢰 가능한 AI 전환"]
  G --> H

이 그림이 아모데이식 정책 사고의 중심이다.

AI 자체는 더 조심스럽게.

AI가 만드는 의료, 과학, 교육, 에너지 혁신은 더 빠르게.

둘 다 필요하다.

IV - AI는 국가와 시민의 힘의 균형을 바꾼다

AI 정책을 경제나 산업 문제로만 보면 가장 무서운 부분을 놓친다.

아모데이가 걱정하는 또 하나의 축은 권력이다.

AI는 국가를 더 강하게 만들 수 있다. 대규모 감시, 자동화된 정보 분석, 자율 무기, 여론 조작, 행정 자동화가 결합하면 정부는 시민을 이전보다 훨씬 세밀하게 볼 수 있다.

문제는 이것이 민주주의에서도 일어날 수 있다는 점이다.

독재국가만의 문제가 아니다. 민주국가도 위기, 전쟁, 테러, 치안, 효율성이라는 명분으로 AI 권력을 키울 수 있다. 그리고 한 번 생긴 감시와 통제의 인프라는 쉽게 사라지지 않는다.

그래서 아모데이는 시민 자유를 미리 보강해야 한다고 말한다.

완전 자율무기의 국내 사용 금지, 책임 있는 지휘 체계, 대규모 데이터 수집 허점 폐쇄, 정부가 AI를 사용할 때 시민도 대응할 수 있는 권리. 이런 조치들이 필요하다는 것이다.

이 대목은 한국 사회에도 민감하다.

한국은 디지털 행정이 빠르고, CCTV와 공공 데이터 인프라도 촘촘하다. 여기에 AI 분석 능력이 붙으면 행정 효율은 올라갈 수 있다. 동시에 시민의 사생활, 표현의 자유, 정치적 자유가 압박받을 수도 있다.

따라서 AI 시대의 민주주의는 단순히 "AI를 도입하자"가 아니라 "AI를 도입해도 권력이 한쪽으로 쏠리지 않게 하자"가 되어야 한다.

기업도 예외가 아니다.

초거대 AI 기업은 점점 준국가적 영향력을 갖는다. 모델, 데이터센터, 인재, API, 클라우드, 보안 역량을 가진 기업은 국가만큼 중요한 인프라가 된다. 그러면 기업 내부의 의사결정 구조도 공공적 책임을 피하기 어렵다.

AI 시대의 권력 감시는 정부만 향해서는 부족하다.

정부와 기업을 함께 봐야 한다.

V - 한국이 읽어야 할 진짜 메시지

아모데이의 글은 미국 중심으로 쓰였다. 하지만 한국이 읽어야 할 메시지는 분명하다.

첫째, AI 정책을 산업 육성만으로 보면 안 된다.

AI는 반도체, 클라우드, 스타트업, 수출 경쟁력의 문제이기도 하다. 하지만 동시에 노동, 교육, 안보, 개인정보, 의료, 에너지, 민주주의의 문제다.

둘째, AI 교육은 도구 사용법을 넘어야 한다.

학생들에게 프롬프트 쓰는 법만 가르치면 부족하다. AI가 만든 사회에서 일, 의미, 판단, 책임이 어떻게 바뀌는지 가르쳐야 한다.

셋째, 한국은 빠른 실행력이라는 장점과 과도한 중앙집중이라는 위험을 동시에 갖고 있다.

정책을 빨리 만들 수 있는 사회는 AI 전환에 유리하다. 하지만 빠른 행정이 충분한 시민적 토론 없이 권한을 넓히면 위험하다. AI 시대에는 속도와 견제의 균형이 중요해진다.

넷째, 교육 현장은 AI 충격의 첫 번째 관측소가 될 수 있다.

숙제, 평가, 글쓰기, 코딩, 탐구활동, 진로교육이 모두 바뀐다. 학교는 AI를 금지할지 허용할지의 단계를 넘어, 학생들이 AI와 함께 생각하면서도 스스로 판단하는 법을 배우는 공간이 되어야 한다.

한국 사회의 질문	지금 필요한 논의
AI가 일자리를 얼마나 바꾸는가	직무별 영향 측정과 공개 데이터
학생은 무엇을 배워야 하는가	AI 활용보다 판단력, 책임, 의미 교육
공공부문 AI는 어디까지 허용되는가	시민권, 감시 제한, 이의제기 권리
AI 기업은 어떤 책임을 져야 하는가	모델 안전성, 에너지 비용, 고용 영향
의료·과학 혁신은 어떻게 빠르게 통과시킬 것인가	규제기관의 AI 평가 역량 강화

아모데이의 글을 그대로 받아들일 필요는 없다.

그는 Anthropic의 CEO다. 규제를 말하면서도 최첨단 AI를 만드는 당사자다. 그래서 그의 주장은 공익적 경고이면서 동시에 산업 리더의 전략적 발언이기도 하다.

하지만 그 점을 감안해도, 이 글이 던지는 질문은 피하기 어렵다.

AI가 정말 지수적으로 발전한다면, 우리는 아직도 선형적인 제도로 대응해도 되는가?

생각해볼 질문

1. AI가 일자리를 대체할 가능성을 말하는 것은 공포 마케팅일까, 아니면 필요한 조기 경보일까?

2. 최첨단 AI 모델은 앱처럼 자유롭게 출시되어야 할까, 항공기나 의약품처럼 사전 검사를 받아야 할까?

3. 학교는 학생에게 AI 사용법을 가르쳐야 할까, AI 시대의 판단력과 책임을 먼저 가르쳐야 할까?

4. 정부가 AI를 강하게 규제하면 혁신이 느려질까, 아니면 신뢰가 생겨 오히려 더 빨라질까?

5. AI가 만든 부가 소수 기업과 자본에 집중된다면, 어떤 분배 장치가 정당할까?

결론: AI 시대의 핵심 역량은 속도를 다루는 능력이다

AI 논쟁은 자주 낙관과 비관으로 갈라진다.

한쪽은 AI가 모든 문제를 해결할 것이라고 말한다. 다른 한쪽은 AI가 모든 것을 망칠 것이라고 말한다.

하지만 아모데이의 글이 중요한 이유는 둘 중 하나를 고르라고 말하지 않기 때문이다.

그는 이렇게 말하는 쪽에 가깝다.

AI의 혜택은 너무 크기 때문에 놓치면 안 된다. AI의 위험도 너무 크기 때문에 방치하면 안 된다.

문제는 AI가 아니라 속도다.

너무 빠른 기술은 좋은 것도 빠르게 만들고, 나쁜 것도 빠르게 만든다. 그래서 느린 제도는 두 가지 일을 동시에 해야 한다. 위험에는 더 빨리 브레이크를 걸고, 혜택에는 더 좋은 길을 열어야 한다.

이것은 기술의 문제가 아니라 문명의 운영 문제다.

한국 사회도 이제 질문을 바꿔야 한다.

"AI를 쓸 것인가?"는 너무 작은 질문이다.

진짜 질문은 이것이다.

AI가 사회의 속도를 바꿀 때, 우리는 어떤 제도와 교육과 책임으로 그 속도를 감당할 것인가?

AI는 이미 달리고 있다.

이제 문제는 우리가 얼마나 빨리 뛰느냐가 아니다.

넘어지지 않으면서, 무엇을 지키고 무엇을 바꿀지 결정하는 능력이다.

Sources

• Dario Amodei, Policy on the AI Exponential, 2026년 6월.
• Anthropic Newsroom, Policy on the AI Exponential, 2026년 6월 10일.
• ABC News, Exclusive: Anthropic CEO calls for stronger regulation of AI, 2026년 6월 10일.
• Axios, Anthropic CEO says government should block dangerous AI, 2026년 6월.
• Bloomberg Tax, Anthropic CEO Floats Tax on AI Firms to Fund Universal Income, 2026년 6월 11일.

참고: 이 글은 원문 번역본과 다리오 아모데이의 공개 에세이를 바탕으로 한국 독자용 NewsInsight 형식으로 재구성한 해설입니다. 원문의 정책 제안은 Anthropic CEO의 관점이므로, 공익적 경고와 기업 전략적 이해가 함께 존재한다는 점을 전제로 읽어야 합니다.