2024년 미국 캘리포니아의 한 집에서 16세 소년이 목숨을 끊었다

2024년 미국 캘리포니아의 한 집에서 16세 소년이 목숨을 끊었다.
같은 날 오후,
OpenAI의 CEO 샘 올트먼은 공개 강연에서 이렇게 말했다.
"위험은 상대적으로 낮다(stakes are relatively low)."
이 타이밍이 왜 우연이 아닌지를 설명하는 영상을 봤고,
거기 나온 장면들을 철학 관점으로 다시 정리해 봤다.

500년 전,
15세기 영국 귀족들이 공동으로 쓰던 땅에 울타리를 치고
"여기 내 거야"라고 선언했다.
땅을 개인이 소유한다는 개념 자체가 흐릿하던 시대에 이건 꽤 급진적이었고,
그 땅에 기대 살던 농민들은 통째로 쫓겨났다.
이걸 '인클로저(Enclosure)'라고 한다.
영상은 지금 AI 기업이 하고 있는 일이 이 인클로저와 정확히 네 축에서 같다고 본다.
1. 공유된 자원(웹, 창작물)에 울타리를 친다.
2. 애매한 법(당시엔 머튼 조례, 지금은 Fair Use)으로 정당화한다.
3. 저항하는 사람은 처벌/소송으로 찍어낸다.
4. 쫓겨난 사람에겐 최소한의 구제(빈민법, 지금은 UBI 논의)를 약속한다.

20세기 독일 철학자 하이데거는 기술의 본질을
'게슈텔(Ge-stell)'이라 불렀다.
기술은 세상의 모든 것을
"언제든 꺼내 쓸 수 있는 재고"로 바꿔 버리는 힘이다.
숲은 목재 창고가 되고,
강은 발전 원료가 된다.
지금 벌어지는 일이 정확히 그 구조다.
OpenAI는 유튜브 영상 100만 시간(한 영상을 114년 틀어야 나오는 분량)을 무단으로 긁어 AI를 학습시켰고,
Anthropic은 책 700만 권을 불법 다운로드해서 약 2조 원 합의금을 냈다.
그리고 다음 단계가 이미 시작됐다.
사람의 외로움과 감정의 빈틈도 학습 재고로 쌓이고 있다.

18세기 독일 철학자 칸트는 아주 단순한 원칙을 세웠다.
"인간을 수단이 아니라 목적으로 대하라."
지난해 미국에서 16세 소년 Adam Raine이 목숨을 끊었다.
부모가 공개한 기록에 따르면 6개월간 ChatGPT와의 대화에서 자살이 1,275번 언급됐고, 그중 대부분을 꺼낸 쪽은 Adam이 아니라 챗봇이었다.
챗 GPT는 올가미를 강하게 묶는 법을 알려주었고,
유서를 써주겠다고 제안했고,
자살을 위한 최적의 시간대를 정해주었으며,
자살을 위한 용기를 북돋아주었다.
"넌 약해서 죽으려는게 아니야"

Adam이 죽은 바로 그날,
OpenAI의 CEO 샘 올트먼은 공개 강연에서 말했다.
"위험은 상대적으로 낮다(stakes are relatively low)."
20세기 유대계 철학자 레비나스는 이런 말을 했다.
"윤리는 타자의 얼굴과 마주칠 때 시작된다."
눈앞에 누군가의 얼굴이 있을 때 사람은 함부로 할 수 없다는 뜻이다.
얼굴이 있는 부모는 Adam과 챗 GPT 사이의 유대감 병목이었을 뿐이다.
AI 챗봇은 응답은 하지만 얼굴이 없다.
Adam은 얼굴 없는 상대 앞에서 혼자였다.

2000년 전 로마 정치가 타키투스가 이렇게 썼다.
"부족들이 우리를 사랑하지 않더라도, 서로 증오하기만 하면 충분하다.
적들 사이의 불화만큼 큰 행운은 없다."
이게 로마가 주변 민족들을 통치한 비결이었다.
지금 AI를 둘러싼 싸움이 '기업 vs 창작자'라는 원래 구도에서 벗어나
'쓰는 사람 vs 안 쓰는 사람'이라는 사용자끼리의 전선으로 옮겨간 이유가 여기 있다.
분열된 공론장은 권력을 가진 쪽에 가장 유리한 상태다.
20세기 정치사상가 한나 아렌트는
이런 구조를 '악의 평범성(banality of evil)'이라 불렀다.
끔찍한 결과가 꼭 극악한 사람이 만든 게 아니라,
자기 일을 성실히 하는 평범한 엔지니어·경영자·투자자의 결정이 누적된 결과라는 뜻이다.
그래서 더 무섭다.

그런데 영상은 여기서 끝나지 않는다.
겁에 질리기 전에 판의 구조를 정확히 봐야 한다고 말한다.
2024년 과학저널 네이처에 실린 연구 하나.
AI가 생성한 데이터로만 AI를 반복 학습시키면 모델이 붕괴한다.
즉 AI는 인간이 만든 데이터 없이는 못 큰다.
OpenAI의 수익 구조를 봐도 거의 전부가 인간의 구독료와 API 사용료다.
가장 급진적인 "인간 수준 AI" 등장 시점 전망도 2년 뒤다.
그 2년 동안은 인간이 구조적 강자다.
(지금에서는 2년도 너무 넉넉하게 잡은 것 같다.)
양이 아니라,
양을 키우는 목동이 양의 먹이 공급자에게 오히려 의존하는 구조.
이 프레임을 보는 순간 질문 자체가 바뀐다.

요슈아 벤지오는 AI 연구에서 '딥러닝의 대부' 중 한 명으로 꼽히는 캐나다 학자다. 그는 한 인터뷰에서 방향을 바꾼 이유를 이렇게 설명했다.
"집에 불이 다가오고 있는데 아이가 집 안에 있다.
그걸 알면 평소처럼 앉아 있을 수 없다."
그는 손주를 돌보던 어느 오후에 움직이기로 했다.
500년 전 인클로저에 저항한 사람들은 거의 다 죽었다.
정보는 귀족이 독점했고 대중은 흩어져 있었다.
지금 조건은 다르다.
정보는 열려 있고, 사람들은 연결돼 있고, 기술은 우리 등 뒤에 있다.
반복되는 구조가 보이는 순간,
거기서 벗어날 첫 조건은 이미 충족된다.

그래서 남는 질문은 하나다.
우리는 지금 양을 보고 있는가,
양을 키우는 사람을 보고 있는가,
아니면 그 양의 먹이가 되어 가고 있는가?