"AI가 인류를 멸종시킬 확률은 존재한다"

"AI가 인류를 멸종시킬 확률은 존재한다."
앤트로픽 공동창업자 잭 클락이 옥스퍼드 강연에서 한 말이다.

정확한 표현은
"non-zero chance of killing everyone on the planet".
직역하면 지구 위 모두를 죽일 확률이 0이 아니라는 뜻이다.
그는 강연에서 "이 위험이 사라진 게 아니라는 점을 분명히 해야 한다"고 한 번 더 못 박았다.

그리고 한 마디가 더 박힌다.
"우리는 사람 없이도 스스로의 더 나은 버전을 만들 수 있는 기술을 한 번도 다뤄본 적이 없다."
역사 전체에서 처음 보는 종류의 시스템이라는 의미로 읽힌다.

근데 클락이 속한 앤트로픽은,
사이버 공격력이 국가급으로 평가된 "미토스(Mythos)"를
위험성 때문에 외부에 풀지 않고 비공개로 운영중이다.
"위험해서 공개 안 한다"와
"0이 아닌 확률로 인류를 멸종시킬 수 있다"가
같은 회사에서 동시에 나오는 셈이다.

패턴이 흥미롭다.
위험을 가장 가까이서 보는 사람들이,
가장 빠른 속도로 새 모델을 만들고,
가장 큰 자금을 받는다.
"위험하니까 우리가 만들어야 한다"가
이 산업의 기본 명제처럼 자리잡아 가는 중이다.
이게 정직한 위기 인식인지,
모금과 규제 협상용 종말 마케팅인지를
외부에서 깔끔하게 판별할 방법은 없다.
다만 "인류 멸종 확률" 같은 표현이 옥스퍼드 강연장에서
정상 어휘로 등장하는 단계에 왔다는 사실 자체가,
이 산업이 자기 자신을 어떻게 설명하기 시작했는지를 보여주는 신호로 읽힌다.