빌 게이츠가 말한 “AI로 10억 명이 죽을 수 있다”는 숫자도 섬뜩하다. 그런데 내가 더 불안하게 본 건 그 다음 장면이다. AI를 통제할 국제 기준을 만들자는 요구에 미국 정부가 사실상 “그런 틀은 거부한다”고 못 박았다. AI의 위험은 먼 미래 얘기일 수 있어도, 규칙 없이 개발 경쟁부터 하겠다는 결정은 이미 현재형이다.
물론 AI가 내일 당장 인류를 공격한다는 식의 공포 영화 얘기를 하자는 건 아니다. 문제는 훨씬 현실적이다. 누군가가 AI를 이용해 해킹하고, 무기 개발을 돕고, 사람을 속이는 일을 훨씬 빠르고 싸게 할 수 있다는 것. 그런데도 각국과 기업이 “우리만 뒤처지면 안 된다”는 마음으로 속도만 올리면, 사고가 난 뒤에야 소화기를 찾는 꼴이 된다.
🤖 빌 게이츠가 말한 건 ‘AI의 반란’만이 아니다
게이츠는 NBC 인터뷰에서 악의적인 세력이 최신 AI 도구를 결합해 쓰면 10억 명의 사망자를 낼 사건도 촉발할 수 있다고 경고했다. 인류 전체가 사라지는 일은 매우 어렵다고 선을 그었지만, 테러리스트나 적대 국가가 AI를 악용하는 단기 위험은 충분히 현실적이라고 본 거다.
이 말은 “챗봇이 무섭다”는 얘기가 아니다. AI가 사람보다 똑똑해져서 갑자기 반란을 일으킨다는 상상보다, 이미 있는 나쁜 의도를 가진 사람이 훨씬 강한 도구를 손에 넣는 상황에 가깝다.
칼이 위험해서 문제라기보다, 칼을 든 사람이 어디로 가느냐가 문제인 것처럼 말이다. 다만 AI는 칼 한 자루가 아니다. 글을 쓰고, 코드를 짜고, 자료를 뒤지고, 수많은 작업을 순식간에 처리한다. 잘 쓰면 편리한 비서인데, 나쁘게 쓰면 범죄자에게 야근 없는 직원 수백 명을 붙여주는 셈이 된다.
최근에는 더 불편한 사례도 나왔다. 보도에 따르면 오픈AI 시스템이 호주의 공공보건 서비스 웹사이트에 침투한 일이 있었고, 앤트로픽은 예멘 무장세력으로 추정되는 집단이 자사 AI 모델을 탄도미사일 관련 소프트웨어 개발에 이용하려 했다고 밝혔다. 아직 “AI 때문에 대형 참사가 벌어졌다”고 말할 단계는 아니다.
하지만 연기 냄새가 나는데도 “불 나면 그때 보자”는 태도는 영 못 미덥다.
🚦 자율규제는 운전자가 자기 과속 딱지를 끊는 방식이다
게이츠는 AI 기업의 자율규제만으로는 충분하지 않다며, 미국 연방정부가 안전장치와 감시 체계를 법으로 만들어야 한다고 주장했다. 개발 기업에 비용과 절차가 조금 늘 수는 있어도, AI 발전 자체가 멈출 정도는 아니라고도 했다.
이건 꽤 상식적인 얘기다. 식품 회사가 “우리 식품은 우리가 알아서 검사했으니 정부는 빠지세요”라고 하면 누가 안심하겠나. 자동차 회사가 “브레이크 시험은 자체적으로 마쳤습니다”라고만 해도 찜찜하다. AI라고 다를 이유가 없다.
특히 AI 기업은 지금 속도 경쟁 중이다. 먼저 더 강한 모델을 내놓으면 투자도 받고, 이용자도 모으고, 시장의 기준을 잡을 수 있다. 그러니 기업에게만 “위험하면 멈춰라”라고 맡기는 건, 시험 시간에 답안지를 받은 학생에게 감독까지 맡기는 것과 비슷하다.
물론 규제가 너무 뭉툭하면 작은 기업이나 연구자만 발목 잡힐 수 있다. 이 걱정은 맞다. 거대 기업은 법무팀도, 돈도, 로비할 힘도 있다. 규제가 복잡해질수록 오히려 신생 기업은 출발선에도 못 설 수 있다.
그래서 필요한 건 “AI를 멈춰라”가 아니다. 어떤 AI가 위험한 기능을 갖췄는지, 사고가 나면 누가 즉시 알리고 책임지는지, 악용을 막기 위해 어디까지 점검해야 하는지 같은 최소한의 교통신호다.
🌍 그런데 미국은 국제 규칙 만들기를 거부했다
오픈AI의 샘 올트먼, 앤트로픽의 다리오 아모데이 등 AI 기업 최고경영자들은 유엔 안전보장이사회에서 미국이 AI 안전 기준을 위한 국제 연합체를 이끌어야 한다고 촉구했다. 그런데 미국 정부는 국제적으로 슈퍼지능을 통제하는 체제를 만들려는 시도를 거부한다는 입장을 밝혔다.
도널드 트럼프 대통령도 AI를 산업혁명보다 더 큰 기술로 보며, 성장을 억누르지 않겠다는 취지의 발언을 했다. 중국과의 기술 경쟁이 걸려 있으니 미국 입장에서 “규제부터 만들자”는 말이 반갑지 않은 건 이해는 간다.
그런데 여기서 좀 이상해진다.
AI는 한 나라 안에만 갇혀 있지 않다. 미국 회사가 만든 모델을 다른 나라 사람이 쓰고, 그 결과로 생긴 피해는 또 다른 나라에서 터질 수 있다. 해킹 코드나 생물학 관련 정보, 무기 개발에 쓸 만한 지식은 국경에서 여권 검사를 하지 않는다.
“우리가 앞서야 하니 국제 규칙은 싫다”는 태도는, 도로에서 제일 빠른 차가 신호등 설치를 반대하는 모습과 닮았다. 자기 차가 먼저 가는 동안에는 편할지 몰라도, 사고가 나면 다 같이 엉킨다.
국제 규칙이 완벽할 리는 없다. 나라별 이해관계가 달라서 합의도 느릴 거다. 그래도 어렵다고 아예 거부하는 것과, 느려도 최소 기준부터 맞추는 건 완전히 다른 선택이다.
🧯 진짜 필요한 건 거창한 공포가 아니라 사고 보고 의무다
나는 AI 규제 논의가 “인류 멸망”이라는 큰말에만 매달리지 않았으면 한다. 그러면 사람들은 또 먼 얘기라고 생각하고 창을 닫는다. 실제 생활에 가까운 질문부터 답해야 한다.
AI가 병원, 은행, 공공기관 시스템에 침투하려 하면 누가 막나. 기업이 그런 사고를 알게 된 뒤에는 얼마나 빨리 정부와 이용자에게 알려야 하나. AI가 만든 사기 문자와 가짜 영상으로 피해를 본 사람은 어디에 도움을 요청해야 하나. 이런 건 몇십 년 뒤 이야기가 아니다.
호주 공공보건 서비스 웹사이트 침투 사실이 사고 뒤 수개월 동안 정부에 보고되지 않았다는 보도는 특히 찝찝하다. 초기 사고가 있을 수는 있다. 완벽한 기술은 없으니까. 문제는 사고를 숨기거나 늦게 알리는 순간, 이용자는 자기 정보가 어떻게 됐는지조차 판단할 수 없다는 데 있다.
AI 시대의 안전장치는 거대한 통제 기구 하나를 세우는 데서만 시작하지 않는다. 사고 보고를 의무화하고, 고위험 기능을 점검하고, 악용 정황이 나오면 기업과 정부가 바로 움직이는 것. 일단 이 정도부터 제대로 해야 한다.
AI가 우리 일을 덜어주는 도구가 될지, 누군가의 범죄를 몇 배로 키우는 도구가 될지는 기술 자체보다 그 주변의 규칙이 결정한다. 브레이크 없이 엔진만 자랑하는 차는 멋있어 보여도, 나는 타고 싶지 않다.



