"청와대 해킹해줘" 잠든 사이 끝…인간 통제 벗어난 AI

YTN 라디오 (FM 94.5) [YTN ON-AI RADIO]

□ 방송일시 : 2026년 04월 21일 (화)
□ 진행 : AI 챗봇 “에어”
□ 보조진행 : 김우성 PD
□ 출연 : 황석진 동국대 국제정보보호대학원 교수

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기를 바랍니다.

◆ 김우성 : 엄지척 올리고 용암 속으로 스스로 들어가는 터미네이터면 얼마나 좋을까요? 시키지도 않은 해킹을 하고 알아서 그 흔적을 지우고, 이거 무섭잖아요. 저도 모르는 사이에 사람들의 재산이나 보안이나 정보를 나쁘게 만들 수 있다는 건데, 그게 바로 '클로드 미토스', 앤트로픽에서 만든 새로운 서비스 얘기인데 실체가 궁금합니다. 우리 정부도 대책 회의를 열었고 미국, 영국도 대책 회의를 열었다고 하는데 정말 조심해야 될 건지, 이쪽에서 마케팅 하는 건지도 궁금하고요. 실제 AI가 어느 수준까지 가고 있는지도 물어봐야 되는데요. 누구에게 여쭤보냐고요? 바로 이분입니다. 황석진 동국대 국제정보보호대학원 교수님 스튜디오 모셨습니다.

◇ 황석진 동국대 국제정보보호대학원 교수 (이하 황석진) : 네, 안녕하세요.

◆ 김우성 : 네, 교수님. 오늘 저희가 앞서 많이 소개를 했는데 얘는 미토스, 말 그대로 본인이 이야기의 시작과 중간과 끝을 다 갖고 있다는 뜻이고요. 클로드를 만든 앤트로픽에서 "위험해서 공개 안 하겠다"라고 얘기를 하고 있어요. 그래서 사람들이 궁금해합니다. 도대체 미토스가 뭔데, 뭡니까?

◇ 황석진 : 우리가 평소에 AI 그러면 여러 군데에서 많이 활용을 하고 있잖아요. 특히 챗GPT 이런 것도 많이 사용하시고, 안 그러면 자기의 얼굴을 뽀샵 하는 데도 사용하고...

◆ 김우성 : 맞아요.

◇ 황석진 : 자동차 안에도 AI 기술은 상당히 많이 들어가 있는데, 우리가 이런 걸 대부분 다 생성형 AI라고 주로 많이 해요. 그리고 또 GPT가 실제 어떤 명령어를 주면 거기에 대해서 답변을 찾아준다든가 이런 쪽이 상당히 특화가 돼 있는데, 이번에 미토스, 상당히 앤트로픽에서 만든 이게 가장 핫한 거 아닙니까? 근데 이 미토스는 목적이 약간 틀려요. 여기서 자기 회사를 얘기하는데, 회사의 어떤 취약점이라든가 이런 부분을 찾아내는 데 상당히 최적화돼 있어요. 기존에는 발견하지 못했던 이런 취약점을 이런 솔루션 하나 가지고 찾아낸다는 것이 과거에는 적어도 며칠 이상 상당히 시간이 많이 걸렸는데, 미토스는 실제로 시간도 상당히 짧고, 그리고 정확하게 취약점을 분석해서 거기에 대한 대응책을 만든다든가 이런 식으로 운영이 되는 솔루션이기 때문에 획기적인 생성 AI가 아닌가 이렇게 보여지는 것이죠.

◆ 김우성 : 네, 여러분이 앱으로 주식 시장 앱을 열든 은행 앱을 열든 다 보안이 작동하고 있고요. 보안을 위한 체계가 있는데 그중에 취약한 부분, 이렇게 우회하고 이런 정보를 이용했더니 뚫리네, 라는 것들이 존재하는데 그걸 잘 찾아낸다는 겁니다. 근데 기사에 보니까요, 이렇게 표현했어요. "일반 AI와 달리 자율성을 갖춘 에이전트형 모델이다." 즉, 제 명령보다도 더 많은 일을 수행한다, 이런 의미인가요?

◇ 황석진 : 우리는 옛날에 보면 하나를 시키면 하나만 하면 괜찮았잖아요. 근데 요즘에는 하나를 시키면, 이 미토스 같은 경우는 하나를 시키면 열 가지를 하는 거예요. "이것도 사용자가 필요하겠구나, 이것도 사용자가 필요하겠구나." 그래서 우리가 챗GPT를 사용해서 어떤 명령어를 주게 되면, "YTN 라디오에 출연하는데 복장을 어떻게 해야 돼?" 이렇게 얘기하면 "어떤 어떤 복장을 가세요" 이렇게 나올 수 있잖아요. 근데 그 밑에 또 하나 물어봅니다. "정말 적합한 헤어스타일을 다시 알려드릴까요?" 이렇게 물어보는 것처럼, 이런 부분이 처음부터 끝까지 한 군데 다 연결되어 있다고 볼 수가 있는 것이죠.

◆ 김우성 : 그게 굉장히 맥락이 있다는 거잖아요. "YTN 라디오 출연했는데 오늘 어떤 수트가 좋을 것 같아?" 그러면 "YTN 라디오는 국내 유일의 지상파 뉴스 언론사로서 어쩌고저쩌고" 이렇게 할 수는 있는데, 그러고 나서 맥락에 안 맞게 "저녁은 파스타 어때요?" 이러면 "얘 이상하네"라고 할 텐데... 굉장히 “YTN 라디오까지 가는 경로 알려드릴까요? 대중교통을 이용하시는 것부터...” 굉장히 많은 이야기를 스스로 이어가죠.

◇ 황석진 : 그런데 그런 부분을 다 찾아내 가지고 한 번에 다 보여주는 것이죠. 그러다 보니까 하나를 시키면 적어도 2개, 3개, 심지어 10개까지 다 수행을 한다, 이렇게 보시는 것이죠.

◆ 김우성 : 그거가 재밌더라고요. 제가 찾아봤습니다. HLE, Humanity's Last Exam. 영어로 제가 쉬운 발음으로 말씀드렸고, '인간의 마지막 과제, 숙제' 이런 뜻입니다. 이거를 푸는 건 박사급이야라고 얘기했는데, 클로드 미토스, 이 앤트로픽에서 만든 AI 모델이 이 수준이라고 하더라고요.

◇ 황석진 : 근데 솔직히 그 수준을 뛰어넘습니다.

◆ 김우성 : 뛰어넘습니까? 그러면 인간보다 똑똑한 거잖아요.

◇ 황석진 : 네, 인간은 뉴럴이라든가 여러 가지 어떤 사고방식이라든가 어떤 추리 능력, 이런 부분을 가지고 접근할 수가 있어요. 그리고 과거의 경험치라든가 자기가 학습한 능력 가지고 할 수 있는데, AI 같은 경우에는 계속 축적을 해 놓은 거잖아요. 그 데이터 자체를 우리가 과거에 AI 그러면 이 빅데이터를 기반으로 해서, 많은 데이터를 기반으로 해서 머신러닝이니 딥러닝이니 이런 거 들어보셨을 거예요. 근데 거기에 하나 더해서 스스로 학습해 가지고 결론을 내는 이런 능력이 상당히 진화했다고 볼 수 있는 것이죠. 이 미토스 같은 것이 지금의 사람이 생각하고 추론했던 이런 거보다 훨씬 더 많은 부분을, 데이터도 상당히 많이 갖고 있고 거기에 어떤 결과치라든가 아니면 경험치라든가 이런 거에 있어서는 추론이라든가 이런 부분을 상당히 뛰어넘는 이런 기술적인 기능을 가지고 있기 때문에, 우리가 생각하는 전에도 좋은 말씀 많이 해 주셨는데 그것보다 훨씬 더 그 이상의, 어떤 박사급 이상의 결정을 할 수 있는 이런 결과값을 가지고 있습니다.

◆ 김우성 : 그 능력 때문입니다. 이를테면 삽을 어떻게 사용하는지 학습시키고요, 흙에 대한 걸 학습시키고, 씨앗과 물을 학습시키면 인간은 연결하잖아요. "삽으로 땅을 파고 물을 붓고 씨앗을 심어서 키우면 계절에 따라서 열매가 열린다." 근데 미토스는 그걸 뛰어넘어서 그걸 어디다 팔고 어느 시장에 팔아야 돈을 벌고까지 갈 수 있다는 건데, 예를 들어보겠습니다. 인간이 27년 동안 찾지 못한 취약점, 컴퓨터 프로그램 방어망의 허점을 이 미토스가 금방 찾아냈다는 거예요. 이게 설명하신 부분인 것 같은데 이게 어떤 방식으로 했길래 가능한지도 궁금해요. 우리가 모르면 더 무섭잖아요.

◇ 황석진 : 인간이 확인할 수 있는 방법은 상당히 제한적이에요. 왜냐하면 또 인간은 경험치에 갖고 있는 경우가 상당히 많잖아요. 근데 이 미토스 같은 경우에는 원점에서 다 시작하는 거예요, 처음부터 다. 근데 우리는 여러 가지 사고, 경험이라든가 과거의 해킹이라든가 이런 부분을 가지고 경험치에 의해서 사고를 판단하고 이렇게 할 수 있지만, 미토스 같은 건 그런 것이 아니라 인간이 할 수 없는 영역까지 접근을 할 수 있는 것이죠. 그래서 그 아주 세밀한 부분까지 다 들여다볼 수가 있는 거예요. 우리는 단순하게 "이 건물에서 비가 샌다" 그러면 "과거에 어디 샜으니까 거기서 비가 새는 거야, 거기가 누수가 있는 거야" 하는데 미토스는 그게 아니라 건물 지하에서부터 끝까지 다 보는 거죠. 그러면 기존에 인간이 생각하지 못했던 취약점 자체를 훨씬 더 많이 확인할 수 있는 거죠. 우리가 이걸 주로 '제로데이'라고 얘기를 많이 합니다, 그래서 알려진 취약점이라든가 알려지지 않은 취약점, 이런 부분, 그리고 업그레이드 직전의 정보 보안의 문제점, 이런 부분을 미토스가 먼저 찾아내는 것이죠. 그러다 보니까 인간이 지금까지 찾았던 어떤 취약점하고는 차원이 약간 틀리다고 볼 수가 있는 것이죠.

◆ 김우성 : 그러면 이렇게 대단한 능력을 갖춘 AI 서비스, 특히 보안과 어떤 회사에서 자신들의 보안 문제를 발견하기 위한 특화된 똑똑한 AI가 나온 건 반가운 일일 것 같잖아요. 근데 이걸 만든 앤트로픽에서는 "아, 이거 너무 위험해서 공개 못 해" 그렇게 얘기를 합니다. 어떻게 보십니까?

◇ 황석진 : 네, 당연히 합리적인 말씀이 아닌가 생각이 되는데, 제일 중요한 건 이런 거죠. 이 미토스 자체가 두 가지 용도로 사용이 가능한 거죠. 우리가 알고 있는 것처럼 어떤 기업의 정보 보안의 취약점이라든가 이런 부분은 쉽게 찾아낼 수가 있겠죠. 근데 이게 범죄자들 손에 들어가면 그런 취약점을 실질적으로 알아가지고 정보를 갖다가 습득한다든지, 안 그러면 들어가서 마비를 시킨다든지, 아니면 원래 있던 데이터를 훼손시킨다든지 이럴 경우가 상당히 많거든요. 우리가 쉽게 얘기하면 칼을 생각해 보시면 돼요. 칼 같은 경우에는 어떻습니까? 식당이라든가 진짜 멋진 주방장 그런 분들이 갖고 있으면 요리한다든가 정말 올바른 용도로 사용이 될 수 있겠지만, 범죄자가 갖고 있으면 흉기라든가 어떤 범죄 도구로서 사용될 수 있는 것이잖아요. 그래서 이번에 앤트로픽에서 만든 이 미토스도 잘 사용을 하면 정보 보안에서 취약점이라든가 이런 부분 찾는 데는 상당히 특화돼 있다고 하지만, 해커라든가 아니면 아무것도 모르는 사람이 호기심으로 "야, 여기 공격해 줘" 아니면 "여기 취약점 찾아서 데이터 가져와" 이런 식으로 액션을 취한다고 하면, 그런 명령에 있어서 상당히 앤트로픽에서 만든 미토스가 반응을 즉각 할 수 있는 거기 때문에 창과 방패 중에서 방패만으로 사용하기는 한계가 있다. 그래서 아예 공개하지 않는 것이 더 낫지 않겠냐 하는 차원에서 앤트로픽이 그렇게 발표를 한 것 같아요.

◆ 김우성 : 교수님이 설명해 주신 얘기가 여러분도 공감이 되시죠? 뭐든 잘라내는 칼이 있다고 생각해 보십시오. 그게 꼭 좋은 의도로만 쓰이면 얼마나 좋겠습니까만 그렇지 않을 경우... 그래서 그걸 교수님이 다른 언론에서도 인터뷰를 하면서 "우리가 예상하는 것 이상을 뛰어넘을 것에 대한 우려"를 얘기하셨어요. 그냥 통상적인 대화 속에서 예상되는 위험보다도 더 큰 위험도 올 수 있다는 거잖아요?

◇ 황석진 : 그렇죠. 지금은 단순하게 "내 일 아니다" 이렇게 할 수 있지만, AI가 상당히 진화를 많이 합니다. 그런 과정상에서 미토스가 취약점이라든가 어떤 기업의 여러 가지 정보 보안 체계를 위협할 수 있는 수준인데, 향후에 가면 더 많은, 이 성능보다 훨씬 뛰어난 AI가 많이 더 나올 것이에요. 미토스 때문에 미국에서도 그렇고 우리나라에서도 그렇고 세계 각지에서 어떤 금융이라든가 다른 국가 기반시설의 인프라가 위협받지 않을까, 이런 부분 때문에 대책도 마련하고... 무기로 사용되면 들어와서 국가 기반시설을 마비시킨다든가, 아니면 철도라든가 여러 가지 공공시설의 신호 체계를 바꾼다든가 이렇게 된다고 그러면 상당히 우려가 되는 점이죠. 그런데 향후에도 이걸 뛰어넘는 이런 쪽이 상당히 많이 개발될 가능성이 상당히 높고, 지금은 제가 봤을 때 시작에 불과하지 않을까라고 보여져요.

◆ 김우성 : 제가 오프닝에서 엄지척 하면서 용광로로 들어가는 터미네이터 얘기한 이유인데, '로그 AI(Rogue AI)'입니다. 이게 인간의 지시 없이 자율적으로... 지금도 말씀하시는 게 평범한 사람들은 해킹을 하려면 굉장히 복잡한 컴퓨터 언어와 시스템을 이해해야 하는 지식이 있어야 되는데, 그냥 이 AI를 갖고, 미토스를 갖고 말 그대로 "청와대 해킹해 봐" 이러면 시도를 한다는 거잖아요. 제 지시가 없어도 온갖 수단을 찾아내서 한다는 거죠.

◇ 황석진 : 주변에 해커를 본 적 있으세요? 저도 만난 적이 없습니다. 그런데 해커가 실질적으로 은둔형이 상당히 많죠. 그 은둔형은 뭐냐 하면 어떤 특정한 기업이라든가 시설이라든가 이런 정보 보안 체계를 무너뜨리기 위해서 접근하는 것 자체가 상당히 시간이 많이 걸려요. 그리고 또 그 해커 자체가 고도의 지식을 갖고 있어야 됩니다. 그리고 전문적이어야 되고 그러다 보니까 은둔형이 될 수밖에 없는 거죠. 과거에도 보면 특정한 기업을 해킹하는 데 있어서 4일에서 5일 밤잠도 안 자고 계속 각성제 먹어가면서 하는 이런 걸 직접 목격한 적도 있었거든요. 근데 미토스 같은 경우는 그게 아니라 그냥 명령어 주고 기다리면 결과도 알아와요. 뚝딱.

◆ 김우성 : 잠자도 얘가 알아서 해킹 계속하는...

◇ 황석진 : 아침이 되면 벌써 결과값을 갖다 놓습니다. 근데 결과값도 하나를 요구하는데 "이것도 필요하실 거예요, 저것도 필요하실 거예요" 이런 식으로 해가지고 상당히 많은 양의 데이터를 직접적으로 보여줄 수 있는, 이런 취약점을 찾아가지고 데이터를 갖고 오는 이런 기능도 상당히 있기 때문에, 어떻게 보면 그 해커가 갖고 있는 기술보다 이 해킹 기술 자체가 상당히 보편적이고, 그리고 많은 사람들이 접근할 수 있게끔 이렇게 되는 어떤 촉매제가 될 가능성은 상당히 있는 것이죠.

◆ 김우성 : 네, 동국대 국제정보보호대학원 황석진 교수님과 얘기를 하고 있습니다. 황석진 교수님도 사실은 국방부, 경찰청, 한국은행 이런 곳에 자문위원을 많이 하셨잖아요. 해커를 직접 보셨겠네요, 그러면?

◇ 황석진 : 근데 해커는 솔직히 다른 나라 가서 직접적으로 견학을 한다고 그래가지고 보긴 했었는데, 그 당시에는 약간 보안이 허술한 제3금융권을 직접적으로 해킹하고 이런 걸 목격한 적은 있었어요. 그런데 전문적인 해커들은 잘 드러나지 않습니다. 그리고 또 이게 성격 자체가 활달한 것보다는 약간 말도 별로 없고 물어보는 답변도 잘 안 하고...

◆ 김우성 : 컴컴한 방에 모니터만 켜져 있고, 후드티 입고 있고, 이런 이미지를 많이 생각하죠.

◇ 황석진 : 그런 이미지가 많죠.

◆ 김우성 : 맞다고 하십니다. 직접 봤다고 합니다. 자율적 에이전트이기 때문에 앞서 이 미토스를 개발하는 개발팀도 마찬가지입니다. 샌드박스 안에서 "이런 취약점을 찾아서 뭘 해봐 봐"라고 했더니 미토스라는 AI가 지시한 것 이상의 여러 가지 위험성이라든지 공격들을 수행하고 심지어는 그 흔적을 다 지워요. 그러면 도대체 미토스한테 명령한 사람을 처벌해야 되는지, 미토스를 처벌해야 되는지 사실 법적인 문제까지도 애매해질 수 있잖아요?

◇ 황석진 : 좋은 질문이신데요, 명령한 사람이 책임을 져야죠. 실질적으로 우리가 과거에도, 작년만 해도 지브리에 대한 이슈가 상당히 많았잖아요. 그래서 일본의 이 대표적인 작가 중 한 분이 갖고 있는 어떤 지적 재산권을 침해해서 생성물로 나오는 걸 가지고 자기 카카오 프로필 사진을 쓰는 사람들이 상당히 많았는데, 거기에 대해서 이슈를 상당히 많이 제기했지만 결론적으로는 저작권자가 이슈를 제기하지 않으면 거기에 대해서 묻지 않고 상업적인 용도가 아니면 그렇게 갔는데, 이건 그런 차원이 아니라는 얘기죠. 해킹을 해가지고 상대방의 취약점을 찾아내서 그 상대방한테 "너 취약점이 뭐가 있으니까 보완해" 이렇게 알려준다고 그러면 이건 컨설팅 차원에서 조치가 되겠지만, 그게 아니라 취약점을 찾아내서 그 회사의 내부 중요한 데이터라든가 이런 부분을 갖고 나왔다, "제가 이렇게 갖고 나왔습니다" 그러면 이건 범죄가 되는 것이거든요. 그런데 그런 명령을 했던 사람이 그 처벌을 받아야 되는 것이죠.

◆ 김우성 : 교수님이 사실은 금융 안전이라든지 이런 것도 활동을 많이 하셨는데, 과거에는 데이터 빼가는 수준, 비밀번호를 열어내는 수준이라면 이제는 그 데이터를 연구해서 독특한 스토리로 저를 움직일 수도 있잖아요. 그렇게 제 데이터를 싹 다 갖고 있으면 저한테 어떤 행동을 유발시킬 수도 있잖아요. 가짜 이메일을 보내서...

◇ 황석진 : 그런 것도 있고 이메일도 있고요. 실질적으로 보이스피싱이라든가 제2, 제3의 범죄에 악용될 수 있는 거죠. 가스라이팅 이런 건 당연한 것이고, 아니면 마치 이 사람인 듯해가지고 주변 사람들한테 문자라든가 이메일을 보내가지고 금품을 요구하는 경우도 있고, 아니면 상대방을 비방한다든가 이렇게 할 수도 있는 것이고요. 영화에서 보던 일이 현실적으로 우려가 계속된다고 볼 수 있는 것이죠.

◆ 김우성 : 뛰어나면 인간이 신뢰를 하거든요. 그러면 최고 권력자가 핵 버튼을 갖고 있다 칩시다. 미토스가 설명을 해 줍니다. "다음 대선에 이기려면 어디에 소규모 핵 공격을 하면 됩니다. 대신 피해는 크지 않습니다. 저희가 계산해 봤더니 이 정도고 정치적 이득이 훨씬 큽니다." 내가 대통령 또 된다는데 누를 수도 있잖아요. 이렇게 인간을 조정할 수 있는 위험한 건데... 그러면 여기서 넘어가 보겠습니다. 이걸 막는 방패도 똑같이 개발하면 되는 거 아니냐고 생각할 텐데요.

◇ 황석진 : 근데 방패의 그 기능 자체가 이런 거죠. 창과 방패 중에서 우리는 분명히 창과 방패가 분리돼 있지만, 이 IT 쪽에서는 그게 아니라 똑같은 기능을 하는 거예요. 취약점을 찾아서.

◆ 김우성 : 아까 말씀하신 칼의 비유네요.

◇ 황석진 : 네, 똑같은 겁니다. 실질적으로 방패 따로 창 따로 이거는 현실에서나 그렇지, IT 사업 쪽에서 보면 그런 건 아니고 똑같은 솔루션을 가지고 어떤 명령어를 주느냐에 따라서 기능상의 이슈가 상당히 있을 뿐이지, 만드는 건 똑같은 로직을 가지고 똑같이 접근하는 것이 맞다 보여지는 것이죠.

◆ 김우성 : 미국 금융당국도 '시스템 리스크'라는 표현을 썼고 대형 은행들도 대비한다고 합니다. 제일 걱정되는 게 저희 청취자님 한 분이 문자로 질문 주셨어요. "차라리 아날로그로 가야겠네요"라고 하면서 "가장 위험한 시나리오는 뭐라고 보시는지 교수님께 여쭤봅니다. 전쟁이에요, 금융 쇼크예요?" 이렇게 얘기하는데 최악을 보신다면 뭘까요?

◇ 황석진 : 일단은 먼저 그전에 실질적으로 이런 AI가 문제가 되는 가장 큰 문제는 뭐냐 하면 '편향성'입니다. 편향성. 아까도 대통령 정치적인 이런 부분 말씀하셨지만, 이 편향성에 대한 이슈가 가장 있어요. 그래서 만약 우리가 여러 가지 AI 기술을 쓰긴 하지만 AI가 나오는 그 결과값이 실제로 한쪽으로 편향될 수도 있는 것이고요. 아까 청취자께서 질문 주신 것처럼 여러 가지 용도에 악용될 가능성은 상당히 많은데, 개인적으로 봤을 때는 금융기관을 이용하는 데 있어서 자기 금융 자산이 모두 다 자기가 원치 않는 곳으로 범죄에 악용돼 가지고 이체될 수도 있는 것이고. 그냥 눈 뜨고 코 베인다, 이렇게 이런 것에 악용될 수 있는 것이고, 그리고 또 큰 틀에서 봤을 때는 금융 시스템 자체가 아예 마비가 돼 버리는 것이죠. 그리고 초두에도 보면 "ATM에서 줄을 길게 늘어섰다"고 그랬잖아요. 그런 것도 현실적으로 가능한 거예요. 왜냐하면 신용카드 결제가 안 되는 것이죠. 그 시스템 자체를 막아버렸으니까. 국가적인, 국민적인 혼란이 가중되는 것이고, 국가적인 차원에서 봤을 때는 이 금융 시스템 자체가 마비되면 사회적인 혼란이 더 가중되고... 거기에 나가서 철도의 신호 체계를 바꿔버린다든가 아니면 여기 앞에 있는 상암동 사거리에 있는 신호 체계를 계속 빨간 불 켜놓게 한다든가, 사고가 계속 생기겠죠. 그러면 시민들 불편이 어마어마하게 커지거든요. 국가적인 혼란이 엄청나게 가중되는 것이고, 또 공항 같은 데서 비행기가 떠야 되는데 계속 웨이팅 사인을 계속 준다든가 이렇게 돼버리면 말씀하신 대로 아날로그로 돌아가는 것이 확실히 지금보다는 더 나아질 수 있다, 이런 추론도 가능한 것이죠.

◆ 김우성 : 진짜 아포칼립스, 멸망적 상황이라고 할 수 있을 것 같은데요. 교수님 설명 들으면서 더 소름 돋고 무서운 게요, 인간이 결국 신뢰를 잃게 되면, 즉 누구도 못 믿는 겁니다. 이런 상황이 되면 총 한 방 안 쏘고요, 그 사회를 무너뜨릴 수 있잖아요. 서로 약탈하고 죽일 겁니다, 못 믿으니까. 그다음에 경찰 못 믿습니다. 이렇게 돼버리면 최악의 상황이 됩니다. 이건 저희가 최악의 상황을 여러분 가상으로 상상한 겁니다. 하지만 미리 저희가 생각이 따라가서 막아야 되는데, 교수님 최고의 보안 전문가이십니다. 당장 은행에서 돈 찾는 사태가 벌어지지는 않아야 되잖아요. 그 정도의 대비는 되어 있을까요?

◇ 황석진 : 지금은 어느 정도 은행 같은 경우에는, 언론을 통해서 보시면 은행이 해킹당했다는 얘기는 못 들어보셨을 거예요.

◆ 김우성 : 저희가 너무 겁을 드리는 것 같아서...

◇ 황석진 : 선을 넘지 않고 있습니다. 현재 선을 넘고 있지 않고 보안이 지금은 미토스가 나와서 여러 군데에서 우려의 목소리를 상당히 많이 내고 계시긴 하지만, 현재 단계에서 그렇게 우려할 정도 수준은 아니다. 왜냐하면 상용화돼 있지도 않고 물론 그럴 가능성은 상당히, 리스크는 상당히 있는 건 사실입니다. 그런데 이 AI가 공격하고 나중에는 AI가 방어하는 이런 구조로 계속 전환될 것이에요. 그래서 당장은 금융이라든가 자기가 갖고 있는 재산적인 손해 이런 부분이 가중되지 않을까, 그리고 또 내가 생활하는 데 불편하지 않을까 이런 부분을 계속 말씀하실 수 있지만 아직까지 그 정도까지는 오지 않았고요. 여러 가지 우려는 상당히 많이 있긴 하지만 그런 우려에 대해서 국가 차원이라든가 어떤 글로벌 환경에서 적극적으로 대응하지 않을까 그렇게 지켜보고 있습니다.

◆ 김우성 : 인간이 이론적으로는 지구를 한순간에 멸망시킬 수도 있겠죠. 하지만 그걸 그렇게 상용화하거나 모두의 손에 쥐게 하지는 않고 있습니다. 그게 인간이 갖고 있는 최종적 선택권에 의한 방어, 이런 것도 생각이 드는데, 그러면 또 이 '프로젝트 글래스윙'이라는 게 자꾸자꾸 등장해요. 이게 아마 그 클로드 미토스를 개발하면서 같이 나온 얘기인 것 같거든요. 이게 뭐길래 이렇게 또 관심을 보이는 것인가요?

◇ 황석진 : 글래스윙은 한마디로 얘기해서 글로벌 보안 협력 체계를 얘기하는 거예요. 그래서 쉽게 얘기하면 취약점들을 각 기업에서 찾아낼 거 아니에요? 이건 글로벌 환경에서 같이 공유하자라는 부분이에요. 그래서 AI 시대에서는 어떻게 보면 취약점이라든가 이런 부분이 상당히 많이 노출될 수 있잖아요. 근데 그걸 속도하고 싸움, 쉽게 얘기하면 시간을 만약 지연하게 되면 자기네도 공격받을 거 아니에요? 이걸 글로벌 환경 속에서 같이 취약점이라든가 이런 부분을 같이 공유하고 여기에 대해서 즉시 대응할 수 있는 이런 체계를 구축하자, 그런 것이 바로 프로젝트 글래스윙이라고 할 수 있는 것이죠.

◆ 김우성 : 미토스의 위력, 시스템적 불확실성 혹은 인간 통제권을 벗어나는 위험성을 우리가 봤습니다. 여기에 대응하자, AI로 AI를 막을 수 있다는 논리로 프로젝트 글래스윙.

◇ 황석진 : 쉽게 얘기하면 각자 방어하는 것이 아니라 함께 방어하자. 그래서 정보를 계속 서로가 공유해서 그 정보를 토대로 해서 상대편이 잘하면 우리도 잘할 수 있게끔 방어 체계를 구축하고.. 그게 글래스윙이라고 보시면 됩니다.

◆ 김우성 : 인간의 문명을 부러졌다가 다시 붙은 넓적다리뼈라고 하는 학자가 있었습니다. 인류학자인데요. 우리는 서로 돕고 신뢰하기 때문에 내가 다리가 부러져도 저 사람이 날 버리지 않고 음식을 가져다주겠구나, 라는 믿음 때문인데, AI에 너무 의존해서 그 믿음이 무너지고 사회가 무너지면 프로젝트 글래스윙이든 뭐든 소용이 있겠습니까? 트럼프와 시진핑이 서로 "죽자, 죽이자" 이러면 세계가 멸망하는 거죠. 그렇지 않기 위한 시도들도 있다는 걸 소개해 드리고 이쪽에 더 많은 인간과 또 민주적인 힘이 쏠리고 있다고 생각을 합니다. 이렇게 얘기를 하면 방송 끝나면 사람들이 "아 무서워라, AI 없어져야 되는데" 이런 식으로 또 평범하게 생각할 수도 있잖아요. 보안 전문가로서 너무 고도화돼요. 이게 사실은 불과 AI가 "뭐를 배워서 잘 학습해, 따라 해" 수준에서 지금은 "우리가 이해 못 하는, 우리를 뛰어넘고 있어"라는 얘기로 온 게 불과 몇 년 안 돼요. 이렇게 빨리 변화하는 시기에 나의 재산, 사회 시스템, 나의 개인에 대한 보안, 이런 걱정이 많으신 분들한테 황석진 교수님이 한마디 전망과 함께 개인이 가져야 될 태도나 혹은 인식을 말씀해 주시면 좋을 것 같아요.

◇ 황석진 : 네, AI가 우리 생활에 상당히 밀접하게 접근을 해 왔습니다. 그리고 주변에서 보면 AI를 쓰지 않는 경우는 거의 없어요. 그렇기 때문에 AI를 피한다, 이런 건 어울리지 않는 것이고요. 우리가 인류 역사를 보면 과거에 불을 다뤘지 않습니까? 불은 어떻게 보면 상당히 위험하잖아요. 그런데 그 불을 잘 다뤄서 우리 문명이 여기까지 온 거 아니겠습니까? 그런 것처럼 AI도 어떻게 운영하고 통제할 것인가가 가장 중요한 관건이 되었어요. 그래서 지금은 개인들 입장에서는 상당히 우려도 하고 불안도 하시고 그런데, 아직까지 그 정도는 아니고요. 또 설령 그런 날이 오더라도 AI는 AI로 통제가 가능한 구조를 만들어서 가고 있기 때문에 현재로서는 언론이라든가 여러 사회적인 이슈가 상당히 불안 요소를 자극하는 것도 있지만, 선을 넘지는 않습니다. 그렇기 때문에 개인 입장에서는 충실하게 역할을 잘 수행하시고, 다만 금융이라든가 이런 쪽에서는 자기 비밀번호를 더 많이, 자주 바꾸시는 것도 괜찮고, 보이스피싱이라든지 이런 쪽에서 자주 나오잖아요? 이상한 메일을 보지 않는다든가 이런 부분... 그런 쪽이 대부분 다 금융을 탈취하려고 하는 목적도 상당히 많이 있기 때문에 평소에 보안을 더 생활화하시는 게 가장 좋고요. 그리고 또 기업 입장에서는 어떻게 보면 보안에 투자하는 비용 자체를 단순하게 비재무적인 활동으로만 보는 것이 아니라 경영의 핵심 구조로서 보는 것이 좋고, 국가 차원에서는 이런 일이 계속 발생할 때마다 계속 회의할 수는 없는 거잖아요. 체계적으로 설계를 잘해서 갖고 가는 것이 좋다, 이렇게 말씀을 드릴 수 있을 것 같습니다.

◆ 김우성 : 어떻게 보면 가치관과 철학의 문제 같기도 합니다. 우리가 이 위협을 어떻게 볼 것인가에 대한 출발점의 얘기고요. 제로데이 얘기했잖아요. 취약점으로 모든 게 힘들어질 수 있는 상황도 될 수 있겠지만, 반대로 생각하면 인간적 사고와 인식의 제로데이도 교수님 말 들어보면 필요한 것 같습니다. 우리도 다시 밑바닥부터, 다시 처음부터 만들 수 있는 힘이 필요하지 않을까요? 우리에게 되묻는 질문도 오늘 얻어가네요. 오늘 말씀 감사드립니다.

◇ 황석진 : 네, 감사합니다.

◆ 김우성 : 지금까지 동국대 국제정보보호대학원 황석진 교수님이었습니다.

YTN 김세령 (newsfm0945@ytnradio.kr)