[미디어 비평] “고민상담사 된 AI…정부, 추가 보완책 서둘러야”

[미디어 비평]

■ 방송 : YTN라디오 FM 94.5 (20:20~21:00)
■ 방송일 : 2026년 10월 31일 (토요일)
■ 진행 : 최휘 아나운서
■ 대담 : 김언경 뭉클미디어 인권연구소장

* 아래 텍스트는 실제 방송 내용과 차이가 있을 수 있으니 보다 정확한 내용은 방송으로 확인하시기 바랍니다.

◆ 최휘 아나운서 (이하 최휘) : 한 주간 뉴스를 꼭꼭 씹어보는 시간, 미디어 비평입니다. 오늘은 김언경 뭉클미디어 인권연구소장과 전화연결 합니다. 소장님, 안녕하세요?

◇ 김언경 뭉클미디어 인권연구소장 (이하 김언경) : 네. 안녕하세요.

◆ 최휘 : 오늘은 AI와 관련된 이야기를 나눠볼텐데요. 미디어비평 시간에 AI를 한다고 물음표가 들은 분들 있을 텐데요. 이제는 네이버나 구글 등 포털을 건너뛰고 AI가 뉴스나 각종 이슈를 바로 전하는 ‘뉴미디어’로 급부상하고 있다고 하죠. 지금은 상황이 어떤가요?

◇ 김언경 : 로이터저널리즘연구소의 ‘디지털 뉴스 리포트 2026’을 보면, 한국에서 AI 챗봇을 뉴스 소스로 이용한 비율이 지난해 7퍼센트에서 올해 14퍼센트로 두 배가 됐습니다. 이제 AI가 뉴스를 접하는 새로운 창구가 됐다고 할 수 있겠습니다.

검색시장에서도 변화가 나타났습니다. 한국경제 보도에 따르면, 구글의 검색광고 매출 증가율은 올해 1분기 19%에서 3분기에 12%로 둔화했습니다. AI 활용도가 높아 지면서 어떤 정보를 검색할 때 AI를 훨씬 많이 이용한다고 볼 수 있습니다. 물론 뉴스 이용 조사지만, 주변을 보면 심리상담이나 건강상담까지 AI와 하는 경우가 생각보다 많습니다.

◆ 최휘 : 저도 생각해보면 이전에는 네이버나 유튜브에서 검색했다면, 지금은 AI부터 찾아가서 검색하거든요?

◇ 김언경 : 맞습니다.

◆ 최휘 : AI가 이렇게 일상 깊숙이 들어오면서 요즘엔 AI에 고민 상담하는 분들도 많아졌습니다. 가족과 다툰 이야기, 직장에서 받은 상처, 약을 먹으며 느끼는 불편까지 털어놓는 분들이 있습니다. 하지만 AI에 고민상담을 할 때는 주의해야 될 점들이 있다고 하는데요. 마침 정부가 관련 가이드라인을 발표했다고요.

◇ 김언경 : 그렇습니다. 보건복지부와 대한신경정신의학회는 지난 10월 8일 서울 용산 전쟁기념관에서 열린 정신건강의 날 기념식에서 ‘정신건강 목적 생성형 AI 이용 가이드라인’을 발표했습니다. 빅카인즈로 찾아보면 관련 보도는 스무 건 정도인데요. 별도로 방송사를 찾아보니 KBS, JTBC, KTV가 1건씩 보도했습니다. 저는 이런 내용이 매우 중요한 정보라고 생각하는데 보도가 그닥 많은 편이 아니어서 오늘은 이 가이드라인이 어떤 내용을 담았는지 살펴보고자 합니다.

◆ 최휘 : 처음엔 궁금한 걸 묻다가, 어느 순간 내 사정을 설명하고 조언까지 구하게 되긴 하더라고요.

◇ 김언경 : 맞습니다. 검색창에는 단어를 넣지만 챗봇에는 사연을 이야기하잖아요. 다만 친절하고 자세한 답을 받는 것과 그 답이 내 건강에 안전한지는 별개의 문제입니다. 그 경계를 정리한 것이 이번 가이드라인이라고 보시면 될 것 같습니다. ‘모든 이용자용’과 ‘아동·청소년 및 보호자용’ 두 종류로 나왔습니다.

◆ 최휘 : 실제로 위로나 상담을 받으려고 AI를 쓰는 사람이 얼마나 되나요?

◇ 김언경 : 한국보건사회연구원이 최근 한 달 안에 생성형 AI를 쓴 15세에서 79세 1,019명을 온라인으로 조사했는데, 68.8퍼센트가 정서적 목적으로도 이용한다고 답했습니다. 여기에는 일상 대화, 감정적 교감과 위로, 정신건강·심리상담이 모두 포함됩니다. 그래서 ‘국민 열 명 중 일곱 명이 AI에게 심리상담을 받는다’고 옮기면 정확하지 않습니다. 조사 대상이 AI 이용자이고, 정서적 이용의 범위도 넓기 때문입니다. 또 AI의 답변이나 조언에서 도움을 받거나 문제를 해결한 경험이 있다는 응답이 79.9퍼센트였습니다. 반면 AI와의 대화를 중단하기 어려웠다는 응답도 16.3퍼센트 나왔습니다.

◆ 최휘 : 가이드라인 내용을 구체적으로 짚어볼까요?

◇ 김언경 : 모든 이용자용은 세 가지 핵심 메시지와 21개 권고로 돼 있습니다. 첫째는 ‘마음 이야기를 시작하기 전에 살펴보고 정해 두라’입니다. 서비스가 누구를 대상으로 무엇을 제공하는지, 효과의 근거가 있는지, 개인정보를 어떻게 처리하는지 확인하고, 의학적 효과를 내세운다면 공인기관의 검증이나 승인을 받았는지 보라는 겁니다. 또 이름, 연락처, 주소 같은 개인정보는 물론 진단서, 처방전, 검사결과지 같은 민감한 자료는 입력하지 말라고 권고합니다. 대화가 편안하게 느껴져도 비밀이 보장되는 공간은 아니라는 거죠.

◆ 최휘 : 전문 ‘상담용 AI’라면 더 믿을 수 있지 않을까요?

◇ 김언경 : 꼭 그렇지는 않습니다. 미국 섭식장애협회 NEDA가 2023년 운영하던 챗봇 ‘테사’가 섭식장애 관련 상담을 하러 온 이용자들에게 칼로리를 줄이고 매주 체중을 재라는 식의 감량 조언을 해서 논란이 됐고, 협회는 결국 서비스를 중단했습니다. 원래는 정해진 답만 하도록 설계된 프로그램이었는데, 운영업체가 생성형 AI 기능을 덧붙인 뒤 문제가 생겼다고 합니다. 실제 피해가 확인된 건 아니지만, 해로울 수 있는 답변이 드러난 것만으로 서비스가 멈춘 겁니다.

◆ 최휘 : 또 다른 수칙은 무엇인가요?

◇ 김언경 : ‘내 상태에 대한 AI의 말을 결론으로 삼지 말라’입니다. AI가 우울증이나 불안장애라고 말해도 의학적 진단으로 받아들이지 말고, 전문가나 검증된 자료로 확인하라는 겁니다. 국민일보는 올해 2월 서승진이라는 가명의 서른 살 남성 사례를 보도했는데요. AI의 진단을 믿으면서 담당 정신과 의사와 매번 논쟁을 벌였고, 결국 1년 다니던 병원을 바꿨습니다. 다른 의견을 구하는 것 자체는 필요할 수 있지만, AI는 내가 입력한 증상만으로 답한다는 점을 기억해야 합니다.

◆ 최휘 : 약에 대한 결정도 여기에 포함되겠네요.

◇ 김언경 : 마침 뉴욕타임스가 10월 27일 바로 그런 사례를 보도했습니다. 제목을 옮기면 ‘그녀는 복약 결정을 챗GPT에 맡겼다. 그 대가는 모든 것이었다’입니다. 뇌전증을 앓던 서른한 살의 전직 아마존 소프트웨어 엔지니어 보원 완 씨가 올해 2월 숨졌는데요. 부모는 보도 당일 오픈AI를 상대로 소송을 냈습니다. 챗GPT가 의사가 처방하지 않은 감량 일정을 짜서 하루 400밀리그램이던 약을 몇 주 만에 끊도록 하고, 그 계획을 의사에게 숨기도록 도왔다는 주장입니다. 오픈AI는 ‘가슴 아픈 일’이라면서도 현재는 제공하지 않는 이전 버전에서 일어난 일이라고 밝혔습니다. 인과관계와 책임은 법정에서 가려지겠지만, 무겁게 봐야 할 주장입니다.

◆ 최휘 : AI 상담의 가장 큰 문제가 사람과 이야기할 필요가 줄어들면서 점점 고립되는 것 아닐까 싶네요.

◇ 김언경 : 그게 세 번째 메시지, ‘AI와 적정한 거리를 두고 사람에게 이야기하라’입니다. AI에게 위로받지 말라는 뜻은 아닙니다. AI 이용이 늘고 가족·친구와의 관계가 줄어든다면 의식적으로 거리를 두고, 중요한 결정은 사람이나 전문가와 상의하라고 안내합니다. 해외에서는 이와 관련한 소송도 이어지고 있습니다. 캐나다의 앨런 브룩스 씨는 3주 동안 300시간 넘게 챗GPT와 대화하면서 세상을 바꿀 수학 이론을 발견했다고 믿게 됐다고 밝혔습니다. 미국의 제이컵 어윈 씨와 해나 매든 씨는 챗GPT와의 대화 뒤 정신과 입원 치료까지 받았다며, 브룩스 씨와 함께 지난해 11월 오픈AI를 상대로 소송을 냈습니다. 예를 들어 ‘누군가 나를 해치려는 것 같다’고 털어놓으면 AI는 그 불안에 공감해줄 겁니다. 그런데 공감해주는 것과 그 의심이 사실이라고 확인해주는 것은 다르죠. 이 차이를 놓치면 위로처럼 들리는 말이 잘못된 믿음을 키우고 고립을 깊게 할 수 있습니다.

◆ 최휘 : 아동·청소년과 보호자용 가이드라인은 어떤 점이 다른가요?

◇ 김언경 : 청소년용과 보호자용에 각각 일곱 가지 권고가 있습니다. 청소년에게는 개인정보를 지키고, AI의 답을 따르기 전에 자기 생각과 상황을 먼저 살피며, 언제든 대화를 그만둘 수 있다는 점을 알려줍니다. AI 캐릭터를 실제 친구나 연인처럼 여기고 있지 않은지 돌아보고, 위험한 답변을 받으면 부모나 교사처럼 믿을 수 있는 어른에게 알리라고 합니다. 보호자에게는 AI를 무조건 금지하기보다 아이가 무엇을 위해, 어떻게 쓰는지 먼저 들어보고 기본 규칙을 함께 정하라고 권합니다. 혼내고 막기만 하면 아이가 위험한 대화를 했을 때 오히려 털어놓기 어려워질 테니까요.

◆ 최휘 : 가이드라인이 필요한 건 분명한데, 오늘 이야기를 들으니 걱정이 앞섭니다. 정부의 추가 계획이 있습니까?

◇ 김언경 : 보건복지부는 교육 프로그램을 마련해 현장에 확산하고, 2027년에는 중증정신질환자를 포함한 고위험군을 위한 맞춤형 가이드라인을 만들 계획이라고 밝혔습니다. 다만 개인이 이 수칙을 다 숙지하고 지키기는 쉽지 않습니다. 그래서 기업의 안전 설계, 정부의 감독, 피해 구제 장치가 함께 마련돼야 한다고 봅니다. 위험한 대화에 서비스가 경고문만 띄우고 끝내지는 않는지, 미성년자와 취약한 이용자는 어떻게 보호하는지, 피해가 생기면 누가 조사하고 어떻게 구제하는지 구체적인 대책이 필요합니다.

◆ 최휘 : 말씀하신 장치가 우리에게 전혀 없는 건 아니죠? 올해 1월부터 AI 기본법이 시행되고 있잖아요?

◇ 김언경 : 맞습니다. AI기본법은 이미 고영향 AI 사업자에게 위험관리와 이용자 보호 의무를 부과하고 있습니다. 또한 현재 온라인피해365센터에 AI 피해 신고창구도 있습니다. 하지만 위험한 대화를 감지해 상담기관으로 연결하거나 청소년 이용시간을 제한하도록 강제하는 내용은 아직 국회에 법안으로만 올라와 있는 상태입니다. 신고가 들어와도 정부가 사업자에게 개선을 강제할 권한이 없는 것도 현실입니다. 분쟁조정 제도는 2028년에야 도입하겠다는 계획이고요. 결국 지금은 개인의 주의에 많이 기대고 있는 셈이라, 이 법안들이 서둘러 논의돼야 한다고 봅니다.

◆ 최휘 : 오늘은 여기까지 듣겠습니다. 감사합니다.

◇ 김언경 : 감사합니다.

◆ 최휘 : 지금까지 김언경 뭉클미디어 인권연구소장과 함께 했습니다.

YTN 박준범 (pyh@ytnradio.kr)