디지털공론장

디지털 권리장전 제7조(디지털 표현의 자유), 제8조(디지털 다양성 존중), 제18조(디지털 위험 대응), 제20조(건전한 디지털 환경 조성)

디지털 기술의 발달로 디지털 연결이 상시화되면서 소셜미디어(SNS), 포털, 게임 등을 통한 이용자 간의 소통과 상호작용이 일상화되고 있습니다. 다양한 형태의 디지털 서비스들은 커뮤니케이션, 교육, 비즈니스 등의 분야에 있어 방대한 기회를 제공하고 정보의 접근성을 높여왔으며, 이와 동시에 사이버 공간에서의 익명성을 기반으로 하여 누구나 자유롭게 의사를 개진할 수 있도록 하였습니다. 반면, 사이버 공간에서 이뤄지는 차별·혐오 표현은 소수 집단을 차별·배제하거나 사회적 갈등을 초래하고, 실시간으로 전파되는 허위정보는 민주주의를 위협할 수 있다는 주장도 제기되어 왔습니다. 특히, 피싱, 성착취물 유포 등 디지털 범죄로 인한 이용자 피해도 시급히 해결해야 할 문제입니다. 최근에는 딥페이크(Deepfake), 가상자산 등 고도화된 디지털 기술이 범죄에 활용되면서 기술적·제도적 대책이 요구되고 있습니다.

[사이버 공간에서의 차별·혐오 표현 대응]
익명성, 비대면성, 빠른 확산성과 같은 사이버 공간의 특성들은 차별·혐오 표현의 생성과 확산에 큰 영향을 미치고 있습니다. 사이버 공간에서의 차별·혐오 표현의 확산은 사이버 언어폭력, 따돌림 등 사이버 폭력을 통해 대상자에게 직접적인 피해를 줌과 동시에, 사회 구성원의 통합을 저해하고 젠더갈등, 인종차별 등 내재된 갈등을 증폭시킬 수 있습니다.
인권위의 ’21년 온라인 혐오표현 인식조사39)’에 따르면 응답자의 79.3%가 온라인 혐오표현 문제가 심각하다고 답변했으며, 90.2%가 혐오·차별로 인해 사회적 갈등이 더 심해질 것이라고 답했습니다.
이러한 문제에 대해 정부와 사업자가 적극적으로 대응해야 한다는 의견도 있지만, 입법적 해결 노력이 표현의 자유를 제약할 수 있다는 우려도 제기되고 있습니다. 현실적 대안으로 공적 합의에 기초한 자율규제, 미디어 리터러시 교육 등이 자주 언급되고 있습니다.

[가짜뉴스 대응]
허위조작정보(disinformation), 이른바 가짜뉴스(fake news)는 통상 정치적·경제적 이익을 위해 근거가 없거나 사실이 아닌 내용을 고의적·악의적으로 왜곡하여 퍼트리는 정보를 의미합니다. 최근에는 급속도로 발전하는 생성형AI 기술을 활용한 딥페이크(Deepfake) 영상·사진 등이 가짜뉴스 확산에 활용될 수 있다는 우려가 커지고 있습니다. 최근 유네스코가 미국·멕시코 등 내년 총선·대선을 앞둔 16개국 시민들에 대한 글로벌 설문조사⁴⁰⁾(’23.8~9)에 따르면 응답자의 85%가 온라인 가짜뉴스의 영향력이 우려된다고 답했으며, 정부 및 규제 당국이 가짜뉴스 해결을 위해 SNS 규제에 착수해야 한다는 비율도 88%에 달했습니다. 미국·EU등 주요국은 생성형AI 콘텐츠에 대한 워터마크 표기 의무화 등의 조치를 논의하고 있습니다.

[디지털 범죄 대응·피해자 보호]
디지털 기술의 발달과 함께 디지털 범죄 수법이 고도화되면서 이용자 피해가 지속적으로 발생하고 있습니다. SNS의 발달로 디지털 성범죄, 불법 명의거래, 불법금융 등의 범죄가 인터넷 상에서 쉽게 모의, 실행, 유포되고 있으며, 최근에는 딥페이크·딥보이스 기술을 통해 성적 허위영상을 만들어 배포하거나 보이스피싱 등 사기에 활용하는 사례가 발생하고 있습니다.
방송통신심의위에 따르면 ’20.6월부터 ’23.8월까지 시정요구한 딥페이크 성적 허위영상물은 9천여건에 달하며, ’21년 1,913건에서 ’23년(1~8월) 3,046건 등 매년 심의건수⁴¹⁾가 증가하였습니다. 최근에는 AI를 활용해 가짜누드를 만드는 서비스(nudify) 이용자가 ’23.9월 한달 동안 2,400만 명⁴²⁾에 육박하면서 우려를 낳기도 하였습니다. 점차 지능화되는 디지털 범죄에 효과적으로 대응하기 위해 법적, 기술적 측면에서의 대책이 필요한 상황입니다.

방통위는 국내외 포털·플랫폼 사업자(네이버, 카카오, 구글, 메타)와 함께 ‘가짜뉴스 대응 민관협의체’를 출범하여 자율규제 기반의 신속통합심의체계(패스트트랙)를 구축(’23.9)하였습니다.

(사)한국인터넷자율정책기구(KISO)는 혐오표현으로 인한 피해 예방·구제절차 마련을 위해 혐오표현 자율 정책 가이드라인을 제정·시행(’23.4)하였습니다.

여가부는 디지털성범죄피해자지원센터(’18.4)와 경찰청 간 연계 시스템을 구축하여 불법촬영물 삭제를 지원하고 ▲365일 상담, ▲유포 현황 모니터링, ▲수사·법률· 의료지원 연계 등 일상회복을 위한 서비스를 종합적으로 제공하고 있습니다.

국조실은 보이스피싱 피해 시 ‘112’에 신고하면 사건 접수부터 피해구제까지 한 번에 처리할 수 있는 전기통신금융사기(보이스피싱) 통합신고·대응센터(’23.7)를 출범 하였습니다.

디지털 기술의 발전은 다양한 혜택을 제공하지만, 오·남용되거나 범죄 수단으로 악용될 경우 국민들에게 큰 피해를 줄 수 있습니다. 그러므로 사업자, 이용자들의 인식개선과 더불어, 디지털 기술의 범죄 이용 양상 등에 대한 지속적 모니터링과 관련 기술 및 정책에 대한 시의적절한 도입이 필요합니다.
또한, 국경을 넘나들며 적용되는 디지털 기술의 특성을 고려한다면, 지속적인 국제 공조와 협력도 요구됩니다