디지털공론장

디지털 권리장전 제8조(디지털 다양성 존중), 제9조(개인정보의 접근·통제), 제17조(디지털 기술의 윤리적 개발과 사용), 제18조(디지털 위험 대응)

AI는 인간의 지적 능력을 모방하여 전자적 방식으로 이를 구현하는 기술입니다. AI는 다양한 분야에서 폭넓게 활용되므로 안전성과 신뢰성의 확보가 중요합니다. 그러므로 AI 모델을 구축하는 과정에서 개발자는 편향되고 차별적인 데이터를 배제하고, 안전하고 신뢰할 수 있는 AI의 개발을 위해 노력해야 합니다. 그리고 이용자 역시 나쁜 의도로 AI를 사용하거나 잘못된 방식으로 이를 활용하지 않도록 주의해야 합니다. 무엇보다, AI가 가져오는 혜택을 온전히 누리기 위해서는 위험과 부작용을 최소화할 수 있도록 관련 규범을 정립해야 합니다.

[AI 편향 대응]
AI 편향은 어떠한 원인으로 인해 AI 시스템이 특정 방향에 치우친 결과를 도출하는 것을 말합니다. AI 시스템에 나타난 편향들은 개인과 조직, 사회에 대한 부정적 영향을 초래할 수 있습니다. 예를 들어, 대출승인이나 범죄자 예측 등의 영역에서 차별적인 결과를 도출하면서 사회적 논란을 야기할 수도 있습니다. 이러한, AI 편향은 AI를 개발한 인간의 편향, 숨겨진 편향, 데이터 샘플링으로 인한 편향, 특정 데이터 종류가 배제되면서 발생하는 편향(롱테일 편향), 악의적 목적의 편향 등 다양한 형태³³⁾로 나타나고 있습니다. AI 편향을 완전히 통제하는 것은 쉽지 않지만 AI 편향의 제거 가능성을 높이기 위한 노력이 필요합니다.

[AI 안전·신뢰 확보를 위한 규범 정립]
AI의 안전과 신뢰는 지금까지 법적 규제의 통제가 아닌 윤리적 차원에서의 자율규범의 형태로 논의되어 왔습니다. 예를 들어 윤리강령 형식의 AI 윤리원칙 마련, 개발자 등을 위한 가이드라인의 보급, 기업이 자체적으로 수행하는 자율점검표 및 영향평가 제도의 도입, AI 윤리교육 강화 등이 대표적이라고 할 수 있습니다. 그러나, 최근 생성형AI의 확산으로 거짓정보, 프라이버시 침해, 표절 및 저작권 침해 등의 이슈가 제기되면서 주요국이나 국제기구를 중심으로 AI의 윤리성, 안전성, 투명성, 책임성 등을 확보하기 위한 법적규제의 도입이 구체적으로 논의되고 있습니다. EU는 ‘EU 인공지능법(안)(EU AI Act 안)’ 통과에 대한 문안을 합의했고 미국은 ‘AI 행정명령’의 발표를 통해 AI에 대한 본격적인 규제를 가시화하고 있습니다. 28개국이 참여한 영국 AI 안전 정상회의(’23.11)에서는 AI의 잠재적 위험에 공동 대응하고자 ‘블레츨리 선언’이 이뤄지기도 했습니다. 우리나라에서는 AI안전성 확보를 위한 ‘인공지능법(안)’이 발의되어 국회 논의 중입니다.

[AI 제조물 책임 관련 제도 정비]
자율차, 지능형 로봇 등 AI를 활용한 제품들이 시장에 등장하면서, AI 결함으로 인해 발생하는 피해의 배상책임 문제가 나타나고 있습니다. AI 사고는 그 원인을 특정 사람의 행위로 귀속시킬 수 없고, 피해자가 인과관계를 입증하기도 어려워 적절한 손해배상을 받을 수 없다는 문제도 제기되고 있습니다.
EU 집행위원회는 AI 기술을 사용한 제품을 사용한 소비자가 피해를 입으면 제조업체에 대한 증거공개를 요청할 수 있도록 하고 불응 시 인과관계를 추정하여 손해배상을 청구할 수 있도록 규정하는 ‘AI 손해배상 준칙(AI liability directive)’(’22.9)을 발의하였습니다.
국내에서는 소비자와 제조업체 사이 정보격차를 줄일 수 있는 절차가 부족하여 피해 입증이 어렵고, 제조물책임법 상 AI 소프트웨어가 제조물에 해당하는지도 불명확한 상황입니다.

과기정통부는 「인공지능(AI) 윤리기준」(’20.12)을 발표하고, 기업의 자율적 실천수단으로서 자율점검표· 개발안내서를 마련(’22)하였습니다. 민간이 자율적으로 제3의 전문기관에서 AI 제품· 서비스의 신뢰성 준수 여부를 평가받을 수 있는 ‘AI 신뢰성 검·인증체계’를 수립하였습니다.

방통위는 디지털 플랫폼의 추천 서비스와 관련하여 ‘인공지능 기반 미디어 추천 서비스 이용자 보호 기본 원칙’을 발표(’21.6)하였습니다.

개인정보위는 「개인정보 보호법」 개정(’23.3)을 통해 자동화된 결정 과정에서 정보주체의 권리를 보호하기 위해 거부·설명 등 요구권을 신설(’24.3.15.시행) 하였으며, ‘인공지능 시대 안전한 개인정보 활용 정책 방향’(’23.8.)을 발표하여 AI 단계별 개인정보 처리기준과 보호조치를 제시하였습니다.

생성형 AI가 빠르게 발전하면서 글로벌 차원에서 AI의 안전·신뢰성 확보를 위한 논의가 지속되고 있습니다. 글로벌 논의에 주도적으로 참여하면서도 국내 AI 산업생태계를 종합적으로 고려하여, 기술 혁신을 저해하지 않도록 실효성 있는 안전·신뢰성 확보 방안을 마련해 나갈 필요가 있습니다.