디지털공론장

디지털 권리장전 제17조(디지털 기술의 윤리적 개발과 사용), 제18조(디지털 위험 대응)

데이터의 축적, 하드웨어 기술 및 네트워크 고도화에 힘입어 빠른 속도로 발전한 인공지능 기술이 제조, 의료, 교통, 환경, 교육 등 산업 전반에서 활용되고 있습니다. 최근에는 생성형 AI 서비스가 활발하게 출시되면서 일상생활에서도 AI 활용이 늘어나고 있습니다. AI 기술의 발전과 활용을 통해 산업의 생산성・편의성 향상이 이루어지고 있지만, 기술 오남용·편향성과 같은 부작용에 대한 우려의 목소리도 높아지고 있습니다. 이에 이용자, 기업, 정부・공공기관 등 모든 사회구성원이 AI의 개발부터 활용의 전 과정에 걸쳐 지켜야 할 합리적인 기준과 원칙이 마련되어 있지만, 각 영역별로도 이러한 기준과 원칙이 필요한 시점입니다.

[생성형 AI 교수·학습 활용 기준 정립]
이화여대 미래교육연구소³⁴⁾의 조사에 따르면 중·고·대학생의 79.2%가 생성형 AI를 사용한 경험이 있는 것으로 나타났습니다. 생성형 AI의 활용은 교육 전반의 혁신을 유도하고 문제 해결과 컴퓨팅 능력을 함양할 수 있다는 긍정적인 효과가 있지만, 학생이 생성형 AI에 지나치게 의존하면 사고력·창의력 저하가 나타날 수 있다는 우려도 제기됩니다. 따라서 AI를 교육에 활용할 때에는 그 활용 목적을 명확하게 하고, 이를 활용하는 교육자와 학습자의 책임의식을 높일 필요가 있습니다.

[금융분야 AI 활용 기준 정립]
금융 분야의 경우 여신심사 및 평가, 금융상품 추천 등에서 인공지능 기술의 활용이 크게 늘어나고 있습니다. 인공지능 기술 자체를 고도화하는 노력과 함께, 인공지능의 판단 또는 결정에 대해 충분한 설명을 제공할 수 있어야 하고, 그 활용으로 인한 손해가 발생하는 경우를 대비하여 책임소재를 명확히 할 필요가 있습니다. 예를 들어 인공지능이 금융소비자의 대출신청을 거절하였을 때 그 사유를 정확히 설명하지 못하면 해당 소비자는 납득할 수 없는 이유로 금융 접근성이 제한될 수 있고, 인공지능이 추천한 금융상품에 투자하여 소비자가 피해를 입었을 때 그 책임소재가 불분명하면 적절한 구제를 받기가 어렵게 됩니다. 이에 인공지능의 투명성과 책임성을 확보하여 금융소비자가 피해를 겪는 일이 없도록 구체적인 활용기준을 마련할 필요가 있습니다.

[AI 활용한 채용 관련 기준·원칙 정립]
인공지능 기술은 채용 업무의 효율화와 비용 절감 등을 위해서도 활용되고 있습니다. 2022년 고용부가 500대 기업 및 중견기업 채용담당자 752명을 대상으로 설문조사한 결과³⁵⁾에 따르면, 인공지능 채용을 도입 중인 기업은 약 15.3%에 달했습니다. 주관적 가치나 편견을 배제하여 일관된 평가 결과에 따라 채용을 진행할 수 있다는 장점이 있지만, 인간인 평가자의 편견이나 선입견을 그대로 학습한 인공지능의 편향 가능성에 대한 우려도 적지 않습니다. 그러므로 인공지능 채용에 대해 구직자들의 신뢰를 얻을 수 있도록 공정하고 투명한 운영이 필요한 시점입니다.

[군사분야 책임있는 AI의 활용 방안]
군사분야에서 AI는 무기 분야뿐만 아니라, 지휘·통제 지원, 정보·감시·정찰(ISR), 군수·관리 지원, 훈련 등 다양한 분야에서 활용 가능한 잠재력을 지니고 있습니다. 그러나 살상력을 가진 무기체계와 AI를 결합하거나 AI를 활용하는 것은 국가안보 및 개인의 생명에 직결되는 만큼, 주요 기술 선진국들은 AI의 군사적 활용을 위한 연구·개발을 진행하는 동시에 책임있는 AI 활용을 위한 정책, 제도, 지침 등의 개발 및 수립 노력도 병행해나가고 있습니다.
우리나라도 책임 있는 군사적 인공지능 활용을 위한 국가 정책과 제도를 마련 중입니다.

[자율차 활성화를 위한 도로교통안전 등 관련법·제도 정비]
’21년 레벨3 자율차 출시 이후 전 세계적으로 자율차의 상용화가 진행되고 있습니다. 자율주행 기술이 빠르게 발전하고 있는 만큼 레벨4, 레벨5 자율차의 안전에 관한 사항에 대해서도 세계 각국에서 논의가 이어지고 있습니다. 우리나라도 자율차 출시와 상용화를 지원하면서도, 도로교통 안전과 책임을 확보하기 위해 사고・법규 위반 시 책임의 주체, 자율주행시스템의 관리 규정 등을 검토하고 있습니다.

[자율운항선박 관련 법·제도 정비]
자율운항선박 등 첨단 해양 모빌리티의 세계시장 규모가 2027년 583조원에 달할 것으로 전망되는 가운데, 세계시장에서 우리의 경쟁력을 확보하는 것이 당면 과제가 되었습니다. 조선·해양 강국의 위상을 유지하고 미래 산업을 발전시키기 위해 핵심기술 개발과 상용화를 지원하면서도 국제표준 등의 규범을 선도하고 제도화하려는 노력이 중요합니다.

[디지털·AI 의료기기 활용 및 안전성·신뢰성 확보 방안]
다양한 산업분야에서 AI 도입이 확산되는 가운데 글로벌 AI의료/헬스케어 시장³⁶⁾은 ’21년 69억 달러에서 ’27년 674억 달러까지 연평균 46.2% 성장할 것으로 전망됩니다. AI·디지털 의료기기는 영상 판독 분야에서 이미 효과성이 검증되었지만, 기술적 특성을 고려할 때 기존의 심사규제 방식을 그대로 적용하는 것은 한계가 있습니다. 또한 실제 의료 현장에서 AI·디지털 의료기기를 활용하기 위해서는 건강보험 적용 관련 사항도 고민해야 할 문제입니다.
의료기기는 사람의 생명과 건강에 직결되는 부분인 만큼 안전성·신뢰성을 확보할 수 있도록 충분한 검토와 논의가 필요합니다

교육부는 교육 현장에서 인공지능 기술이 윤리적으로 개발되고 안전하게 활용될 수 있도록 개발자와 교육당사자들이 함께 준수해야 할 ‘교육분야 인공지능 윤리원칙(’22.8월)’을 제시하였습니다. 또한 생성형 인공지능의 교육적 활용과 윤리적 문제 등을 주제로 ‘디지털 인재양성 100인 포럼’을 개최(’23.3월, 7월)하는 등 지속적으로 현장소통을 진행하고 있습니다.

금융위는 「금융분야 인공지능 활용 활성화 및 신뢰확 보방안」(’22.8월)을 마련하고, 5대 금융 분야(신용평가·여신, 로보어드바이저, 챗봇, 맞춤형 추천)별 AI개발·활용 안내서를 발간하고, 「금융분야 AI보안 가이드 라인」(’23.4월)을 수립하여 이를 적용하고 있습니다.

고용부는 국내 인공지능 채용도입 현황을 파악하기 위한 실태조사를 실시(’23.7~11월)하였습니다.

외교부·국방부는 군사분야의 책임있는 AI의 활용과 관련하여 네덜란드와 함께 제1차 REAIM 회의를 공동으로 주최하였으며, 2024년 9월에는 제2차 REAIM 회의를 한국에서 개최할 예정입니다. 아울러, 2023년 11월 미국 주도의 ‘AI 및 자율성의 책임있는 군사적 이용에 관한 정치적 선언’ 및 국방 AI 협력포럼(AI PfD) 등을 통해 신뢰와 책임있는 AI 활용을 위한 국제사회와의 긴밀한 협력을 지속하고 있습니다.

국토부는 세계 최초로 레벨3 자율주행차 안전 기준을 마련(’19.12)하고 국제기준에 맞추어 이를 개정(’22.11) 하였습니다. 그리고 레벨3 자율주행차 사고에 대한 피해자 구제를 위해 「자동차손해배상보장법」을 개정(’20.4)하여 보험제도를 정비하였습니다.

경찰청은 레벨3 자율주행 운행의 법적 토대를 마련하기 위해 「도로교통법」을 개정(’21)하여 자율주행차 및 자율주행시스템 정의, 관련 특례 및 의무사항 등을 규정하였습니다.

해수부는 AI 등을 활용한 ‘자율운항선박 기술개발 R&D사업’을 통해 핵심기술을 개발하고 있으며, 기술 실증(’24.하반기) 등을 지원하기 위해 『자율운항선박 개발 및 상용화 촉진에 관한 법률」 제정을 추진하여 국회 본회의에서 의결되었습니다.(’23.12)

식약처는 세계 최초 AI 의료기기 허가·심사 가이드 라인(’17.11)을 포함해 총 9건의 관련 가이드라인을 발간하고, 국제의료기기규제당국자포럼(IMDRF) 등 국제논의에 적극 참여하고 있습니다.

인공지능은 다양한 산업 분야에서 활용될 수 있는 범용 기술입니다. 신뢰할 수 있고 책임 있는 인공지능을 개발하고 활용하기 위해서는 산업별 특성을 반영한 실효성 있는 기준과 원칙을 마련할 필요가 있습니다.