인공지능 기술 규제에 관한 탐색적 고찰: 딥러닝 기술을 중심으로

Abstract

본 연구는 인공지능 기술에 대한 정부규제 방향을 탐색적으로 고찰해 본다. 최근 인공지능 기술에 대한 관심이 폭발적으로 증대되고 있으나, 인공지능은 구현 기술 및 활용 분야가 다양하고, 연구자 간 기술이해도가 상이하여 규제 당국에서도 인공지능 규제 방법 및 수준에 대한 합의점을 찾지 못하고 있다. 이에 본 연구는 일차적으로 기술적 관점에서 인공지능 기술에 대한 이해를 명확히 한 후, 이차적으로 행정학적 관점에서 규제 방향을 고찰하고, 규제당국이 유념해야 할 주요 사항에 대해 제언한다. 먼저 기존 문헌 및 각국 인공지능 규제 정책, 그리고 인공지능 기술 분석을 기반으로 인공지능 기술 규제방향을 고찰한다. 이를 위해 인공지능 규제의 목적으로 “기술의 불확실성에 따른 잠재적 위협으로부터 국민을 보호하는 것”을 설정하고, 보다 구체적인 목표로 투명성·공정성·안전성·책무성을 도출한다. 다음으로 규제 범위는 인공지능 시스템 자체 및 개발과정과 활용까지 포괄적으로 설정해야 하고, 개발자와 이용자가 규제의 준수 대상임을 보였다. 또한 인공지능 규제 방법으로 시험 및 성능 검증, 훈련데이터 정제, 시스템 개발 과정 기록 의무화, 시스템 오남용 금지 등을 도입함이 바람직함을 고찰한다. 다음으로 인공지능 규제 당국에 대해 1) 인공지능 기술 규제의 범위는 딥러닝 기술로 한정할 것, 2) 인공지능의 자율성을 고려하지 말 것, 3) 점진적이고 개별적인 규제를 적용할 것, 4) 시험 및 성능검증 중심의 규제를 도입할 것, 5) 데이터·개인정보보호 등 인공지능 기술과 직접적 연관이 없는 이슈는 별도 규제로 취급할 것, 6) 인공지능 개발 데이터 마련에 주력할 것, 7) 인공지능 기술 수준에 대한 사회적 이해를 확대시킬 것 등을 제언하였다. 본 연구의 학술적 의의는 인공지능 현재 기술수준을 분석하여 이를 바탕으로 향후 일관된 인공지능 규제 논의의 기반을 마련한 것으로 볼 수 있다. 하지만 본 연구는 총론적 관점에서 인공지능 규제 방향을 고찰한 바, 향후 활용 분야별 규제에 실제 적용하여 그 실효성을 검증할 필요가 있다. |This study explores the direction of desirable government regulations on artificial intelligence technologies. Recently, though public interest in artificial intelligence has exploded, we have not yet reached an agreement on how to regulate artificial intelligence due to the different understanding among regulation researchers and the diversities in its implementation methods and applications. Thus, this study primarily clarified the understanding of artificial intelligence technologies from a technical point of view, secondarily examines the regulatory from an administrative point of view, and then suggests major matters to be noted by regulators. First of all, in order to explore the desirable regulatory direction of AI, we first throughly review prior arts and national regulation policies, and analyse the detailed technologies. After then, we set the goal of artificial intelligence regulation as "protecting the people from potential threats caused by technological uncertainty," then derive transparency, fairness, safety, and accountability as more specific goals. Next, the scope of regulation is comprehensively set up to the artificial intelligence system itself, the development process and utilization, and it is shown that developers and users are subject to regulation. In addition, we introduce tests and performance verification, training data clearance, recording and documentation of the system development process, and prohibition of abusive usage as practical artificial intelligence regulation methods. Next, we make some proposals for AI regulators to be considered as follows; 1) limit the scope of regulation to deep learning technology, 2) do not take into account the autonomy of artificial intelligence, 3) consider to take a gradual and individual application of regulations, 4) introduce regulations based on tests and performance verification, 5) treat other regulatory issues such as data and personal information protection separately, where they are indirectly related to AI regulation, 6) focus on securing data for artificial intelligence development, 7) expand social understanding of artificial intelligence technology levels. An academic significance of this study is to lay the solid foundation for the consistent discussion on AI regulations by analyzing the current technical level of AI. However, it is necessary to verify the effectiveness of this study by actually applying it to regulations for each field of application in the future, since this study explores the direction of artificial intelligence regulation from a general perspective. keywords: artificial intelligence, regulation, deep learning