AI기반행정에 관한 세 가지 에세이

Abstract

This study confirmed that society's conventional expectations, concerns, and anxiety about AI-based administration may actually be the opposite. The study analyzed the concerns about the unfairness, the reduced discretion in street-level of bureaucracy and the expectations for efficiency and objectivity of AI-based administration. Moreover, the study proved that AI-based administration has failed to ahieve efficiency and objectivity, while achieved fairness and maintained the discretion of street-level of bureaucracy. First, in Chapter 2, the failure to achieve efficiency and objectivity was discussed. The research question of the study was “What attributes of administration limit the efficiency, professionalism, and objectivity of AI-based administration?”. Starting with the assumption of Public Choice theory for bureaucracy, This study has drawn a framework from the principal-agent theory to confirm opportunism in the process of decision-making of AI-based administration. As a result of the analysis, opportunism appeared in AI objective function decision, AI analysis method decision, AI sensitivity decision, and AI use. In particular, active opportunism that aligns AI results with bureaucratic interests, passive opportunism that results in poor AI design, and opportunism that hinders the use of AI have appeared. Therefore, in order to secure efficiency and objectivity in AI-based administration in the future, it is necessary to suppress bureaucratic opportunism in decision-making. To this end, as suggested in the principal-agent theory, it is necessary to design a monitoring system and incentive system for bureaucratic behavior. Second, the fairness of AI-based administration was discussed in Chapter 3. The research question of the study was “How can we ensure fairness in AI-based administration?” Through a literature review on fairness in public administration and AI research, a framework for the ‘fairness principle of AI-based administration’ was derived. After that, the cases of 'COMPAS' and 'USPTO Patent Search and Classification AI' were analyzed with the framework. As a result of the analysis, The USPTO AI satisfied the fairness principle. COMPAS, on the other hand, did not satisfy the principle of fairness. Unlike USPTO AI, COMPAS is pointed out as unfair. Thus, it is necessary for the government to actively implement the 'fairness principle of AI-based administration'. Finally, the concerns of discretion reduction in street-level of bureaucracy were discussed in Chapter 4. The research question of the study was “Does AI-based administration reduce the discretion of street-level of bureaucracy?” A framework was derived through a literature review on the cause of discretionary behavior. Based on this, 'discretion in prompt use' and 'secondary discretion' were analyzed. As a result of the analysis, even in AI-based administration, the expertise of street-level bureaucracy is still needed. It was confirmed that AI creates new discretion to design prompts, that it is more cost-effective for the street-level bureaucrats to perform face-to-face tasks such as monitoring and investigation than AI, and that discretion of street-level bureaucracy is maintained as AI re-learning is carried out through feedback from street-level bureaucracy. Therefore, we must be wary of street-level bureaucrats' excessive dependence on AI. However, this study lacked the presentation of empirical cases and did not present a solution to opportunism. Despite these limitations, this study is meaningful in that it raised objections to social norms about AI-based administration. As a result, when designing AI, The public should monitor whether bureaucrats seek private interests. Furthermore, the system should be designed in a data-friendly way. In addition, the Government must actively try to achieve fairness. Moreover, the responsibility of street-level bureaucracy should be increased.|본 연구는 정부가 AI의 사용자인 AI기반행정에 대한 사회의 통념적인 기대, 우려, 및 불안이 실은 그 반대일 수 있음을 확인하고자 하였다. 즉, AI기반행정에 대한 효율성 및 객관성에 대한 기대, 불공정성 우려, 일선행정의 재량감소 우려를 분석하여, AI기반행정이 효율성 및 객관성 달성에 실패하고, 반면 공정성은 달성하며, 일선행정의 재량행위가 유지될 수 있음을 분석하고 정책적 함의를 도출하고자 하였다. 먼저, 효율성 및 객관성 달성 실패에 대해서 2장에서 논하였다. “AI기반행정의 효율성 전문성 및 객관성은 행정의 어떤 속성으로 인해 제한되는가?”라는 질문을 제시하고, 관료에 대한 공공선택론적 기본 가정에서 출발하여, AI기반행정에서 관료가 수행하는 주요 의사결정 지점들에서 주인-대리인 이론에 따른 기회주의를 확인하는 분석틀을 도출하였다. 분석결과, AI설계의 의사결정인 AI 목적함수 결정, AI 분석방법 결정, AI 민감도 결정과 보조수단으로 AI 활용에서 선호확인의 어려움과 정보의 비대칭성으로 인한 기회주의가 나타남을 확인할 수 있었다. 특히, 객관적인 AI 산출결과처럼 보이나, 사실은 관료의 이익에 부합하도록 AI 결과가 산출되게 하는 적극적 기회주의, AI 설계 및 사용 사안들을 자세히 사정하지 않아 AI 결과가 부적절하게 도출되는 소극적 기회주의, AI를 회피하기 위해 AI 활용을 방해하는 기회주의가 나타났다. 이는 향후 AI기반행정에서 효율성 및 객관성을 확보하기 위해서는 의사결정에 있어 관료의 기회주의 억제가 필요하며, 이를 위해 주인-대리인 이론에서 제시하듯 관료의 행위에 대한 감시체계 및 인센티브 체계를 설계하는 것이 필요하다는 것을 보여준다. 둘째, AI기반행정의 공정성에 대해서는 3장에서 논하였다. “AI기반행정의 공정성을 어떻게 확보할 수 있는가”라는 질문을 제시하고, 행정 및 AI 연구에서 공정성에 대한 관점과, 공정성을 확보하는 방안에 관한 문헌검토를 통해 ‘AI기반행정의 공정성 원칙’ 분석틀을 도출하였다. 이를 토대로 사법 의사결정 지원 AI인 COMPAS와 미국특허상표청(USPTO)의 특허검색 및 분류AI 활용사례를 대상으로 분석을 수행하였다. 분석결과, 주 정부의 소극적 활용 태도와 ‘AI기반행정의 공정성 원칙’을 대부분 만족하지 못하는 COMPAS는 지속적으로 공정성에 대한 지적을 받고 사용 지역과 영역이 줄어든 반면, USPTO의 적극적 커뮤니케이션 태도와 공정성 원칙을 대부분 만족하는 USPTO의 AI는 특허분야에 있어 공정성을 개선했다는 평가를 받는다는 차이를 확인할 수 있었다. 이는 AI기반행정의 공정성을 확보하기 위해서는 정부가 주도적이고 적극적으로, AI기반행정의 공정성 원칙을 수행하는 것이 필요하다는 것을 말해준다. 마지막으로, 일선행정의 재량감소 우려에 대해서는 4장에서 논하였다. “AI기반행정은 일선행정의 재량을 축소하는가”라는 질문을 제기하고, 일선 공무원의 재량행위 원인에 대한 문헌검토를 통해 분석틀을 도출하였다. 이를 토대로 일선행정이 보유한 재량인 프롬프트 활용의 재량 및 AI결정을 바탕으로 한 2차행위의 재량을 대상으로 분석을 수행하였다. 분석결과 AI기반행정에서도 일선 공무원의 전문성이 여전히 필요하고, AI로 인해 프롬프트를 디자인하는 새로운 재량이 생성되고, 감시·조사 등 현장의 대면 업무는 사람이 수행하는 것이 비용적으로 이득이며, 일선 공무원의 피드백을 통한 AI의 재학습이 수행되기에 일선 공무원의 재량행위가 유지됨을 확인할 수 있었다. 또한 특히, 재량의 필요성이 있음에도 불구하고 부작위를 하는 재량행위가 나타날 소지가 큰 것으로 파악되었다. 이는 AI기반행정에서 작위 및 부작위의 재량행위를 통한 책무성 약화를 경계해야 함을 말해준다. 다만 본 연구는 분석이 이론에 기초하여 수행하였기 때문에 실증적 사례 제시가 부족하다는 한계, 기회주의의 해결방안은 제시하지 못한 한계, 일부 제시한 사례가 AI 도입 중에 있어 완료 시 평가가 변화할 수 있는 한계가 존재한다. 이러한 한계에도 불구하고 본연구는 AI기반행정에 대한 사회적 통념에 반론을 제기했다는 점에서 의의가 있다. 즉, AI기반행정을 하는데 걸림돌로 여겨졌던 공정성 문제의 해결방안을 제시하고, 효율성과 객관성을 달성하기 위한 주의점을 제시하며, 재량축소에 대한 행정 내부의 우려를 저감하는 동시에 부작위 재량행위에 대해 경계를 제시하였다. 특히, AI 설계 시 관료의 사익투영을 경계하고, 데이터 친화적으로 법·제도를 설계하며, 정부가 AI기반행정의 공정성을 충족하기 위해 능동적으로 행동하고, 일선행정에서 책무성 약화를 경계해야 한다는 점을 말해주고 있다.