공무원의 생성형 인공지능(AI) 활용 시 발생할 수 있는 정보의 신뢰성 문제를 해결, 민감 개인정보 유출 예방 

한국디지털뉴스 정창섭 기자ㅣ부산시(시장 박형준)는 공무원의 생성형 인공지능(AI) 활용 시 발생할 수 있는 인공지능(AI) 생성 정보의 신뢰성 문제를 해결하고 민감·개인정보 유출 등을 예방하기 위해 광역시 최초로 '공무원 생성형 인공지능(AI) 활용 윤리지침(이하 지침)'을 제정한다. 

이번 지침은 지난 1월 21일에 제정된 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제29조에 근거한다.

시는 올해(2025년) 본격적으로 인공지능(AI) 기반 행정혁신을 추진할 계획으로, 공정성, 신뢰성, 책임성을 확보하고 시민들에게 신뢰받는 공공서비스 제공을 목표로 생성형 인공지능(AI)을 행정에 적극 활용할 방침이다. 이에 선제적으로 윤리지침을 마련해 인공지능(AI) 행정의 안전성을 확보한다.

생성형 인공지능(AI) 활용에 대한 윤리적 기준(가이드라인)이 마련되지 않을 경우, 행정업무에서 인공지능(AI)이 생성한 정보의 오남용으로 공정성, 신뢰성 확보 등에 문제가 발생할 가능성이 크다.

지침은 공정성 신뢰성 책임성 보안성, 네 가지 핵심 가치를 기반으로, 공무원이 인공지능(AI)을 효과적이면서도 윤리적으로 활용할 수 있는 명확한 기준을 제시할 예정이다.

1. (공정성 확보) 특정 집단이나 개인에게 편향되지 않도록 공정성을 유지하고 다양한 관점을 반영  

 2. (신뢰성 확보) 인공지능(AI)이 생성한 정보의 사실 여부를 공무원이 직접 검토하고 오류를 수정  

 3. (책임성 강화) 인공지능(AI) 활용으로 발생할 수 있는 피해를 대비하고, 문제 발견 시 즉시 개선 조치  

 4. (보안성 유지) 인공지능(AI) 활용 시 개인정보 및 민감한 정보를 철저히 보호하고, 미공표 정보 입력을 금지  

특히, 인공지능(AI)을 행정업무 보조 도구로 활용할 수 있으나, 최종 의사결정 책임은 공무원에게 있음을 명확히 규정한다. 또한, 부산시정보화위원회 인공지능분과위원회에서 인공지능(AI)의 활용 과정에서 발생하는 윤리적 문제를 점검하고 개선 필요사항이 있는 경우 권고 등을 할 수 있음을 담았다.

시는 3월 법제 심사를 거쳐 지침을 최종적으로 확정하고, 시 본청, 직속기관, 사업소, 시의회사무처를 대상으로 적용하며, 공무원의 인공지능(AI) 활용 역량 강화를 위한 교육도 추진할 계획이다.

조영태 시 행정자치국장은“시는 지능행정 구현을 위한 부산형 인공지능(AI) 행정서비스를 본격 도입할 예정이다”라며, “이번 윤리지침 제정을 통해 공무원이 생성형 인공지능(AI)을 보다 책임감 있게 활용할 수 있는 기반을 마련해, 시민들에게 더욱 신뢰받는 공공서비스를 제공해 나가도록 최선을 다하겠다”라고 전했다.