2024 AI 서울 정상회의에 즈음한 시민사회 논평

[공동논평]l승인2024.05.20 19:31

크게

작게

메일

인쇄

신고

인공지능의 위험성으로부터 시민의 안전과 인권을 보호하기 위한 견고한 국제 규범을 마련할 것을 한국 정부와 각국 정부에 촉구한다

5월 21일부터 22일까지 AI 서울 정상회의가 개최된다. 이 회의는 2023년 11월, 영국 블레츨리 파크에서 개최된 AI 안전성 정상회의의 후속 회의라고 한다. 우리는 AI의 위험성에 대한 세계적인 인식이 높아지고 시민의 안전과 인권을 보호하기 위한 방안을 논의하는  것에 대해 기본적으로 환영한다. 이에 AI 서울 정상회의의 개최를 맞아 본 회의에 대한 한국 시민사회의 기대와 우려를 다음과 같이 밝히고자 한다.  

2022년 말 ChatGPT의 출시 이후 불었던 생성형 AI에 대한 일시적인 열광 분위기가 가라앉으면서, AI에 대한 사회적 우려와 위험에 대한 국제적인 공감대가 높아지고 있다. 2023년 5월 히로시마에서 열린 G7 국가 정상회의와 11월에 영국 블레츨리에서 열린 AI 안전성 정상회의를 통해서 참가국들은 AI가 인류의 안전과 인권에 미치는 위험성에 대해 공감하고, AI의 개발과 활용에 있어서 투명성과 책무성의 중요성을 확인하면서 이를 위한 국제적인 기준을 마련하고 협력할 것을 다짐하였다.

올해 2024년 3월 21일 개최된 유엔 총회에서도 지속가능한 발전을 위한 “안전하고 보안이 되며 신뢰할 수 있는” AI 시스템의 증진에 대한 결의안을 채택했다. 이 결의안에서 유엔 총회는 인공지능의 설계, 개발, 보급 및 이용에 있어서 인권의 존중, 보호, 증진의 중요성 또한 강조하였다. 우리는 이러한 국제적인 움직임을 긍정적으로 평가하며, 이제 추상적인 원칙을 넘어 보다 구체적이고 실효성있는 규범으로 나아가야 한다고 생각한다. 이번 AI 서울 정상회의는 이러한 AI의 국제 규범 마련 논의의 연장선상에서 이를 더욱 구체화하는 계기가 되기를 바란다.

물론 AI에 대한 국제적인 규범은 일부 선진국만의 주도로 만들어져서는 안된다. 이번 AI 서울 정상회의의 주제 중 하나가 ‘포용’인데, 이종호 장관은 “AI 혜택 공유와 격차 해소 방안을 모색하고, 문화적·언어적 다양성을 존중하면서 AI가 서비스될 수 있도록 논의를 진전시킬 것”이라고 밝히고 있다. 이것이 진정한 포용이 되려면, 개발도상국이나 사회적 약자를 시혜의 대상이나 소비자로 생각하는 것이 아니라 AI 거버넌스의 주체로 존중해야 할 것이다.

이러한 맥락에서 AI에 대한 국제적 규범은 소수 선진국들의 엘리트 클럽이 아니라, 전 세계 모든 국가들 및 다양한 이해관계자들이 동등하게 참여할 수 있는 보다 개방된 형식의 포럼에서 논의될 필요가 있다. 

그럼에도 이번 AI 서울 정상회의는 전 세계 다중 이해관계자와 함께 논의하겠다는 취지와 반대로, 한 사회의 인공지능 규범 형성 과정에 중요한 이해관계를 갖는 시민사회를 배제하여 ‘포용’의 가치를 처음부터 훼손하고 불투명하게 운영되고 있는 것에 대해서 심각하게 우려하지 않을 수 없다. AI 서울 정상회의가 어떻게 진행되고, 관련 이해관계자 그룹으로 누가 참여하는지 등을 공식 온라인 페이지를 통해 제대로 공개하지 않고 있다. 무엇보다 한국 정부의 AI 정책에 비판적인 시민사회는 이번 국제 회의에  초대조차 받지 못했다. 규범의 논의 과정 자체가 투명하게 진행되지 않으면 그 결과물인 AI 규범에 대한 사회적 신뢰 또한 얻기 힘들다. 

다른 한편으로, AI의 위험과 악용을 막아야 한다면서도, 한국 정부가 이를 위한 실질적인 조치는 방관하고 있는 것도 우려스럽다. 과기정통부는 딥페이크 등에 대한 악용을 막아야 한다면서도 AI 기본법에 처벌 조항이 없는 이유로 “과도한 규제는 산업 발전의 발목을 잡을 수 있다”며 모순적인 태도를 보이고 있다. AI의 위험성을 통제하기 위한 조치를 의무화하는 것이 왜 과도한 규제이며, 이러한 제도적 안전 조치없이 어떻게 AI의 위험성과 악용을 막겠다는 것인지 의아스럽다.

이미 유럽연합은 독자적인 AI 법안을 통과시켰다. 미국은 행정부가 적극적으로 AI를 실질적으로 규제할 수 있는 행정명령을 먼저 발동하면서, AI 규제를 위한 법안도 추진 중에 있다. 한국에서도 22대 국회에서는 AI의 위험성을 규율하고 시민의 안전과 인권을 보호할 수 있는 실질적인 법안을 마련해야 한다. 더불어 AI 기업들이 규제를 우회할 수 없도록 국제적인 차원의 AI 규범과 법제도를 마련할 것을 각국 정부에도 촉구한다.

(2024년 5월 20일)

무상의료운동본부, 문화연대 기술미디어문화위원회, 민주사회를 위한 변호사모임 디지털정보위원회, 정보인권연구소, 진보네트워크센터, 참여연대

[공동논평]  

<저작권자 © 시민사회신문, 무단 전재 및 재배포 금지>

[공동논평]의 다른기사 보기

인기기사

여백
시민사회신문 소개기사제보광고문의불편신고개인정보취급방침청소년보호정책이메일무단수집거부
08288 서울특별시 구로구 새말로 93, 신도림태영타운상가2동 B105  |  대표전화 : 02-3143-4161  |  팩스 : 02-6737-1115  |   ingopress7@naver.com
등록번호 : 서울 아 02638  |  등록일자 : 2013년 5월 8일  |  회장 : 이정우  |  대표 : 윤순철  |  발행인 : 설동본  |  편집인 : 강상헌  |  편집국장 : 양병철
후원계좌 : 국민은행 7788-01-04-375819 (시민사회신문)  |  청소년보호책임자 : 이영일
Copyright © 2007 시민사회신문. All rights reserved.