[수요일 아침] 생성형 AI가 선거에 미칠 영향

허신학 윈지코리아컨설팅 대표

허신학 윈지코리아컨설팅 대표

기술의 발달이 인류의 삶에 미치는 영향은 절대적이다.

1차 산업혁명은 증기기관의 발명이다. 2차 산업혁명은 19세기 후반 전기와 내연기관의 발명을 말한다. 20세기 후반 컴퓨터, 인터넷, 통신기술의 발달이 3차 산업혁명이다.

4차 산업혁명은 정보통신기술(ICT)의 융합으로 이루어지는 차세대 산업혁명을 말한다.

4차 산업혁명의 특징은 '초연결성' '지능화' '자동화' '개인화'이다.

모든 사물과 사물이 연결되고, 실시간으로 정보를 공유할 수 있다. 지능화되고 자동화된 시스템, 그리고 빅데이터 분석을 통한 개인의 특성에 맞춘 서비스 제공이 가능하다.

4차 산업혁명은 산업, 경제, 사회, 문화 등 모든 분야에서 새로운 기술과 비즈니스 모델이 등장하고, 기존의 산업과 일자리 구조 변화를 이끌고 있다. 4차 산업혁명은 새로운 기회와 도전을 제공하는 동시에 기존의 질서를 파괴하며 사회적 갈등이 발생할 수도 있다.

최근에는 생성형 AI가 등장하면서 세계적으로 폭발적인 관심을 끌면서 새로운 충격을 주었다. 오픈 AI사가 내놓은 '챗GPT'는 인간의 고유 영역으로 여겨졌던 '창조'의 영역에 진입했기 때문이다. 챗GPT의 등장은 환호와 우려를 동시에 불러일으켰다.

초거대 AI의 등장이 미칠 수 있는 긍정적 영향과 부정적 영향을 미리 예측해 보고 어떻게 활용할 것인지 고민해야 한다. 특히 챗GPT와 같은 생성형 AI가 선거에 어떤 영향을 미칠 것인지 미리 점검해 보고 대비하는 것은 매우 중요한 일이다.

2024년은 미국, 영국, 인도, 인도네시아, 멕시코, 대만 등 총인구가 약 40억 명에 달하는 국가들이 선거를 준비하고 있다. 우리나라도 내년 4월 10일 국회의원 선거를 앞두고 있다.

선거는 정책과 비전으로 유권자의 선택을 받는 제도이다. 그러나 사전적 의미일 뿐이다.

정치는 순수하지 않기 때문에 선거에서 생성형 AI의 부정적 영향이 극대화될 가능성이 더 커 보인다.

생성형 AI는 실제와 구별하기 어려운 가짜 뉴스의 생산과 유통을 더욱 손쉽고 효과적으로 만들어줄 수 있는 기술이다. 또한, 소셜미디어와 같은 온라인 플랫폼을 통해 가짜 뉴스를 대규모로 유포하는 것도 가능하다.

생성형 AI가 선거에 미치는 영향은 다음과 같이 예상된다.

첫째, 유권자의 판단을 왜곡하고 선거 결과를 조작할 위험이 커진다. 생성형 AI를 이용한 가짜 뉴스는 실제와 구별하기 어려워 유권자들이 진짜 뉴스와 가짜 뉴스를 구별하기 어려워진다. 또한, 생성형 AI를 이용한 가짜 뉴스는 대규모로 유포될 수 있어 선거 결과에 큰 영향을 미칠 수 있다.

둘째, 민주주의의 기본인 국민의 알권리를 침해할 우려가 있다. 생성형 AI를 이용한 가짜 뉴스는 유권자들이 선거에 필요한 정보를 정확하게 얻는 것을 방해할 수 있다. 또한, 생성형 AI를 이용한 가짜 뉴스는 유권자들이 정치적 의사를 형성하는 데 필요한 정보를 왜곡할 수 있다.

셋째, 유권자들 간의 갈등을 조장하고 사회적 갈등을 심화시키면서 특정 정치 세력이나 집단의 이익을 위해 사용될 수 있다. 또한 빅데이터 분석으로 개인의 특성을 고려한 마이크로 타기팅이 가능하기 때문에 위험성은 더 커 보인다.

생성형 AI가 선거에 미치는 부정적인 영향을 최소화하기 위해서는 제도 마련과 미디어 리터러시 교육이 시급하다. 아직 제도가 마련되지 않았지만 활발한 논의가 진행 중이다.

EU 의회는 6월 14일(현지시간) 본회의에서 EU 전역에서 AI를 규제하기 위한 법안 협상안을 가결했다. 생성형 AI를 운영하는 기업들은 AI가 불법 콘텐츠를 생성하지 않도록 관리해야 하며, AI가 만든 창작물에 출처를 표기해야 한다는 내용이다.

한국 국회에서는 '인공지능 산업 육성 및 신뢰 기반 조성에 관한 법률'(인공지능 기본법)이 2월 14일 국회 과방정통위 법안소위를 통과했다. 이 법안은 국내 AI산업의 고도화를 뒷받침하기 위해 국가적 전략을 설계하는 내용을 골자로 한다. 부작용에 대응하기 위한 EU 의회 법안과 달리 우리나라는 산업 고도화에 초점이 맞춰져 있다.

제도 마련에 시간이 걸리기 때문에 소셜미디어 플랫폼과 같은 온라인 플랫폼 업체들이 가짜 뉴스의 유통을 차단할 수 있는 기술과 정책을 도입하는 것이 더 빠르고 효과적일 수 있다.