선관위와 함께하는 IF..만약에!
생성형 AI 기술이 선거운동에 활용된다면? 예: 챗 GPT, 딥페이크 등
텍스트, 오디오, 이미지 등 기존 자료를 활용해 콘텐츠를 새롭게 만들어 내는 생성형 AI 기술!
만약에 생성형 AI 기술이 선거운동에 활용된다면 어떻게 될까요?
'딥페이크' 등의 기술을 통해 허위사실 등의 가짜 뉴스를 제작하여 보는 이를 속일 수 있기 때문에 유권자의 판단을 왜곡시킬 수 있어요!
딥페이크: 인공 지능 기술을 활용해 기존 인물의 얼굴이나, 특정 부위를 합성한 영상 편집물
"너 이 영상 봤어?"
"헉.. 진짜 ☆후보가 이런 말을 했다고..?"
※제3자가 후보자 동의 없이 사진 등을 합성하여 활용하는 경우
「공직선거법 제253조(성명등의 허위표시죄)」에 위반될 수 있음.
그래서 중앙선관위는 생성형 AI 활용 관련 법규운용기준을 마련하였습니다.
[생성형 AI를 이용한 선거운동]
○ 생성형 AI를 통해 도출된 내용으로 작성된 글 또는 제작한 사진·동영상·음성 등을 활용하여 공직선거법에서 허용되는 방법으로 선거운동 등 가능
○ 생성형 AI로 도출하여 공표한 내용에 허위의 내용이 포함되어 있는 경우에는「공직선거법 제250조(허위사실공표죄)」가
적용될 수 있음.
※ 생성형AI로 도출한 내용임을 밝혔더라도 허위사실이 포함될 경우 같은 법조가 적용됨.
또한, 특별대응팀(AI 전담팀)을 편성·운영하여 AI 활용 허위정보에 대해 본격적인 대응을 시작하였습니다!
❗모니터링, 조사·조치, AI 감별 등
유권자가 올바른 판단을 하여 투표할 수 있도록 중앙선관위가 건전한 사이버선거문화 조성을 위해 노력하겠습니다!
로딩중입니다.