미국 대선이 2주일여 앞으로 다가온 가운데 인공지능(AI)을 활용한 허위 정보와 딥페이크 확산에 대한 경각심이 높아지고 있다. 미국 정치권에서도 선거에 미치는 영향을 최소화 하고 유권자들을 보호하기 위해 법적 규제를 마련하는 등 대응책 마련에 힘쓰고 있다.
23일 가상자산 업계에 따르면 지난 5월 미국에서는 인스타그램 등 여러 소셜 네트워크(SNS)를 통해 도널드 트럼프 전 대통령이 수갑을 차고 경찰에 체포되는 모습이 퍼져나갔다. 트럼프 후보는 이날 뉴욕 법원에서 회계부정 등 혐의로 유죄 판결을 받았다.
‘트럼프 체포 현장’을 포착한 사진은 9000개 이상의 좋아요를 받았으며, 틱톡 등 여러 SNS에서 1000만회 이상의 조회수를 기록했다. 하지만 해당 이미지는 AI가 생성한 교묘한 가짜 이미지인 것으로 드러났다.
이처럼 AI기술이 날로 발전하며 진짜 정보와 가짜 정보의 구분이 더욱 어려워지고 있다. AI얼굴인식 기업 온피도(Onfido)에 따르면 지난해 AI를 활용한 딥페이크 공격은 1년전에 비해 3000% 증가한 것으로 나타났다.
특히 올해는 미국 대선을 앞두고 있는 만큼, AI를 활용한 딥페이크 생성이 단순한 허위정보 유포를 넘어 선거의 신뢰성에 위협을 줄 수 있다는 우려가 커지고 있다.
글로벌 IT보안기업 이반티(Ivanti)의 스리니바스 무카말라(Srinivas Mukkamala) 제품 책임자는 “지난 선거에서도 AI활용은 있었지만 지금처럼 정교하지 않았다”며 “생성형 AI와 딥페이크와 같은 AI기술의 진화로 진짜 정보와 조작된 정보를 구분하는 것을 점점 더 어려워 졌다”고 말했다.
이를 잡기 위한 감시 장치가 필요하지만, 프라이버시 역시 무시할 수 없다는 점이 한계다. 앞서 지난 2020년 미국 대선에서는 AI 알고리즘을 이용해 개인의 SNS를 분석하고 이민자, 히스패닉 등 일부 유권자 집단에 정치적 신념과 관련된 잘못된 정보를 제공해 논란이 됐다.
보안 업체 딜리트미(DeleteMe)의 로브 샤벨(Rob Shavell) CEO는 “온라인에 개인정보 데이터가 퍼져 있어 소수 집단들은 AI에 의해 타겟팅된 허위 정보에 더욱 취약하다”고 지적하기도 했다.
탈중앙화 소셜 확장 프로토콜인 마스크네트워크(Mask Network)역시 이러한 문제 해결을 위해 노력하고 있다. 사용자들이 기존 SNS에서도 손쉽게 블록체인 기술을 활용할 수 있게 해 암호화 메세지, 프라이버시 보호, 탈중앙화된 자율 조직(DAO) 참여 등이 가능하다.
마스크네트워크을 창업한 수지 얀 대표는 “사람들을 AI 알고리즘을 사용해 사용자 권리를 추적하고 통제하는 독점적 플랫폼과 앱으로부터 해방시켜야 한다”며 “블록체인 기술을 통해 사람들의 개인 데이터를 보호하고 AI 도구로부터 안전하게 지키는 최선의 방법을 찾고자 한다”고 말했다.
전문가들도 마스크 네트워크와 같은 탈중앙화 플랫폼과 AI의 통합이 한 가지 방법이 될 것이라 진단한다. 블록체인을 통해 콘텐츠가 변조되지 않았다는 것을 증명할 수 있으며, 출처가 네트워크에 기록되기 때문에 조작여부를 추적할 수 있기 때문이다. 이를 통해 콘텐츠의 진위성을 보장할 수 있다.
다만 탈중앙화 플랫폼 통합을 통해 콘텐츠의 진위성을 보장하려는 시도는 아직 초기 단계다. 하지만 이번 대선을 기점으로 여러 플랫폼들이 등장, 기술적 진보와 표준화 작업에 돌입했다.
BBC, 뉴욕타임즈등이 참여한 프로젝트 오리진(Project Origin)은 블록체인 기반의 콘텐츠 검증 시스템으로 콘텐츠의 진위성을 검증하는 시스템을 올해 구축하고 있다. 마이크로소프트, 어도비 등은 올해 블록체인을 통해 디지털 콘텐츠의 출처를 추적하고 진위 여부를 확인하는 산업 표준인 'C2PA(Coalition for Content Provenance and Authenticity, 콘텐츠 출처 및 진위확인을 위한 연합)'를 만들고 있다.
마스크네트워크는 또한 지난 2021년 탈중앙화 소셜 프로토콜 파이어플라이(Firefly)에 1000만달러를 지원, 탈중앙화 소셜 이니셔티브 확장을 추구하고 있다. 파이어플라이를 통해 사용자들은 트위터 등 기존 SNS를 통해 즉시 가상자산을 거래하거나 DAO(탈중앙화자율조직)에 참여할 수 도 있다.
수지 얀 마스크네트워크 창업자는 “궁극적으로 우리는 분산화된 소셜 네트워크 생태계를 구축하고 성장시켜 새로운 개방된 인터넷을 실현하고자 한다”며 “사용자들에게 더 큰 자유와 프라이버시를 제공하고, 정보의 진정성을 보호하는데 중요한 역할을 하고자 한다”고 말했다.
IT 조선 / 원재연 기자
원문 : https://it.chosun.com/news/articleView.html?idxno=2023092125348
