11월 투표를 공평하게 유지하려면 지금 깊은 가짜와의 싸움에 가야 합니다.

Author:

AI를 활용한 외국 간섭에 대해 세계 민주주의 국가를 전쟁 거점에 둘 때가 왔다. 2023년은 우리가 인공지능을 진지하게 받아들이기 시작한 해였습니다. 올해는 국내 및 국제적인 다양한 윤리적 인공지능 활동, 대통령령, 법령 부족 없이 최고조에 이르렀습니다.

그러나 민주주의 제도의 완전성에 관해서 말하자면, 선의의 법률을 시행하는데 몇 년은 남아 있지 않다. 2024년 AI 초선거의 해는 이미 다가오고 있습니다. 위험은 더 이상 없지만, 풀려나기를 기다리는 AI를 활용한 맹공격에 대해서, 우리의 집단적인 대비는 불충분합니다. 세계의 민주주의 국가들은 방어와 회복력을 갖추기 위해 서로 협력하여 더 많은 일을 할 필요가 있습니다.

2016년에는 정부와 플랫폼 자체 모두 가짜 정보의 힘을 과소평가했습니다. 우리는 2018년 초에 조 바이덴과 함께 선거의 공정성에 관한 대서양 횡단위원회를 공동 설립하여 경종을 울리고 민주주의 국가들이 이 집단적 위협 해결에 협력하도록 촉구했습니다.

12월 22일에 촬영된 이 그림은 대만 타이베이에 있는 노트북 컴퓨터에서 AI 비디오 생성기 웹 사이트를 사용하는 사용자를 보여줍니다.
I-HWA CHENG/AFP, 게티 이미지즈 경유

현재 정부, 미디어 및 시민 사회간에 사실 검사기에서 미디어 리터러시 캠페인에 이르기까지 많은 뛰어난 노력이 이루어지고 있습니다. 우리는 그들 중 많은 사람들과 협력해 왔습니다. AI가 상대방에게 제공하는 스케일링 효과에 필적하는 것이 있는지는 아직 모릅니다. 마찬가지로 가짜 정보의 이야기에 캡처 된 많은 사람들은 ‘팩트 체커’와 공식 미디어 채널을 ‘세계적 음모’의 일부로 간주합니다.

ChatGPT, Bard, Llama2 등의 대규모 언어 모델은 2016년에 등장한 플레이북을 효과적으로 강화할 수 있습니다. 선거 개입은 스테로이드를 사용합니다. 아이러니하게도, 그들은 가짜 정보 핸드북을 “민주화”하고 악의적 인 행위자에게 접근하기 쉽고, 쉽고, 저렴하게 만듭니다.

이러한 모델을 사용하면 전파되고 확산되는 가짜 정보의 양이 크게 증가하고 마이크로 타겟팅되어 에코 챔버로 밀어 넣어 봇 활동을 탐지하기가 더 어려워 질 수 있습니다. .

텍스트, 음성, 이미지 및 비디오 콘텐츠를 생성하는 그들의 능력은 매우 정서적 인 정치 상황에서 새로운 도전을 일으키고 있습니다. 우리는 더 이상 자신의 눈을 믿을 수 없습니다. 이미 2023년 말에 슬로바키아와 아르헨티나 선거에 깊은 가짜가 도입되었습니다. 아르헨티나의 깊은 가짜는 두 최종 라운드 대통령 선거 진영에 의해 만들어졌다. 그러나 자유당 지도자를 대상으로 한 슬로바키아 음성 깊은 가짜의 책임은 모스크바 정부에 직접 밀려났다. 11월 미국 대통령 선거까지 기술은 비약적으로 진화할 것이다.

대부분의 주요 기술 플랫폼은 특히 EU의 디지털 서비스법이 조작된 콘텐츠에 라벨을 붙여야 하기 때문에 적응하고 있음을 보여주는 데 열심입니다. 구글과 메타는 인공지능이 생성한 정치광고에 대한 추가 투명성을 요구할 것이다. Microsoft는 캠페인 팀의 지원에 힘을 쏟고 있으며, 광고에 전자 워터마크를 삽입하여 누가 작성했는지, 변경되고 있는지를 나타내는 툴을 발표했다. 한편, 엘론 마스크씨의 X는 디지털 서비스법의 의무를 게을리했다고 이미 유럽위원회에 의한 정식 절차를 받고 있다.

전자 워터마크의 노력은 유망하다. 예를 들어, Adobe 또는 Microsoft에서 BBC, 뉴욕 타임즈는 발행자, 작성자 및 소비자가 다양한 미디어 유형의 신뢰성과 출처를 확인할 수 있도록 하는 전자 워터마크의 세계 표준을 개발하고 있습니다.

이러한 노력이 더 필요합니다. 우리는 이 과제를 법률이나 시민 사회의 이니셔티브 또는 플랫폼의 투명성으로 해결할 계획이 없습니다. 우리는 이 모든 것들과 그 이상을 필요로 합니다. 우리나라 군대는 다양한 시나리오에 대비하여 연습을 실시합니다. 이를 통해 적의 공격 시나리오를 예측하고 대응과 억제력을 준비할 수 있습니다.

우리는 프론티어 인공 지능의 주요 리더, 플랫폼, 미디어, 시민 사회 및 선거를 촉진하는 이들 단체의 광범위한 관계자를 소집하고 민주주의 세계 전역에서 유사한 연습을 수행하는 것을 고려합니다. 해야 한다. 이것은 공격자와 방어자의 역할을 담당하는 다양한 전문가들이 사이버 보안 및 군사 준비를 테스트하는 데 사용되는 대서양 횡단 레드 팀의 형태를 취할 수 있습니다.

이러한 이니셔티브를 개최하려면 크고 번거로운 국제기구의 후원이 필요하지 않습니다. 필요한 것은 정치적 의지뿐이다. 예를 들어, 영국, 프랑스, ​​한국은 AI 안전 정상 회담의 후원하에 그러한 연습을 주최할 수 있습니다. 이탈리아는 G7 의장국 하에서 연습을 소집할 가능성이 있다. 중요한 것은 소집자가 아니라 장기에 걸쳐 새로운 대원칙을 정할 수는 없지만, 민주주의 시스템의 모든 관계자에게 있어서 즉시 실행 가능한 점인 결과이다.

AI를 활용한 선거 개입의 악영향을 막을 수는 있지만, 지금부터 준비를 게을리하면 2016년 러시아의 선거 개입이 준비 행위처럼 보일 것이다. 한편으로는 선거 간섭이나 가짜 정보에 대처하고, 다른 한편으로는 AI에 지침을 마련하기 위한 대처에는 중요하지 않습니다. 2024년 초에 우리는 독재자를 집단적으로 격퇴하기 위해 민주주의를 위해 이러한 모든 힘을 결집해야 합니다.

앤더스 포그 라스무센은 전 덴마크 총리와 NATO 사무총장입니다.

마이클 차트프는 제2대 미국 토 안보장관이었다. 그는 깊은 가짜에 대항하려는 플랫폼의 고문이기도합니다.

이 기사에서 표현된 견해는 저자 자신의 것입니다.