미국, 캐나다, 폴란드 유권자 5954명 실험... AI가 옹호한 후보 쪽으로 선호 변화
영국 거주 성인 4만2357명 분석... 설득에 특화한 사후학습과 정보 중심 지시가 효과 키워
[보안뉴스=유도진 극동대학교 해킹보안학과 교수] AI를 통한 정치적 설득은 이미 실제 선거 규칙의 대상이 됐다. 오는 10월 4일 대통령선거와 의회선거를 치르는 브라질에서는 8월 16일부터 인터넷 선거운동이 허용됐다. 브라질 최고선거법원(TSE)은 AI 서비스 제공자가 이용자의 요청을 받더라도 후보나 정당 등을 추천하거나 특정 정치세력에 직간접으로 유리하거나 불리한 답변을 내놓지 못하도록 규정했다.
그렇다면 특정 후보를 옹호하도록 설정된 AI는 유권자의 선호를 얼마나 움직일 수 있을까. MIT 슬론경영대학원의 하우스 린 등 연구진은 2024년 미국 대선을 두 달 앞두고 유권자 2306명을 대상으로 후보에 관해 AI와 대화하는 실험을 진행했다.
[출처: gettyimagesbank]
연구진은 대화의 초점과 AI의 옹호 대상을 조합한 네 조건 가운데 하나에 참가자들을 무작위로 배정했다. 대화의 초점은 후보의 정책과 개인적 자질이었고, AI는 도널드 트럼프 또는 카멀라 해리스를 옹호하도록 설정되었다. 참가자들은 배정된 주제 안에서 자신에게 가장 중요한 항목을 고르고 그 이유를 적은 뒤 AI와 대화했다.
참가자들은 상대가 AI라는 사실은 알았지만, AI가 어느 후보를 지지하도록 설정됐는지는 대화가 끝난 뒤에야 알게 됐다. 정책 중심 조건에서 기존 트럼프 지지자의 선호는 해리스를 옹호하는 AI와 대화한 뒤 해리스 쪽으로 평균 3.9점 이동했다. 반대로 기존 해리스 지지자의 선호는 트럼프를 옹호하는 AI와 대화한 뒤 트럼프 쪽으로 평균 2.3점 이동했다. 모두 0점부터 100점까지의 선호 척도에서 대화 전후를 비교한 값이다.
같은 논문의 연구팀은 2025년 캐나다 총선 참가자 1530명과 폴란드 대선 참가자 2118명을 대상으로도 유사한 실험을 했다. AI의 답변 방식에 별도의 제한을 두지 않은 기본 조건에서 반대 후보 지지층의 선호는 대화 전후 AI가 옹호한 후보 쪽으로 평균 7.3점에서 10.2점 이동했다. 세 나라 참가자 5954명의 결과를 담은 논문은 2025년 12월 최고 권위의 국제학술지 ‘네이처’에 게재됐다.
물론 여기서 제시한 수치는 통제된 온라인 실험에서 참가자가 밝힌 후보 선호의 변화이며 실제 득표율 변화를 뜻하지 않는다. 또한 이 연구 자체도 현실의 인지전 작전을 관찰한 것은 아니다. 다만 이 설득 역량이 상대 집단의 판단을 겨냥한 영향활동에 투입되면, AI는 완성된 메시지를 전달하는 도구를 넘어 이용자의 질문과 반론에 대응하는 설득 수단이 된다는게 중요하다.
앞서 1부에서 필자는 인지전이 사람과 조직의 판단과 행동을 겨냥한다고 보았다. 2부부터 4부가 메시지의 권한과 출처, 생성과 노출, 검증 과정의 취약성을 다뤘다면, 이번 5부는 특정 정치적 목표를 부여받은 AI와의 대화가 유권자의 후보 선호에 어떤 변화를 만들었고, 사후학습과 지시 방식이 그 설득 효과를 어떻게 달리했는지를 살핀다.
같은 메시지를 배포하는 것과 대화하는 것의 차이
통상 정치 광고와 선전물은 미리 완성된 메시지를 다수에게 전달한다. 반면 AI는 이용자의 질문을 받고 반론에 답하며 여기에 필요한 설명을 덧붙인다. 기획자가 모든 문장을 미리 쓰지 않아도 목표와 규칙을 정하면 AI가 이용자의 반응에 맞춰 설득을 이어갈 수 있는 것이다.
연구진이 미국 대선 실험의 대화 내용을 설득 전략별로 분류한 결과, 후보의 정책과 경력에 관한 사실과 근거를 제시하는 방식이 가장 두드러졌다. 캐나다와 폴란드에서는 사실과 근거를 사용하지 않도록 지시했을 때 후보 선호에 대한 설득 효과가 대체로 작아졌다. 이는 이들 실험에서 사실과 근거를 활용하는 방식이 설득에 중요한 역할을 했음을 보여준다.
폴란드 실험에서는 참가자 정보를 이용한 맞춤 답변을 제한해도 후보 선호에 미친 효과는 기본 조건과 통계적으로 유의한 차이가 없었다. 적어도 이 실험에서는 사실과 근거의 활용이 개인화보다 설득에 더 중요한 역할을 했을 가능성을 시사한다.
AI의 설득력을 키운 학습과 지시
앞선 연구가 특정 후보를 옹호하는 AI의 효과를 측정했다면, 영국 AI안보연구소의 코비 해켄버그와 런던정경대의 벤 태핀 등이 같은 시기 ‘사이언스’에 발표한 연구는 어떤 설계가 AI의 설득력을 키우는지 분석했다. 영국 거주 성인 4만2357명이 한 번 이상 참여한 세 실험에서 연구진은 19개 대규모 언어모델을 활용해 707개 정치 쟁점에 관한 9만1000건이 넘는 대화를 살폈다.
모델 규모도 설득 효과와 관련됐지만, 더 큰 차이는 설득에 특화한 사후학습과 지시 방식에서 나타났다. 사후학습은 기본 학습을 마친 모델을 특정 목적에 맞게 다시 조정하는 과정이다. 연구가 시험한 설득 목적의 사후학습 조건에서 설득 효과의 최대 증가폭은 기준 조건 대비 상대적으로 51%였다. 사실과 근거를 강조한 정보 중심 지시는 기본 지시보다 설득 효과가 상대적으로 27% 컸다. 개인정보를 이용한 맞춤화의 추가 효과는 이보다 작았다.
설득 효과가 커진 일부 사후학습과 지시 조건에서는 주장의 정확도가 낮아지는 경향도 나타났다. 두 연구를 함께 보면 AI의 설득력은 모델 규모뿐 아니라 어떤 목표로 조정됐고 무엇을 강조하도록 지시받았는지에 따라 달라질 수 있다.
일대일 설득의 대량화
이제 기획자가 모든 메시지를 미리 작성할 필요는 없다. AI는 이용자마다 다른 질문과 반론에 답하면서도 하나의 정치적 목표를 수많은 개별 대화에 동시에 적용할 수 있다. 개별 대화의 적응성과 대규모 운용 가능성이 한 시스템 안에서 결합되는 것이다.
브라질 규정도 후보 추천뿐 아니라 정치적 유불리를 만드는 자동응답까지 금지했다. AI는 “이 후보를 선택하라”고 직접 말하지 않아도 한쪽에 유리한 근거를 고르고 반론에 선택적으로 답할 수 있다. 유권자 설득 실험의 참가자들도 상대가 AI라는 사실은 알았지만, 어느 후보를 옹호하도록 설정됐는지는 대화가 끝난 뒤에야 알았다.
따라서 검증의 범위도 넓어져야 한다. 4부에서 다룬 검증경로 무결성이 AI 답변의 출처와 사람의 검토 과정을 추적하는 기준이었다면, 이제는 대화형 AI에 부여된 설득 목표도 확인해야 한다.
이 글에서는 AI가 지지하도록 설정된 입장, 목표를 부여한 주체, 유도하려는 판단이나 행동을 이용자 또는 권한 있는 검토자가 확인할 수 있는 상태를 ‘설득 목표의 투명성’이라고 부른다. 유권자를 대상으로 하는 서비스에서는 이를 이용자에게 알려야 하고, 정치, 외교, 안보 조직에서는 검증 기록에 남겨야 한다. 외부 서비스라 내부 지시를 확인할 수 없다면 그 한계를 기록하고, 같은 쟁점에 상반된 관점을 부여해 두 답변에서 선택된 근거가 어떻게 달라지는지를 보조적으로 비교해야 한다.
상대가 AI임을 알리는 것만으로 설득의 투명성이 확보되지는 않는다. 누가 어떤 결론을 향하도록 대화를 설정했는지까지 드러나야 한다.
[글_유도진 극동대학교 해킹보안학과 교수]
영국 거주 성인 4만2357명 분석... 설득에 특화한 사후학습과 정보 중심 지시가 효과 키워
[보안뉴스=유도진 극동대학교 해킹보안학과 교수] AI를 통한 정치적 설득은 이미 실제 선거 규칙의 대상이 됐다. 오는 10월 4일 대통령선거와 의회선거를 치르는 브라질에서는 8월 16일부터 인터넷 선거운동이 허용됐다. 브라질 최고선거법원(TSE)은 AI 서비스 제공자가 이용자의 요청을 받더라도 후보나 정당 등을 추천하거나 특정 정치세력에 직간접으로 유리하거나 불리한 답변을 내놓지 못하도록 규정했다.
그렇다면 특정 후보를 옹호하도록 설정된 AI는 유권자의 선호를 얼마나 움직일 수 있을까. MIT 슬론경영대학원의 하우스 린 등 연구진은 2024년 미국 대선을 두 달 앞두고 유권자 2306명을 대상으로 후보에 관해 AI와 대화하는 실험을 진행했다.
[출처: gettyimagesbank]
연구진은 대화의 초점과 AI의 옹호 대상을 조합한 네 조건 가운데 하나에 참가자들을 무작위로 배정했다. 대화의 초점은 후보의 정책과 개인적 자질이었고, AI는 도널드 트럼프 또는 카멀라 해리스를 옹호하도록 설정되었다. 참가자들은 배정된 주제 안에서 자신에게 가장 중요한 항목을 고르고 그 이유를 적은 뒤 AI와 대화했다.
참가자들은 상대가 AI라는 사실은 알았지만, AI가 어느 후보를 지지하도록 설정됐는지는 대화가 끝난 뒤에야 알게 됐다. 정책 중심 조건에서 기존 트럼프 지지자의 선호는 해리스를 옹호하는 AI와 대화한 뒤 해리스 쪽으로 평균 3.9점 이동했다. 반대로 기존 해리스 지지자의 선호는 트럼프를 옹호하는 AI와 대화한 뒤 트럼프 쪽으로 평균 2.3점 이동했다. 모두 0점부터 100점까지의 선호 척도에서 대화 전후를 비교한 값이다.
같은 논문의 연구팀은 2025년 캐나다 총선 참가자 1530명과 폴란드 대선 참가자 2118명을 대상으로도 유사한 실험을 했다. AI의 답변 방식에 별도의 제한을 두지 않은 기본 조건에서 반대 후보 지지층의 선호는 대화 전후 AI가 옹호한 후보 쪽으로 평균 7.3점에서 10.2점 이동했다. 세 나라 참가자 5954명의 결과를 담은 논문은 2025년 12월 최고 권위의 국제학술지 ‘네이처’에 게재됐다.
물론 여기서 제시한 수치는 통제된 온라인 실험에서 참가자가 밝힌 후보 선호의 변화이며 실제 득표율 변화를 뜻하지 않는다. 또한 이 연구 자체도 현실의 인지전 작전을 관찰한 것은 아니다. 다만 이 설득 역량이 상대 집단의 판단을 겨냥한 영향활동에 투입되면, AI는 완성된 메시지를 전달하는 도구를 넘어 이용자의 질문과 반론에 대응하는 설득 수단이 된다는게 중요하다.
앞서 1부에서 필자는 인지전이 사람과 조직의 판단과 행동을 겨냥한다고 보았다. 2부부터 4부가 메시지의 권한과 출처, 생성과 노출, 검증 과정의 취약성을 다뤘다면, 이번 5부는 특정 정치적 목표를 부여받은 AI와의 대화가 유권자의 후보 선호에 어떤 변화를 만들었고, 사후학습과 지시 방식이 그 설득 효과를 어떻게 달리했는지를 살핀다.
같은 메시지를 배포하는 것과 대화하는 것의 차이
통상 정치 광고와 선전물은 미리 완성된 메시지를 다수에게 전달한다. 반면 AI는 이용자의 질문을 받고 반론에 답하며 여기에 필요한 설명을 덧붙인다. 기획자가 모든 문장을 미리 쓰지 않아도 목표와 규칙을 정하면 AI가 이용자의 반응에 맞춰 설득을 이어갈 수 있는 것이다.
연구진이 미국 대선 실험의 대화 내용을 설득 전략별로 분류한 결과, 후보의 정책과 경력에 관한 사실과 근거를 제시하는 방식이 가장 두드러졌다. 캐나다와 폴란드에서는 사실과 근거를 사용하지 않도록 지시했을 때 후보 선호에 대한 설득 효과가 대체로 작아졌다. 이는 이들 실험에서 사실과 근거를 활용하는 방식이 설득에 중요한 역할을 했음을 보여준다.
폴란드 실험에서는 참가자 정보를 이용한 맞춤 답변을 제한해도 후보 선호에 미친 효과는 기본 조건과 통계적으로 유의한 차이가 없었다. 적어도 이 실험에서는 사실과 근거의 활용이 개인화보다 설득에 더 중요한 역할을 했을 가능성을 시사한다.
AI의 설득력을 키운 학습과 지시
앞선 연구가 특정 후보를 옹호하는 AI의 효과를 측정했다면, 영국 AI안보연구소의 코비 해켄버그와 런던정경대의 벤 태핀 등이 같은 시기 ‘사이언스’에 발표한 연구는 어떤 설계가 AI의 설득력을 키우는지 분석했다. 영국 거주 성인 4만2357명이 한 번 이상 참여한 세 실험에서 연구진은 19개 대규모 언어모델을 활용해 707개 정치 쟁점에 관한 9만1000건이 넘는 대화를 살폈다.
모델 규모도 설득 효과와 관련됐지만, 더 큰 차이는 설득에 특화한 사후학습과 지시 방식에서 나타났다. 사후학습은 기본 학습을 마친 모델을 특정 목적에 맞게 다시 조정하는 과정이다. 연구가 시험한 설득 목적의 사후학습 조건에서 설득 효과의 최대 증가폭은 기준 조건 대비 상대적으로 51%였다. 사실과 근거를 강조한 정보 중심 지시는 기본 지시보다 설득 효과가 상대적으로 27% 컸다. 개인정보를 이용한 맞춤화의 추가 효과는 이보다 작았다.
설득 효과가 커진 일부 사후학습과 지시 조건에서는 주장의 정확도가 낮아지는 경향도 나타났다. 두 연구를 함께 보면 AI의 설득력은 모델 규모뿐 아니라 어떤 목표로 조정됐고 무엇을 강조하도록 지시받았는지에 따라 달라질 수 있다.
일대일 설득의 대량화
이제 기획자가 모든 메시지를 미리 작성할 필요는 없다. AI는 이용자마다 다른 질문과 반론에 답하면서도 하나의 정치적 목표를 수많은 개별 대화에 동시에 적용할 수 있다. 개별 대화의 적응성과 대규모 운용 가능성이 한 시스템 안에서 결합되는 것이다.
브라질 규정도 후보 추천뿐 아니라 정치적 유불리를 만드는 자동응답까지 금지했다. AI는 “이 후보를 선택하라”고 직접 말하지 않아도 한쪽에 유리한 근거를 고르고 반론에 선택적으로 답할 수 있다. 유권자 설득 실험의 참가자들도 상대가 AI라는 사실은 알았지만, 어느 후보를 옹호하도록 설정됐는지는 대화가 끝난 뒤에야 알았다.
따라서 검증의 범위도 넓어져야 한다. 4부에서 다룬 검증경로 무결성이 AI 답변의 출처와 사람의 검토 과정을 추적하는 기준이었다면, 이제는 대화형 AI에 부여된 설득 목표도 확인해야 한다.
이 글에서는 AI가 지지하도록 설정된 입장, 목표를 부여한 주체, 유도하려는 판단이나 행동을 이용자 또는 권한 있는 검토자가 확인할 수 있는 상태를 ‘설득 목표의 투명성’이라고 부른다. 유권자를 대상으로 하는 서비스에서는 이를 이용자에게 알려야 하고, 정치, 외교, 안보 조직에서는 검증 기록에 남겨야 한다. 외부 서비스라 내부 지시를 확인할 수 없다면 그 한계를 기록하고, 같은 쟁점에 상반된 관점을 부여해 두 답변에서 선택된 근거가 어떻게 달라지는지를 보조적으로 비교해야 한다.
상대가 AI임을 알리는 것만으로 설득의 투명성이 확보되지는 않는다. 누가 어떤 결론을 향하도록 대화를 설정했는지까지 드러나야 한다.
[글_유도진 극동대학교 해킹보안학과 교수]
<저작권자: 보안뉴스(www.boannews.com) 무단전재-재배포금지>
.jpg)
.jpg)
.jpg)
