소셜미디어 플랫폼들의 AI 딥페이크 사기 콘텐츠 삭제 요청 무시로 온라인 안전법 2025 조기 시행 검토
말레이시아 통신멀티미디어부 장관 파흐미 파질(Fahmi Fadzil)이 일부 소셜미디어 플랫폼들이 AI 기반 사기 콘텐츠 삭제 명령을 무시하고 있다고 강력 비판하며, 온라인 안전법 2025(Online Safety Act 2025) 조기 시행을 통한 강력한 규제 의지를 밝혔다. 이번 조치는 국왕과 총리까지 AI 딥페이크 투자 사기의 피해자가 되는 등 AI 악용 범죄가 심각한 사회문제로 대두되면서 나온 것으로, 아시아 지역 AI 콘텐츠 규제 정책의 새로운 기준점이 될 전망이다.
규제 영향 및 변화 요구사항
말레이시아 통신멀티미디어위원회(MCMC)가 올해 1월부터 8월까지 제출한 AI 기반 사기 콘텐츠 삭제 요청 1,602건 중 실제 삭제된 것은 1,346건으로, 84%의 준수율에 그쳤다고 발표했다. 이는 16%에 해당하는 256건의 AI 사기 콘텐츠가 여전히 온라인상에 남아있음을 의미한다. 특히 국가 최고 지도층인 국왕과 총리를 사칭한 딥페이크 투자 사기까지 등장하면서 기존 자율 규제의 한계가 명확히 드러났다. 정부는 이에 대응해 온라인 안전법 2025를 올해 말 또는 2026년 초 조기 시행하기로 결정했으며, 모든 소셜미디어와 온라인 메시징 플랫폼에 AI 콘텐츠 라벨링 의무를 부과할 계획이다.
컴플라이언스 요건 및 준수사항
새로 시행되는 온라인 안전법 2025에 따라 모든 플랫폼 사업자들은 AI로 생성되거나 강화된 이미지 및 콘텐츠에 ‘AI 생성(AI generated)’ 또는 ‘AI 강화(AI enhanced)’ 등의 명확한 라벨을 표시해야 한다. 또한 서비스 제공업체들은 법률 준수 증명을 위해 온라인 안전 계획서를 의무적으로 제출해야 하며, MCMC는 AI 활용 애플리케이션에 대한 라이선스 요구사항 도입도 검토 중이다. 이러한 컴플라이언스 요건은 플랫폼의 규모나 사용자 수와 관계없이 말레이시아에서 서비스를 제공하는 모든 온라인 플랫폼에 적용되며, 위반 시 서비스 차단이나 벌금 등의 강력한 제재조치가 예상된다.
업계 대응 및 반응
글로벌 소셜미디어 플랫폼들은 지금까지 AI 콘텐츠 안전 문제에 대해 소극적 대응을 보여왔으나, 말레이시아의 강력한 규제 의지 표명으로 대응 전략 재검토에 나설 것으로 예상된다. 특히 84%의 준수율이 여전히 부족하다는 정부의 판단은 플랫폼들의 자체 AI 콘텐츠 탐지 및 삭제 시스템 강화를 요구하고 있다. 정부는 디지털 범죄 대응 효율성 향상을 위해 경찰 주도로 통신부, 내무부, 말레이시아 중앙은행, MCMC가 공동 참여하는 국가 사기 대응센터(NSRC)를 설립해 신속 대응 체계를 구축했다.
국제 동향 및 글로벌 표준화
말레이시아의 AI 콘텐츠 라벨링 의무화 정책은 EU의 AI Act, 중국의 딥페이크 규제법과 함께 아시아 지역 AI 규제 강화 흐름을 이끌고 있다. 특히 동남아시아 국가들 중 AI 콘텐츠에 대한 구체적 규제 법안을 마련한 첫 번째 사례로, 인도네시아, 태국, 베트남 등 인근국들의 유사 정책 도입에도 영향을 미칠 전망이다. 글로벌 플랫폼들은 각국의 서로 다른 AI 콘텐츠 규제 정책에 동시 대응해야 하는 복잡성이 증가하고 있으며, 국제적 표준화 논의의 필요성이 더욱 높아지고 있다.
