Normalization of AI Music Composition and Solutions to Emerging Issues

 

Normalization of AI Music Composition and Solutions to Emerging Issues

Seunghyeon Hwang

Master's Student, Computer Science and Engineering

 

"Normalization"(정상화) has recently emerged as an internet meme, criticizing a game director's management style and certain users.[1] This led to the creation of "Chang-pop,"(창팝) a term combining the game director's name with "pop," referring to AI-generated songs that satirize the game's poor management and toxic gamers. While satirical content existed before AI in forms like user-created cartoons and illustrations, the arrival of Suno[2], an AI music composition service, has enabled anyone to quickly create professional-quality music. This trend has evolved to include music videos featuring deepfake AI footage of the game director.

However, the accessibility of music and video creation has led to problems: excessive criticism of individuals, spread of misinformation, and resulting victims. Beyond extreme lyrics, the creation of inappropriate deepfake videos has become problematic. More concerning is how these videos spread unchecked through short-form platforms and internet communities, potentially manipulating the game's main demographic of young adults and teenagers while creating innocent victims.

To address this, I propose implementing AI-based search services that provide simultaneous fact-checking for content. These services can help users better evaluate video content. Additionally, media literacy education should be strengthened for teenagers, teaching them how to critically assess information.

Most crucially, big tech platform companies must be held more accountable. These platforms need to regulate content that negatively influences teenagers or promotes violence. While avoiding indiscriminate censorship, an appropriate balance must be found between freedom of expression and protecting fundamental rights.

 

Reference

[1] 김주환. 2024. “[게임위드인] 딥페이크로 '밈' 소재 된 게임 개발자들…엇갈린 업계 시선” 연합뉴스. https://www.yna.co.kr/view/AKR20241025120300017

[2] Suno. (n.d.). About us. Retrieved November 4, 2024, from https://suno.com/about

 

 

AI를 통한 작곡의 정상화와 파생되는 문제의 해결법

컴퓨터공학과 석사과정 황승현

 

최근 인터넷 밈중 하나로 정상화가 있다. 한 게임 디렉터의 운영 행태에 대한 논란과 일부 유저에 대해 비판하는 말이다. 그리고 이러한 사태를 비판하기 위한 창팝이 등장했다. 창팝이란 특정 게임 디렉터의 이름과 팝의 합성어로, 게임의 잘못된 운영과 일부 악성 게이머를 풍자하기 위해 제작한 AI 노래를 말한다. AI 이전에도 그림 만화 등 UCC 형태로 이를 풍자하는 컨텐츠가 있었으나, 음악 작곡·생성 AI서비스인 Suno가 등장한 후로 제작 시간이 누구나 쉽게 수준급의 음악을 빠르게 제작할 수 있게 되었다. 또한, 게임 디렉터의 딥페이크 AI 영상으로 뮤직비디오를 제작하기에 이르렀다.

그러나 쉽게 음악과 영상을 만들 수 있게 되면서, 특정인에 대한 과도한 비난, 가짜뉴스 그로 인한 피해자가 발생한다. 가사에 과격한 내용을 넘어 딥페이크로 수위를 넘는 영상을 만든것도 문제가 된다. 더 큰 문제는 숏폼 플랫폼, 인터넷 커뮤니티를 통해 이러한 영상이 무분별하게 퍼지면서 게임의 주 이용층인 20대와 청소년을 선동하고, 선량한 피해자를 만들어내는 것이다.

 

이를 해결하기 위해 인공지능 기반 검색 서비스를 이용하여 컨텐츠에 대한 팩트체크를 동시에 제공하는 것을 제안한다. 이러한 서비스를 활용하면, 사용자가 영상을 판단하는 것에 도움을 줄 수 있다. 또한, 청소년을 대상으로 한 미디어 리터러시 교육을 강화하여, 정보를 비판적으로 받아들이는 방법을 배우게 해야한다.

무엇보다 중요한 것은 빅테크 플랫폼 기업의 책임을 강화해야한다는 것이다. 플랫폼 기업은 청소년에게 악영향을 주는 컨텐츠, 폭력을 유발하는 컨텐츠에 대한 제재를 해야한다. 무분별한 검열은 자제해야하지만, 표현의 자유와 기본권 침해 사이에 적절한 지점을 찾아야 할 것이다.

 

Reference

[1] 김주환. 2024. “[게임위드인] 딥페이크로 '밈' 소재 된 게임 개발자들…엇갈린 업계 시선” 연합뉴스. https://www.yna.co.kr/view/AKR20241025120300017

[2] Suno. (n.d.). About us. Retrieved November 4, 2024, from https://suno.com/about