[사회] AI 활용 이미지/콘텐츠에 AI생성 워터마크가 붙는다?!

오늘 소식

 
요즘 AI를 활용한 이미지, 광고 영상이 우후죽순 생겨나고 있죠. AI 산업이 발전하는건 좋지만, AI의 무분별한 사용을 제한하기위해서는 AI로 생성된 이미지나 영상은 이를 알려주는 워터마크를 붙이는게 좋다는 의견이 점차 많아진 것 같아요.

때문에 정부에서도 AI가 생성한 콘텐츠에는 워터마크가 추가되는 방안을 업계와 논의하며 검토중에 있다고 하네요.

 

AI로 생성한 이미지,
영상에 워터마크가 붙는다?!

앞서 언급한대로 AI 기술이 날로 발전하면서 벌써 AI를 활용한 각종 콘텐츠가 여기저기 쏟아지고 있는 추세에요. AI를 활용한 컨텐츠의 장점도 많지만 간혹 딥페이크 기술 등 부정적인 결과를 초래하는 경우도 생길수 있어 소비자, 대중으로 하여금 적어도 어떠한 콘텐츠가 AI 생성 콘텐츠인지는 알게 하려는 움직임이 시작되는 것 같네요.

AI 생성물임을 정당하게 밝히고 널리 활용하도록 되려 지침을 주는 것이 AI 산업 발전에 더 긍정적일 수 있다는 의견도 업계내 들리는 것 같고요.

이에 대한 방법으로 오픈 AI와 구글 등 빅테크 기업에서는 AI가 생성한 음성이나 이미지, 영상 등에 AI가 만든것이라는 표시 즉, 워터마크를 표시하겠다고 밝혔습니다.
마찬가지로 우리 정부에서도 관련 업계와 AI 표시 워터마크를 붙이는 방안을 추진중에 있다고 하네요!

과학기술정보통신부는 AI가 생성한 콘텐츠를 워터마크 처리로 구별하도록 하는 방향을 정하고 기술적인 방식에 대해 업계와 구체적인 검토를 진행중이라고 합니다.

일부 여론에서는 워터마크를 넣은 시도가 어쩌면 AI 산업을 위축시킬 수 있다는 우려도 있었지만 결과적으로 AI 생성물임을 밝히고 널리 활용하는 것이 되려 AI 산업 발전에 더 긍정적인 효과를 불러일으킬 수도 있다고 합니다.

AI 이미지, 영상에
AI 생성물 워터마크가 표시되는 방법은?

우선 가장 먼저 언급되고 있는 방법으로는 영상과 이미지 속 혹은 텍스트의 시작과 끝 지점에 'AI 생성물'이라고 표기되는 방식이 언급되고 있다고 합니다. 다만 아직까지는 콘텐츠의 제작자가 AI 생성물이라는 워터마크를 직접 의도적으로 달지 않는 경우에는 AI 생성물을 걸러내기가 어렵다는 한계, 지적이 있다고도 하네요.

이때문에 맨 눈으로 인식되는 워터마크를 대신해 기계가 직접 AI 생성물임을 자동으로 알아차리는 '비시각적 워터마크'를 넣는 방안이 국내외에서 연구되고 있다고 합니다.  말하자면 AI 학습용 데이터 묶음 (데이터세트)에 워터마크 처리를 하면 거대언어모델(LLM)등을 거쳤을때 AI가 만든 콘텐츠임을 기계적으로 식별하는 기술이라고 해요!