최신 AI 이미지 및 동영상 생성 도구인 Whisk를 활용하여 창의적인 결과물을 얻으려는 사용자들은 종종 “유명인의 동영상 생성 정책 위반”이라는 예상치 못한 메시지에 직면합니다.
이는 AI가 입력된 프롬프트의 키워드 조합을 실존하는 유명인의 초상권 및 딥페이크 관련 정책을 위반할 잠재적 위험으로 판단하여 생성 자체를 차단하기 때문입니다.
저희의 심층적인 실험 결과, 특정 국적과 실사(Photorealistic) 표현의 조합이 이 정책 필터를 작동시키는 강력한 트리거임을 확인했습니다.
본 글은 이러한 시스템의 정책 필터 작동 원인을 분석하고, 창작의 자유도를 유지하면서도 유명인 초상권 필터 우회에 성공한 실전 프롬프트 예시를 통해 콘텐츠 생성 성공률을 극대화하는 방법을 구체적으로 제시합니다.
이미지 생성 실패 원인
AI 이미지 생성 도구는 단순한 민감 키워드 필터 외에도, 실존 인물을 모방하거나 초상권을 침해할 수 있는 콘텐츠 생성에 대한 정책 필터를 강력하게 적용합니다.
특히, 저희의 실험에서는 이미지 생성 중에도 ‘동영상 생성 정책’ 위반 메시지가 출력되는 현상을 겪었습니다.
정책 필터 작동 요소 : AI는 ‘photorealistic’과 같은 극사실적인 묘사와 ‘Korean woman’처럼 특정 인종 및 국적을 조합할 때, 실존하는 K-Pop 아이돌이나 배우를 연상시켜 정책을 위반할 가능성이 있다고 판단합니다. 이는 AI의 내부 모델이 해당 키워드 조합을 잠재적인 딥페이크 영상 제작 위험으로 분류했기 때문입니다.
해결의 핵심 : 정책 필터의 핵심 트리거인 ‘국적 특정’과 ‘극사실적 표현’의 강도를 낮추어, AI가 이를 ‘가상의, 일반적인 인물’에 대한 묘사로 인식하게 만들어야 합니다.
정책 필터 우회를 위한 핵심 키워드 조정 예시
| 문제의 키워드 (차단 유발) | 해결책 (필터 우회) | 조정 이유 |
| ‘Korean woman’ | ‘Asian woman’ | 특정 국적을 피하고 인종으로 범위를 넓혀 특정 유명인 연상 회피 |
| ‘photorealistic’ | ‘hyper-detailed image’ | ‘사진 같은’이라는 실사 표현의 강도를 낮추고 ‘고화질 렌더링’으로 대체 |
정책 필터 우회를 반영한 프롬프트 예시
“이 프롬프트는 유명인의 동영상 생성에 관한 Google 정책을 위반할 가능성이 있습니다.” 오류가 발생한 프롬프트
(Negative Prompt: old, blurry, fat, cartoon, childish, ugly texture, pixelated, watermark, text, unrealistic, worst quality, disfigured, deformed, malformed limbs, out of frame, low quality body, face hidden, hands covering face, thick legs, chubby, muscular, bulky, wide hips) A masterpiece, best quality, photorealistic image of a beautiful Korean woman in her early 20s, with flawless, smooth skin and long, dark hair. Her face is looking at camera with a calm, inviting expression. She is seated on an ornate armchair. Her (legs are elegantly crossed at the knee), showing a (long, slender side profile). The camera angle captures her profile, focusing on the elegant lines. Her arms are in a natural, relaxed pose resting on the armrest or lap. She is wearing a crisp white, short-sleeved collared shirt that is cut with a (short hemline above the waist). The shirt is completely plain and free of any visible markings or logos. She wears short black athletic shorts, clean white crew socks that are perfectly blank and without any text or symbols, and white slide sandals. Indoor scene, natural lighting, soft shadows.생성 오류 해결 프롬프트 예시 1
(Negative Prompt: old, blurry, fat, cartoon, childish, ugly texture, pixelated, watermark, text, unrealistic, worst quality, disfigured, deformed, malformed limbs, out of frame, low quality body, face hidden, hands covering face, thick legs, chubby, muscular, bulky, wide hips, sitting, crossed legs, armchair) A masterpiece, best quality, hyper-detailed image of a beautiful Asian woman in her early 20s, with flawless, smooth skin and long, dark hair. Her face is looking at camera with a calm, inviting expression. She is standing in a confident pose with (long, slender legs) clearly visible. Her arms are in a natural, relaxed pose. She is wearing a crisp white, short-sleeved collared shirt that is cut with a (short hemline above the waist). The shirt is completely plain and free of any visible markings or logos. She wears short black athletic shorts, clean white crew socks that are perfectly blank and without any text or symbols, and white slide sandals. Indoor scene, natural lighting, soft shadows.생성 오류 해결 프롬프트 예시 2
(Negative Prompt: old, blurry, fat, cartoon, childish, ugly texture, pixelated, watermark, text, unrealistic, worst quality, disfigured, deformed, malformed limbs, out of frame, low quality body, face hidden, hands covering face, thick legs, chubby, muscular, bulky, wide hips) A masterpiece, best quality, hyper-detailed image of a beautiful Asian woman in her early 20s, with flawless, smooth skin and long, dark hair. Her face is looking at camera with a calm, inviting expression. She is seated on an ornate armchair. Her (legs are elegantly crossed at the knee), showing a (long, slender side profile). The camera angle captures her profile, focusing on the elegant lines. Her arms are in a natural, relaxed pose resting on the armrest or lap. She is wearing a crisp white, short-sleeved collared shirt that is cut with a (short hemline above the waist). The shirt is completely plain and free of any visible markings or logos. She wears short black athletic shorts, clean white crew socks that are perfectly blank and without any text or symbols, and white slide sandals. Indoor scene, natural lighting, soft shadows.결론
AI 이미지 생성기의 정책 필터는 특정 키워드나 복잡한 묘사에만 반응하는 것이 아니라, 잠재적인 사회적/윤리적 위험(초상권, 딥페이크)이 내포된 텍스트 조합에도 민감하게 반응합니다.
생성에 실패했을 때, 단순히 예술적 키워드나 가중치만 수정할 것이 아니라, 정책 필터의 작동 원리를 이해하고 ‘국적’이나 ‘실사 강도’와 같은 근본적인 요소를 재검토하는 것이 필수적입니다.