프로젝트 시작
작품Faceless Reels블로그자료소개문의

블로그/실패와 해결

Higgsfield가 평범한 고양이 프롬프트를 거부했습니다

회색 배경의 고양이 프롬프트가 무해한 단어 2개 때문에 Higgsfield에서 거부됐습니다. 표현을 고치고 생성 전 전체를 점검하도록 바꾼 과정입니다.

글 Jeff Zambrano··읽는 시간 4분

Higgsfield가 평범한 고양이 프롬프트를 거부했습니다

Higgsfield가 회색 배경 앞에 앉은 검은 고양이를 묘사한 프롬프트를 거부했습니다.

요청에는 검수에서 문제 삼을 만한 것이 없었습니다. 무지 배경 앞의 고양이일 뿐이었습니다. 그런데 실행한 뒤에야 거부 응답이 왔습니다. 이 문구가 통과하지 못한다는 사실을 알았을 때는 이미 한 번의 시도와 시간을 날린 뒤였습니다.

원인은 다음 문구에 들어 있는 단어 2개였습니다:

an adult black domestic cat

사람에게는 무해하고 충분히 정확한 표현입니다. 하지만 플랫폼 분류기는 adult를 성인 콘텐츠의 표지로, domestic을 가정 폭력의 표지로 받아들였습니다.

주변 문맥은 어느 단어도 구해주지 못했습니다. 둘 다 동물을 설명한다는 사실은 중요하지 않았습니다. 필터는 단어 검색처럼 작동했습니다. 문구의 의미를 해석하지 않은 채 감지 대상 단어가 있다는 것만 포착했습니다.

어차피 두 단어 모두 시각적으로 유용한 역할을 하지 않았습니다. 고양이의 나이는 구도를 바꾸지 않았고, house cat으로도 domestic에서 필요한 의미를 그 단어 없이 전달할 수 있었습니다.

부정형이 문제를 더 키웠습니다

고양이 프롬프트를 통해 같은 파일 묶음에 있는 더 큰 문제가 드러났습니다.

주인공용 프롬프트 7개에 다음 문구가 들어 있었습니다:

clearly an adult woman in her late teens, not a child

저는 안전을 위한 지시로 썼습니다. 영화제 규정상 캐릭터가 성인으로 보여야 했기에 그 요건을 최대한 명확하게 적으려 했습니다.

결과는 정반대였습니다.

한 프롬프트 안에 adult, teens, child가 함께 들어갔습니다. 분류기가 특정 단어를 찾는 방식이라면 not a child라고 써도 child라는 단어를 제공하는 셈입니다. not은 뒤에 오는 단어를 지우지 않습니다.

그것이 함정입니다. 사람은 단어 사이의 관계를 이해합니다. 단어 기반 필터는 3개가 모두 등장했다는 사실만 볼 수 있습니다.

원하지 않는 해석을 더 강하게 부정하려다 거부 가능성을 높일 수 있습니다. 안심시키려는 표현이 늘수록 감지 대상 어휘도 늘어납니다.

눈에 보이는 근거를 중심으로 다시 썼습니다

해결책은 캐릭터가 미성년자가 아니라는 말을 더 강하게 하는 것이 아니었습니다.

부정형을 관찰 가능한 특징의 긍정형 묘사로 바꿨습니다.

adult, teens, not a child 대신 정확한 나이를 숫자로 쓰고 성숙한 얼굴 골격을 묘사했습니다. 직접적인 대체 표현은 a 19-year-old woman이었습니다.

이 표현은 두 가지 역할을 합니다. 감지 대상인 포괄적인 단어 없이 나이를 명시하고, 이미지 모델이 활용할 수 있는 시각적 정보를 줍니다.

다른 감지 대상 어휘에도 같은 접근이 통했습니다.

adult나 adults는 묘사 대상에 따라 숫자로 쓴 나이, full-grown, grown으로 바꿨습니다.

domestic은 house나 household로 바꿨습니다.

blood, dead, corpse, gore는 화면에 보이는 결과를 묘사하도록 고쳤습니다. 기록해 둔 예시는 flat pure-red shapes와 fallen figure였습니다.

무해한 관용 표현도 살펴봐야 했습니다. dead calm은 perfectly still로, dead-on은 straight-on으로 바꿨습니다.

kill, stab, strangle 같은 행동은 행위의 이름 대신 그 결과를 프롬프트에 묘사했습니다.

nude, naked, erotic은 실제로 입고 있는 옷을 묘사하도록 바꿨습니다.

패턴은 같았습니다. 이미지에 무엇이 있어야 하는지 묘사합니다. 무엇이 없어야 하는지를 전달하려고 금지 단어와 부정형의 조합에 기대지 않습니다.

점검은 실행 전에 해야 했습니다

거부된 고양이 프롬프트만 고쳐서는 부족했습니다. 같은 작성 습관이 다른 곳에도 남아 있었습니다.

프로젝트의 프롬프트 파일 4개를 모두 검토했습니다. 프롬프트 14개를 수정해야 했습니다. 점검을 마친 뒤 감지 대상 단어는 0개였습니다.

그다음 점검 시점을 앞당겼습니다.

이제 워크플로가 잔여 크레딧을 확인하기도 전에 매니페스트의 모든 프롬프트를 검토합니다. 감지 대상 단어가 발견되면 그 단어를 알리고, 왜 필터에 걸릴 수 있는지 설명하고, 같은 뜻을 그 단어 없이 표현하는 방법을 제안한 뒤, 아무것도 생성하기 전에 멈춥니다.

순서가 중요합니다.

제출 후 경고는 낭비된 시도를 설명할 수 있습니다. 제출 전 경고는 낭비를 막습니다.

이렇게 하면 규칙을 제 기억에만 맡기지 않아도 됩니다. 프롬프트를 쓸 때마다 위험한 단어를 전부 기억할 필요가 없습니다. 실행 전 검토가 매번 전체 매니페스트에 같은 검사를 적용합니다.

전체 매니페스트 점검이 중요한 이유는 고양이가 겉으로 드러난 실패일 뿐이기 때문입니다. 주인공 프롬프트 7개는 좋은 의도로 작성했지만, 안전을 위한 문구 하나에 감지 대상 단어 3개가 들어 있었습니다. 범위를 넓혀 검색하지 않았다면 고양이만 고치고 더 큰 패턴은 그대로 뒀을 수 있습니다.

읽기 좋은 문장도 플랫폼에는 나쁜 프롬프트일 수 있습니다

저는 검수에 걸릴 만한 표현을 일반적인 글의 기준으로 평가하곤 했습니다. 문장이 제 의도를 명확하게 설명하는가? 상식적인 독자라면 장면이 무해하다는 것을 이해하는가?

그 질문들만으로는 부족했습니다.

거부된 고양이 프롬프트는 자연스러운 영어였습니다. 주인공이 아이가 아니라고 설명한 문장도 마찬가지였습니다. 둘 다 더 기초적인 단계에서 실패했습니다. 사용한 어휘 안에 분류기가 감지하는 단어가 있었기 때문입니다.

이제는 두 가지 검사를 분리합니다.

첫째, 프롬프트가 의도한 이미지를 명확하게 묘사하는가?

둘째, 일상적인 의미를 전달하려면 문맥이나 부정형이 필요한 감지 대상 단어가 들어 있는가?

프롬프트는 두 검사를 모두 통과해야 합니다.

지금 제가 적용하는 원칙은 명확합니다. 긍정형으로 관찰 가능한 것을 써서 이미지를 묘사한 다음, 무엇이든 실행하기 전에 프롬프트 전체를 검색합니다.

오늘 프롬프트 파일에서 adult, domestic, teen, child, blood, dead, corpse, gore, kill, stab, strangle, nude, naked, erotic을 검색해 보세요. 검색되는 각 단어를 화면에 실제로 담고 싶은 나이, 옷, 물리적인 결과, 눈에 보이는 상태로 바꿔보세요.


이 글의 해결책은 모두 제가 먼저 실수의 대가를 치르고 얻은 것입니다. 여러분의 브랜드보다 제 영화에서 겪는 편이 낫습니다.

공유XLinkedInWhatsApp
Jeff Zambrano

Jeff Zambrano는 Madrid를 기반으로 활동하는 AI 영화감독이다. 데뷔작 Borrowed Wounds는 Higgsfield Global Film Festival에서 6,700편 중 Top 50에 선정됐다. 그는 자신의 제작 경험을 바탕으로 이 기록을 쓴다.

곧 오픈 · 얼리 액세스 진행 중

AI로 작업하는 감독을 위한 영화 랩

카메라가 돌기 전에 촬영팀이 하는 일을 해 주는 여섯 개의 부서. 이미지를 생성하는 사람을 위해 만들었습니다. 곧 오픈합니다.

WhatsApp