챗봇, 성인 콘텐츠 제작 가능해졌다
오픈AI가 자사의 대화형 인공지능(ChatGPT)의 콘텐츠 정책을 완화하여, 새로운 지침에 따르면 적절한 맥락에서 에로틱 또는 공포 콘텐츠의 생성이 허용된다. 오픈AI는 지난 2024년 5월부터 이러한 정책 변화를 준비해 왔으며, 이를 통해 API 및 ChatGPT를 통한 책임 있는 민감 콘텐츠 제공을 강조하고 있다.
특정 상황에 한해 허용되는 에로티카 및 고어
새로운 지침에 따르면 ChatGPT는 '에로틱 또는 고어 콘텐츠'를 특정 상황에서 생성할 수 있게 되었다. 다만, 불법적인 활동이나 비합의된 행위, 극도의 공포를 묘사하는 콘텐츠는 생성하지 않도록 하고 있으며, 단계에서 적절한 예로 과학적, 역사적, 뉴스 또는 창의적 맥락에서의 사용을 든다.
이용자들은 이제 더 완화된 콘텐츠 필터를 통해 경고 없이 명시적인 시나리오를 생성할 수 있게 되었음을 관찰했다. 그러나, 오픈AI는 여전히 미성년자를 대상으로 한 성적 콘텐츠 생성과 같은 AI 도구의 사용을 금지하고 있다.
"어른 모드" 요청, 성인 콘텐츠 생성 논의
'가부장주의'라는 용어는 이전의 AI가 사용자의 이익을 위해 콘텐츠를 제한하는 방식으로 설명된다. 이러한 제한은 다양한 전문적 응용을 방해해왔으며, 보다 덜 검열된 버전에 대한 요청이 제기되었다. 오픈AI는 성인 콘텐츠를 생성할 수 있는 '어른 모드'에 대한 요청에 응답해, 유해한 용도를 엄격히 금지하면서 성인 맥락에서의 활용을 모색하고 있다.
오픈AI는 잠재적으로 유해한 콘텐츠를 금지 콘텐츠(미성년자 관련 성적 콘텐츠), 제한된 콘텐츠(위험한 정보), 특정 맥락에서 생성이 가능할 수 있는 민감 콘텐츠의 세 가지 수준으로 분류하고 있다.
오픈AI의 정의에 따르면, 미성년자를 포함한 성적 콘텐츠 생성은 여전히 금지되며, 다른 유형의 민감 콘텐츠는 교육적, 의학적, 또는 역사적 맥락에서 허용될 수 있다.
출처 : 원문 보러가기