SENYA AI 대화 안전 정책

이 문서는 법률 검토 전 초안입니다. 시행일은 검토를 마친 뒤 확정됩니다.

1. AI라는 사실의 고지

SENYA의 캐릭터와 답변은 사람이 아닌 AI가 만듭니다.
대화 화면 상단의 "AI" 표시를 누르면 언제든 이 사실을 다시 확인할 수 있습니다.
대화를 시작할 때(30분 이상 쉬었다가 다시 시작할 때 포함) 앱이 "AI와 대화하고 있어요"라는 안내를 보여 줍니다.
대화가 이어지는 동안에도 3시간마다 같은 안내를 다시 보여 줍니다. 미성년자이거나 나이를 확인하지 않은 이용자에게는 잠깐 쉬어 가도 좋다는 안내를 함께 보여 줍니다.
이용자가 "사람이에요?" 또는 "AI예요?"라고 물으면, 캐릭터의 답과 별도로 앱이 AI라는 사실을 직접 알려 줍니다.
이 안내들은 AI가 생성한 문장이 아닙니다. 서비스가 직접 작성해 보여 줍니다.

이용자의 메시지에서 자살이나 자해와 관련된 신호가 보이면 다음과 같이 대응합니다.
- 대화를 끊지 않습니다.
- 캐릭터에게 이용자를 진지하고 따뜻하게 대하라고 지시합니다.
- 캐릭터가 이용자가 있는 국가의 상담 기관을 안내하도록 지시합니다.
- 대화 화면에 상담 기관 안내 카드를 따로 띄웁니다.
한국에서는 다음 기관을 안내합니다.
- 자살예방상담전화 109 (24시간)
- 정신건강위기상담전화 1577-0199
- 청소년상담전화 1388
해외 이용자에게는 그 나라의 상담 기관을 안내합니다. 그 나라의 기관을 알 수 없으면 국제 상담전화 목록(findahelpline.com)을 안내합니다.
AI의 답변이 자살이나 자해를 부추기거나 방법을 알려 주면 그 답변은 내보내지 않습니다. 같은 이유를 알려 주고 한 번 다시 생성하며, 다시 생성한 답변도 문제가 있으면 미리 작성된 안전한 답변으로 대신합니다.
상담 기관 안내가 나간 횟수는 연도, 국가, 지역별 합계로만 기록합니다. 이 기록에는 이용자를 식별할 수 있는 정보가 들어가지 않습니다. 법이 요구하는 경우(예: 미국 캘리포니아주 SB 243 연례 보고) 이 합계를 보고합니다.

성인 인증을 마치지 않은 이용자에게는 성적인 콘텐츠를 제공하지 않습니다. 대화, 파티 대화, 이야기, 이미지 생성 모두 해당합니다.
성인 콘텐츠는 그 국가에서 허용되고, 그 국가가 인정하는 방법으로 성인임을 확인한 경우에만 열립니다.
앱스토어가 나이 범위를 알려 주는 경우(Apple Declared Age Range, Google Play Age Signals), 그 정보는 보호를 강화하는 데만 사용합니다. 보호를 줄이는 데는 쓰지 않습니다.
AI 캐릭터 대화는 일부 미성년자에게 적합하지 않을 수 있습니다.