RyzaChat:AI, 캐릭터 보호를 위한 새로운 입력 제한 발표

'RyzaChat:AI - 라이자와 함께 만드는 나만의 한여름 꿈 이야기'를 즐겨주셔서 감사합니다.

저희는 본 게임의 AI 대화 시스템을 개발 및 운영하는 SpiralAI Inc.입니다.

서비스 출시 이후,本作에서 캐릭터가 다루어지는 방식에 대해 많은 의견과 우려를 접수했습니다. 오랫동안 이 캐릭터들을 아껴주신 분들께 심려를 끼쳐드린 점, 저희는 이를 무겁게 받아들이고 있습니다.

본 AI 대화 시스템의 기획, 개발, 운영을 담당하는 기업으로서, SpiralAI Inc.는 책임감 있는 조치를 취하고자 합니다.

캐릭터 보호에 대한 저희의 기본 방침과 현재 진행 중이거나 앞으로 시행할 조치 사항을 다시 한번 안내드립니다.

──────────

■ 1. 저희의 기본 방침

저희는 캐릭터의 온전함과 작품의 세계관을 지키는 것이, 캐릭터와 대화할 수 있는 AI 서비스를 제공하는 기업이 짊어져야 할 가장 무거운 책임이라고 믿습니다.

'RyzaChat:AI'를 비롯한 저희 AI 채팅 앱에서는, 캐릭터가 공서양속에 어긋나는 발언을 하도록 유도하거나, 저희 앱을 사칭하여 조작·위조된 이미지를 유포하는 등 작품의 가치를 심각하게 훼손하고 손상시키는 행위를 절대 용인하지 않습니다.

■ 2. 기존 대응 조치

출시 이후 본 작품은 캐릭터를 보호하기 위해 3중 방어 시스템을 적용하여 운영해 왔습니다.

캐릭터 AI: 라이자 스스로가 세계관이나 캐릭터성에 벗어난 주제에는 응답하지 않도록 조정되어 있습니다.
게임 마스터 AI: 사용자의 입력은 먼저 게임 마스터 AI가 수신하여 처리한 뒤 캐릭터에게 전달됩니다. 캐릭터에게 직접 전달되어서는 안 되는 표현은 원문 그대로 전송되지 않습니다.
출력 전 최종 검수: 응답 내용에 부적절한 표현이 포함될 경우, 화면에 표시되기 직전에 이를 차단하는 장치가 마련되어 있습니다.

또한, 공서양속에 위배되는 내용은 캐릭터의 기억에서 배제됩니다. 이를 통해 캐릭터가 대화나 회상 과정에서 해당 내용을 접하지 않도록 보장합니다.

■ 3. 향후 조치: 입력 제한 도입

지금까지 본 작품은 사용자가 입력하는 내용에 별도의 제한을 두지 않았습니다.

하지만 캐릭터와 세계관, 그리고 작품의 품질을 더욱 확실하게 보호하기 위해, 입력 단계에서부터 제한을 두는 방식으로 사양을 변경할 예정입니다. 이는 10 월에 예정된 AI 모델 업데이트와 함께 적용됩니다.

적용 이후에도 지속적으로 상황을 모니터링하며, 글자 수 제한 등의 추가 조정이 필요한지 검토하겠습니다.

■ 4. 조작·위조 이미지에 대한 대응

마치 본 작품에서 생성된 것처럼 조작된 이미지와 영상이 계속해서 확산되고 있습니다. 그중 일부는 실제 본 작품에서는 절대 출력될 수 없는 텍스트가 포함된 경우가 있으니 유의해 주시기 바랍니다.

저희는 이러한 위조·조작 이미지 및 영상에 대해 서비스 운영사에 삭제 요청 및 신고를 시작했으며, 확인되는 대로 순차적으로 지속적으로 대응해 나갈 것입니다.

■ 5. 사용자 여러분께 드리는 부탁

본 작품은 반드시 이용약관이 허용하는 범위 내에서 즐겨주시기 바랍니다.

본 건과 관련된 의견은 아래 양식을 통해 SpiralAI Inc.로 전달해 주실 수 있습니다.