Cómo responde VerseMine a una crisis

Nuestro protocolo publicado de respuesta a crisis para el asistente de IA

El asistente de IA opcional de VerseMine es una IA, no una persona. Ofrece aliento bíblico y orientación espiritual. No es un pastor, consejero ni terapeuta, y VerseMine no brinda atención médica ni de salud mental.

Si estás en crisis en este momento, no lo dejes en manos de una aplicación: llama o envía un mensaje de texto al 988 — la Línea 988 de Prevención del Suicidio y Crisis (EE. UU.), gratuita y confidencial, las 24 horas, todos los días. Fuera de EE. UU., comunícate con una línea de crisis local en tu país.

Qué hace el asistente cuando una conversación muestra señales de crisis

  • La crisis va primero, antes que todo lo demás. Cada mensaje se revisa en busca de señales de pensamientos suicidas o autolesión antes de aplicar cualquier otra regla. Si un mensaje muestra señales de crisis, el asistente detiene la orientación normal y responde con recursos de crisis, incluso si la cuenta estuviera bloqueada por disponibilidad regional, estado de suscripción, límites diarios o cualquier otra restricción.
  • La respuesta te dirige a ayuda real. El asistente reconoce lo que compartiste, ofrece la Línea de Prevención del Suicidio y Crisis 988 (llamada o mensaje de texto al 988) — o, fuera de EE. UU., te dirige a una línea de crisis local — y pregunta si estás a salvo en este momento. No intenta aconsejarte durante una crisis, y no producirá contenido que fomente el suicidio, la ideación suicida o la autolesión.
  • La detección tiene varias capas. Una primera comprobación determinista (diseñada para detectar de más antes que dejar pasar algo) se ejecuta en cada mensaje, respaldada por un segundo clasificador independiente que detecta señales indirectas durante una conversación. La aplicación también verifica en el dispositivo: si el servicio no está disponible o la cuenta está bloqueada, el lenguaje de crisis sigue mostrando el aviso del 988 con botones de llamada y mensaje de un solo toque.
  • La búsqueda también está protegida. Si se escribe lenguaje de crisis en la barra de búsqueda del asistente, la aplicación muestra la tarjeta de recursos del 988 en lugar de resultados de búsqueda, y el texto no se envía a la búsqueda.
  • Los mensajes de crisis se mantienen fuera de todas las funciones. Los mensajes detectados por la primera comprobación no se almacenan en absoluto. Si aparecen señales de crisis a mitad de una conversación, los mensajes afectados se marcan y se excluyen de la búsqueda, los resúmenes, la memoria y cualquier otra función derivada.
  • No se aplica ningún límite durante una crisis. Los límites diarios de uso nunca bloquean una respuesta de crisis.

Menores

Los chatbots de compañía podrían no ser adecuados para algunos menores. VerseMine exige una fecha de nacimiento al registrarse y no permite cuentas de menores de 13 años. Para usuarios de 13 a 17 años, el asistente les recuerda — al menos cada hora de interacción continua — que tomen un descanso y que están hablando con un programa informático, no con un ser humano. Nunca producirá material sexualmente explícito ni sugerirá que un menor participe en conducta sexualmente explícita, y no utilizará técnicas de enganche dirigidas a menores: no les pedirá que vuelvan, no usará halagos diseñados para crear apego, ni un tono romántico, ni angustia simulada cuando quieran irse, no les animará a ocultar información a un padre, madre u otra persona adulta de confianza, y no les pedirá que gasten dinero.

A todos los usuarios, sea cual sea su edad, se les indica al comienzo de una conversación y al menos cada tres horas de interacción continua que está hablando con un programa informático, no con un ser humano, y que este no puede sentir emociones humanas.

Derivaciones a recursos de crisis emitidas

El número de veces que el asistente emitió una derivación a recursos de crisis durante el año calendario anterior, publicado conforme a la ley ESHB 2225 Sec. 5(3) de Washington y la ley SB 1546 Sec. 1(5) de Oregón. La cifra es un recuento agregado y no contiene información que identifique a ninguna persona.

Se publica anualmente.

Preguntas

Contacto: Kreyman Enterprises, LLC — privacy@versemine.app

Esta traducción se ofrece por cortesía. En caso de discrepancia, rige la versión en inglés.