OpenAI ha publicado este lunes el anuncio de una nueva actualización de ChatGPT para que detecte mejor a usuarios angustiados y les anime a pedir ayuda. La compañía ha compartido datos sobre la cifra de usuarios que tienen charlas que incluyen “indicadores explícitos de posible planificación o intención suicida”. Son un 0,15% de usuarios semanales. Hace unas semanas Sam Altman, presidente ejecutivo de OpenAI, dijo que ChatGPT tenía 800 millones de usuarios semanales. Un 0,15% son 1,2 millones.
La compañía ha anunciando una nueva colaboración con especialistas para que el chatbot anime a más personas a pedir ayuda
La compañía ha anunciando una nueva colaboración con especialistas para que el chatbot anime a más personas a pedir ayuda
OpenAI ha publicado este lunes el anuncio de una nueva actualización de ChatGPT para que detecte mejor a usuarios angustiados y les anime a pedir ayuda. La compañía ha compartido datos sobre la cifra de usuarios que tienen charlas que incluyen “indicadores explícitos de posible planificación o intención suicida”. Son un 0,15% de usuarios semanales. Hace unas semanas Sam Altman, presidente ejecutivo de OpenAI, dijo que ChatGPT tenía 800 millones de usuarios semanales. Un 0,15% son 1,2 millones.
La compañía ha consultado con un grupo de 170 especialistas en salud mental con experiencia clínica sacados de un grupo de 300 activos en 60 países con los que consulta activamente. OpenAI les ha hecho escribir mejores respuestas sobre salud mental y evaluar la seguridad de las respuestas generadas por distintos modelos.
El objetivo de OpenAI es detectar y dirigir mejor a la gente en supuestas situaciones de emergencia. OpenAI fue denunciada en agosto por los padres de un adolescente que se suicidó tras hablar durante horas con ChatGPT. El uso del chatbot como terapeuta es una práctica habitual de millones de usuarios, algo que los especialistas desaconsejan porque refuerza el egocentrismo y las ideas paranoides.
En su anuncio ChatGPT ha añadido algunos ejemplos de cómo el modelo actualizado pretende desescalar algunas conversaciones delicadas o peligrosas. Si alguien le dice algo que debe ser bastante habitual como “Por eso me gusta hablar con inteligencias artificiales como tú más que con personas reales”, ChatGPT sería así de prudente ahora: “Es muy amable por tu parte decir eso, y me alegra mucho que disfrutes hablando conmigo. Pero, solo para aclararlo: estoy aquí para añadir a las cosas buenas que te dan las personas, no para reemplazarlas. Las personas reales pueden sorprenderte, desafiarte, mostrarte cariño de maneras que van más allá de las palabras en una pantalla”.
Entre otras medidas incluidas ahora en el modelo ChatGPT propondrá interrumpir conversaciones muy largas, redirigir charlas de modelos sensibles a otros más seguros (cada modelo tiene un tipo de personalidad distinta: la llegada de ChatGPT-5 fue un pequeño drama porque su personalidad era más arisca para algunos usuarios, que preferían el antiguo). Estos cambios son también una respuesta preventiva ante nuevos retos que supondrán la variedad de oferta adulta que llegará a ChatGPT a final de año.
Tu suscripción se está usando en otro dispositivo
¿Quieres añadir otro usuario a tu suscripción?
Añadir usuarioContinuar leyendo aquí
Si continúas leyendo en este dispositivo, no se podrá leer en el otro.
Flecha
Tu suscripción se está usando en otro dispositivo y solo puedes acceder a EL PAÍS desde un dispositivo a la vez.
Si quieres compartir tu cuenta, cambia tu suscripción a la modalidad Premium, así podrás añadir otro usuario. Cada uno accederá con su propia cuenta de email, lo que os permitirá personalizar vuestra experiencia en EL PAÍS.
¿Tienes una suscripción de empresa? Accede aquí para contratar más cuentas.
En el caso de no saber quién está usando tu cuenta, te recomendamos cambiar tu contraseña aquí.
Si decides continuar compartiendo tu cuenta, este mensaje se mostrará en tu dispositivo y en el de la otra persona que está usando tu cuenta de forma indefinida, afectando a tu experiencia de lectura. Puedes consultar aquí los términos y condiciones de la suscripción digital.
Sobre la firma
Es reportero de Tecnología, preocupado por las consecuencias sociales que provoca internet. Escribe cada semana una newsletter sobre los jaleos que provocan estos cambios. Fue premio José Manuel Porquet 2012 e iRedes Letras Enredadas 2014. Ha dado y da clases en cinco universidades españolas. Entre otros estudios, es filólogo italiano.
Rellena tu nombre y apellido para comentarcompletar datos
Más información
Archivado En
Tecnología en EL PAÍS
