La empresa estadounidense, Open AI informó que está realizando camios en su popular chatbot luego de la demanda de la que fue objeto por el suicidio de un adolescente que dijo confiar en Chatgpt como entrenador.
Una publicación de Bloomberg indica que en una entrada de blog, la empresa de inteligencia artificial dijo que actualizará Chatgpt para reconocer mejor y responder a las diferentes formas en que las personas pueden expresar angustia mental.
Entre esas actualizaciones está la explicación a los peligros de la privación del sueño y sugiriendo que los usuarios descansen si mencionan que se sienten invencibles después de estar despiertos durante dos noches.
La empresa también dijo que reforzaría las salvaguardas en torno a las conversaciones sobre el suicidio, que, según dijo, podrían romperse tras conversaciones prolongadas.
La empresa reconoció la semana pasada que su chatbot de inteligencia artificial (AI) ChatGPT comete fallos en casos «sensibles» y prometió cambios tras recibir hoy una demanda por la responsabilidad de su tecnología en el suicidio de un menor de edad en EE.UU..
Este martes, los padres de un joven de 16 años que se quitó la vida tras meses de interactuar con ChatGPT demandaron en California a OpenAI y su dueño, Sam Altman, argumentando que el chatbot, bajo el modelo GPT-4o, no aplicó medidas de seguridad pese a reconocer las intenciones suicidas del joven.
OpenAI publicó una entrada de blog titulada «Ayudar a la gente cuando más lo necesitan» y, si bien no hizo referencia a la demanda, indicó que ChatGPT está entrenado para recomendar a aquellos usuarios que «expresen intención suicida» el contacto de organizaciones de ayuda profesional.
No obstante, reconoció que pese a tener ese y otros mecanismos de seguridad para cuando detecte que «alguien es vulnerable y puede estar el riesgo», los sistemas de ChatGPT «se quedan cortos» y el chatbot «no se comportó como debía en situaciones sensibles».