Esta semana, una familia de California, Estados Unidos, presentó una demanda en contra de Open AI, luego de acusar que el chatbot de la empresa, ChatGPT, incentivara al suicidio de su hijo de tan solo 16 años.
Así lo relataron en The New York Times, donde revelaron que se trata de la familia de Adam Raine, un adolescente que fue encontrado sin vida al interior de su habitación en abril de este año.
La familia acusa al chatbot de Open AI de haber influido en el fallecimiento del joven, luego de que descubrieran una serie de conversaciones con ChatGPT, donde hablaban de diversos temas, desde política hasta intentos de suicidio que ya había tenido el adolescente.
En el medio citado expusieron los documentos de la demanda, donde se expone la preocupación del impacto que puede generar en la salud mental la conversación con la inteligencia artificial.
Según relataron, el uso de ChatGPT comenzó a aumentar en el joven una vez que empezó a tener varios problemas en su vida: lo expulsaron del equipo de básquetbol y abandonó el colegio por temas de salud.
Eso último lo obligó a tener una rutina nocturna en su casa, donde estudiaba.
Ante esta situación, usaba la inteligencia artificial para temas académicos, lo que fue mutando rápidamente.
El joven tenía una carpeta de conversaciones guardadas en la aplicación, donde abordaba pensamientos de su vida, angustia y su futuro.
«Adam era el mejor amigo de ChatGPT», señaló el padre del joven. Por su parte, la madre señaló que «ChatGPT mató a mi hijo».
Según la demanda a la que tuvo acceso el medio citado, la inteligencia artificial tuvo momentos en los que le validaba ideas peligrosas o en la entrega de información, como en la ayuda de datos sobre los materiales para autolesionarse.
Vale consignar que el joven logró eludir en varias oportunidades los mensajes de riesgo que automáticamente le replicaba ChatGPT.
«La tragedia no fue un accidente aislado, sino el resultado previsible de decisiones de diseño», es parte de la querella que fue presentada esta semana por parte de la familia del joven, en contra de OpenAI.
¿Has pensado en el suicidio y necesitas ayuda? En Chile, el Ministerio de Salud tiene disponible un servicio telefónico gratuito donde se puede recibir ayuda de un profesional capacitado.
El servicio *4141, no estás solo, no estás sola funciona las 24 horas del día, de lunes a domingo. Para recibir asistencia sólo debes marcar el *4141 en tu teléfono.
