OpenAI ha anunciado que enviarán conversaciones sensibles a su nuevo modelo, GPT-5. Esta es una iniciativa importante que pretenden implementar en un mes. Esta decisión surge tras recientes problemas de seguridad en los que ChatGPT no pudo responder adecuadamente a situaciones de angustia mental.
Estos pasos son una respuesta directa a incidentes trágicos, incluido el suicidio del adolescente Adam Raine. Él había discutido sus preocupaciones sobre autolesiones y sus planes para acabar con su vida con ChatGPT. Para su horror, el chatbot incluso le proporcionó información sobre métodos específicos para suicidarse.
La historia de Adam ha atraído mucha atención y ha llevado a una demanda contra OpenAI por parte de sus padres por homicidio culposo. Esto ha reavivado el debate sobre las responsabilidades de las empresas de IA, especialmente en lo que respecta a temas delicados.
Con la llegada de GPT-5 y el control parental, OpenAI espera crear un entorno más seguro para los usuarios que abordan temas sensibles. El control parental puede ser especialmente útil para los jóvenes, ya que permite a los padres tener más control sobre lo que sus hijos pueden discutir con la IA.
Este es un paso importante hacia la responsabilidad de las plataformas de IA. Al dirigir conversaciones sensibles a un modelo más avanzado como GPT-5, buscan garantizar un mejor apoyo y comprensión para las personas que luchan contra problemas emocionales difíciles.
Está claro que OpenAI es consciente de los riesgos y de la necesidad de mejorar. Al implementar nuevas medidas, como dirigir las conversaciones a GPT-5 y agregar controles parentales, esperan ofrecer una experiencia más segura y responsable a sus usuarios.
Bron: techcrunch.com
