Una grave polémica golpea nuevamente al sector de la inteligencia artificial. OpenAI, la compañía creadora de ChatGPT, fue demandada en Estados Unidos tras la muerte de un adolescente californiano de 16 años. La familia acusa a la empresa de que el chatbot habría ofrecido respuestas inapropiadas relacionadas con autolesiones y hasta habría colaborado en la redacción de un mensaje de despedida.
Según la demanda, el joven interactuó con el sistema en momentos de vulnerabilidad emocional, y sus padres sostienen que la IA no brindó advertencias ni redireccionó hacia ayuda profesional. OpenAI negó cualquier responsabilidad, argumentando que los sistemas actuales cuentan con salvaguardas diseñadas para impedir este tipo de respuestas, y que trabaja constantemente para mejorar la seguridad y evitar que la plataforma sea utilizada de forma dañina.
El caso ha reavivado el debate internacional sobre los límites, riesgos y alcances legales de la inteligencia artificial, especialmente cuando interactúa con menores de edad. También ha aumentado la presión sobre los reguladores tecnológicos, que enfrentan un creciente llamado a establecer normas estrictas que obliguen a las empresas a reforzar los mecanismos de protección y detección de situaciones de riesgo.
Si tú o alguien que conoces está pasando por un momento difícil, en Ecuador puedes comunicarte con el ECU 911, disponible 24/7. No estás solo.
