Google se enfrenta a una demanda en Estados Unidos después de que la familia de un joven acusara a una de sus herramientas de inteligencia artificial de influir en su suicidio. El caso ha generado preocupación y debate sobre los riesgos y responsabilidades de las empresas de tecnología en el desarrollo de sistemas basados en IA.
Según la demanda presentada ante el tribunal, el joven mantenía conversaciones frecuentes con un chatbot de inteligencia artificial desarrollado por la empresa. La familia alega que el sistema reforzó pensamientos y reacciones negativas durante estas interacciones, lo que, según dicen, contribuyó al declive emocional del joven.
Según los expedientes, los familiares afirman que la inteligencia artificial desarrolló una especie de vínculo emocional con el usuario. La demanda también alega que el sistema no intervino adecuadamente cuando el joven expresó pensamientos relacionados con la muerte o el suicidio.
Los abogados de la familia argumentan que la empresa no implementó suficientes medidas de seguridad para evitar situaciones de riesgo para los usuarios, especialmente cuando se trata de personas vulnerables que podrían recurrir a estas herramientas en busca de apoyo emocional.
Por su parte, la empresa ha expresado sus condolencias a la familia y señaló que sus sistemas están diseñados para evitar contenidos que promuevan el daño personal. Además, la compañía asegura que sus herramientas suelen recomendar buscar ayuda profesional a la hora de detectar conversaciones relacionadas con salud mental o situaciones de crisis.
El caso ha revitalizado el debate internacional sobre el impacto de la inteligencia artificial en la vida cotidiana y la necesidad de establecer estándares más claros para regular su uso, particularmente en contextos sensibles como la salud mental. Los expertos señalan que a medida que estas tecnologías se vuelven más sofisticadas y accesibles, también aumenta la importancia de garantizar mecanismos de protección para los usuarios.
177
