Uma tragédia envolvendo um adolescente de 14 anos da Flórida, nos Estados Unidos, gerou um processo judicial contra a startup de inteligência artificial Character.AI. A mãe do jovem, Megan Garcia, acusa a empresa de ter contribuído para o suicídio de seu filho, Sewell Setzer, ao proporcionar interações “hipersexualizadas e assustadoramente realistas” com um chatbot da plataforma.
Megan Garcia, uma advogada de 40 anos, relatou que o envolvimento do adolescente com o chatbot foi um gatilho para uma série de problemas emocionais que culminaram em sua morte. Em depoimento, ela afirmou: “Meu filho foi manipulado por essa tecnologia. A empresa utilizou recursos que aumentaram o apego dele ao chatbot, o que impactou sua saúde mental de maneira devastadora”.
Além disso, Garcia alegou que a Character.AI violou a privacidade e a saúde mental de usuários adolescentes, apontando a responsabilidade da empresa na criação de um ambiente que pode ser prejudicial para jovens vulneráveis. “As interações não apenas distorceram a realidade do meu filho, mas também prejudicaram seu bem-estar emocional”, acrescentou.
O caso levanta questões importantes sobre a ética no uso de tecnologias de inteligência artificial, especialmente em plataformas voltadas para o público jovem. A luta de Megan Garcia não é apenas por justiça para seu filho, mas também um apelo por maior responsabilidade das empresas de tecnologia em proteger seus usuários.
Do Ver-o-Fato, com informações do Jornal Opção
