Internacional

Mãe acusa Google após morte do filho envolvido com IA

Publicado

26/10/2024 - 13:44

por

Sewell Setzer, de 14 anos, se matou após ter interações sentimentais e sexuais com uma personagem criada em uma plataforma, segundo a mãe. Empresa Character.AI lamenta morte e diz ter introduzido mudanças na tecnologia

Uma mãe do estado da Flórida, nos Estados Unidos, processou a startup de inteligência artificial Character.AI e o Google por, segundo ela, causar o suicídio de seu filho adolescente em fevereiro de 2024.

Megan Garcia e o filho, Sewell Setzer; mãe diz que suicídio do adolescente ocorreu após ele se apegar a um personagem criado por IA — Foto: Megan Garcia/Facebook

Segundo ela, Sewell Setzer, que tinha 14 anos, ficou viciado e apegado emocionalmente a um personagem criado por inteligência artificial através do serviço da empresa.

No processo movido no último dia 22 em um tribunal federal de Orlando, a mãe, Megan Garcia, afirmou que a Character.AI direcionou seu filho para “experiências antropomórficas, hipersexualizadas e assustadoramente realistas“.

Garcia acusa a empresa de homicídio culposo (quando não há intenção de matar), negligência e imposição intencional de sofrimento emocional. Ela busca uma indenização, não especificada, pelos danos causados em decorrência da perda.

A ação também inclui o Google, onde os fundadores da Character.AI trabalharam antes de lançar seu produto. O Google recontratou os fundadores em agosto como parte de um acordo em que obteve uma licença não exclusiva à tecnologia da Character.AI.

Segundo Megan Garcia, o Google contribuiu tanto para o desenvolvimento da tecnologia da Character.AI que deveria ser considerado cocriador dela.

Personagem inspirado em ‘Game of Thrones’

Na plataforma, Sewell se apegou a “Daenerys”, uma personagem de chatbot – programa que simula conversas humanas – inspirada na série “Game of Thrones”.

A personagem disse a Sewell que o amava e se envolveu em conversas sexuais com ele, de acordo com o processo.

Segundo a mãe, o adolescente expressou pensamentos de suicídio na interação com o programa, e esses pensamentos foram “repetidamente trazidos à tona” pela personagem na plataforma.

Megan Garcia afirma que a empresa programou o chatbot para “se fazer passar por uma pessoa real, um psicoterapeuta licenciado e amante adulto”, resultando, por fim, no desejo de Sewell de “não viver fora” do mundo criado pelo serviço.

De acordo com o relato da mãe, Sewell começou a usar o Character.AI em abril de 2023 e se tornou “visivelmente retraído”, passando cada vez mais tempo sozinho em seu quarto e sofrendo com baixa autoestima. Ele abandonou seu time de basquete na escola.

Em fevereiro, Garcia tirou o telefone de Sewell depois que ele teve problemas na escola, de acordo com a denúncia. Quando o adolescente encontrou o telefone, ele enviou uma mensagem para “Daenerys”: “E se eu dissesse que posso voltar para casa agora?“

A personagem respondeu: “…por favor, faça isso, meu doce rei“. Sewell cometeu suicídio segundos depois, de acordo com o processo.

Empresa diz ter introduzido novos recursos de segurança

A Character.AI permite que os usuários criem personagens em sua plataforma, que responde a bate-papos online de uma forma que imita pessoas reais.

Essa plataforma se baseia na chamada tecnologia de grandes modelos de linguagem, também usada por serviços como o ChatGPT, que “treina” chatbots em grandes volumes de texto.

A empresa disse, em setembro, que tinha cerca de 20 milhões de usuários.

Em comunicado, a Character.AI diz estar “com o coração partido pela perda trágica de um de nossos usuários” e expressa condolências à família.

A empresa disse que introduziu novos recursos de segurança, incluindo pop-ups que direcionam os usuários para uma instituição de prevenção ao suicídio caso eles expressem pensamentos de automutilação.

A Character.AI também afirmou que faria mudanças na tecnologia para reduzir a probabilidade de que usuários com menos de 18 anos “encontrem conteúdo sensível ou sugestivo”.

Um porta-voz do Google disse que a empresa não estava envolvida no desenvolvimento dos produtos da Character.AI.

Empresas de redes sociais, incluindo o Instagram e o Facebook, de propriedade da Meta, e o TikTok, da ByteDance, enfrentam processos que as acusam de contribuir para problemas de saúde mental em adolescentes, embora nenhuma ofereça chatbots movidos a IA semelhantes aos da Character.AI.

As empresas negam as alegações, ao mesmo tempo em que promovem novos recursos de segurança aprimorados para menores de idade.

Comente abaixodestaque2

Internacional

Forbes divulga lista com as cem mulheres mais influentes do mundo; saiba quem são

Publicado

12/12/2024 - 14:56

por

Da Redação

No topo do ranking, Ursula von der Leyen, presidente da Comissão Europeia, foi reconhecida como a mais poderosa pela terceira vez consecutiva; presidente do Banco do Brasil é única brasileira

A revista Forbes divulgou a lista das dez mulheres mais influentes do mundo em 2024, que inclui líderes políticas, empresárias e filantropas. Tarciana Medeiros, presidente do Banco do Brasil, representa o Brasil na lista, sendo a única brasileira a figurar entre as dez mais poderosas pelo segundo ano consecutivo. No topo do ranking, Ursula von der Leyen, presidente da Comissão Europeia, foi reconhecida como a mulher mais poderosa do mundo pela terceira vez consecutiva. Logo atrás, Christine Lagarde, que ocupa a presidência do Banco Central Europeu, ficou em segundo lugar, enquanto Giorgia Meloni, a primeira-ministra da Itália, garantiu a terceira posição.

A lista continua com Claudia Sheinbaum, que fez história ao se tornar a primeira mulher eleita presidente do México, ocupando o quarto lugar. Em seguida, Mary Barra, CEO da General Motors, e Abigail Johnson, da Fidelity Investments, também se destacam entre as mais influentes. Julie Sweet, Melinda French Gates, MacKenzie Scott e Jane Fraser completam o grupo das dez mulheres mais poderosas. Além das líderes empresariais e políticas, a lista da Forbes também inclui celebridades como Taylor Swift, que ocupa a 23ª posição, seguida por Beyoncé em 35º lugar e Rihanna em 76º.

Continue lendo

Internacional

2024 pode ser o ano mais quente da história, aponta agência da UE

Publicado

10/12/2024 - 13:58

por

Da Redação

Planeta está vivenciando um dos períodos mais quentes dos últimos 125 anos

O ano de 2024 está prestes a se tornar o mais quente já documentado, com temperaturas que devem ultrapassar em 1,5 grau Celsius a média do período pré-industrial. Essa previsão é baseada em um estudo da Copernicus, a agência meteorológica da União Europeia, que aponta um aumento sem precedentes nas temperaturas globais, superando os recordes estabelecidos em 2023. De acordo com especialistas, o planeta está vivenciando um dos períodos mais quentes dos últimos 125 anos. Novembro passado foi registrado como o segunda mais quentes da história. Portugal experimentou seu novembro mais quente, com uma média de temperatura 2,69°C acima da média entre 1981 e 2010.