Mulher é presa após desabafar com IA planos de tiroteio em massa

Vivo dizendo pra vocês pensarem bem no que contam para as IAs, pessoal. Pode parecer que o que se diz numa conversa com chatbots fica num ambiente privado, mas isso está longe de ser verdade.

Esse caso que aconteceu nos Estados Unidos é mais uma comprovação: uma mulher de 30 anos foi presa na Flórida, depois de escrever no modelo de inteligência artificial Claude que havia comprado uma arma e pretendia atacar o gabinete do xerife local.

A troca de mensagens dela com o chatbot acendeu um alerta na Anthropic, empresa dona do Claude, que repassou o caso à polícia.

A usuária, identificada como Carli Heller, escreveu numa interação com a IA que ia atacar a tiros o gabinete do xerife do condado de Lee, e no dia seguinte disse ter conseguido uma arma nova. Ela foi detida em casa, sem incidentes, e passou a responder por ameaça escrita de violência.

O caminho que a conversa percorreu é o que mais importa para quem usa essas ferramentas. De acordo com o documento da polícia, os sistemas da Anthropic monitoram os chats em busca de expressões e conteúdos ameaçadores, e, quando o caso é grave, o material segue para uma equipe humana. Foi essa equipe que decidiu avisar as autoridades.

A polícia declarou à imprensa da Flórida que Carli alegou usar a IA como um diário, ou seja, o que ela tratava como espaço privado tinha leitores.

A acusação se apoia numa lei da Flórida que pune com até 15 anos de prisão, como crime de segundo grau, quem envia ou publica por meio eletrônico a ameaça de matar alguém, de promover um tiroteio em massa ou de cometer um ato terrorista.

A Anthropic não comentou o caso. A política de privacidade da empresa, em vigor desde 10 de setembro, permite repassar informações a autoridades quando ela acredita, de boa-fé, que isso é necessário para evitar dano grave a pessoas ou propriedades.

Segundo o site estadunidense Tom’s Hardware, é o terceiro episódio desde agosto em que conversas com o Claude chegam à polícia. Em San Antonio, no Texas, um homem de 22 anos foi preso, depois de um alerta do FBI, por escrever a um chatbot da Anthropic que pretendia arranjar uma arma e atacar crianças numa escola primária. Em San Francisco, na Califórnia, a empresa denunciou um usuário que escreveu ter comprado um fuzil AR-15 e ter o CEO Dario Amodei na mira. Ele não foi preso nem acusado e disse ao jornal San Francisco Standard que estava brincando.

É bem verdade que a maioria das pessoas (eu e, com certeza, os leitores queridos aqui da coluna) não declaram intenção de fazer mal a ninguém nem em conversa com IA, nem com humanos mesmo assim, reforço meu já famoso alerta: nunca diga para um chatbot nada que você não diria em praça pública, com um megafone.

Alvaro Leme é doutorando e mestre em Ciências da Comunicação pela ECA-USP, jornalista e criador do podcast educativo Aprenda