Macron pede por banimento da IA se ameaçarem a saúde mental de crianças

O presidente da França, Emmanuel Macron, defendeu nesta segunda-feira, 9, a proibição de ferramentas de inteligência artificial (IA) sempre que seu uso representar riscos à saúde mental de crianças. A declaração foi feita às vésperas da adoção de uma carta de compromisso sobre o tema no Fórum de Paris para a Paz, que prevê medidas de proteção ao público infantil e maior controle sobre sistemas de IA generativa.

Se houver riscos para as crianças em determinados usos da IA, eles devem ser proibidos, afirmou Macron em entrevista ao jornal francês Les Echos. O presidente também defendeu que a tecnologia não seja tratada como um território sem regras. O fato de ser IA não significa que deva ser o Velho Oeste, declarou.

A manifestação ocorre em meio aos esforços do governo francês para restringir o acesso de menores de 15 anos a determinadas redes sociais. Segundo Macron, a inteligência artificial também precisa ser submetida a mecanismos de proteção, especialmente quando puder ameaçar a saúde mental ou o desenvolvimento cerebral de crianças e adolescentes.

Um comitê de especialistas deve apresentar ao presidente, nesta terça-feira, 10, recomendações para ampliar a segurança no uso da IA. O assunto ainda é menos explorado pelas autoridades do que os efeitos das redes sociais. Como parte da iniciativa, laboratórios de pesquisa e empresas de tecnologia devem assumir compromissos como a realização de avaliações independentes dos sistemas de IA generativa e a disponibilização de dados de seus modelos.

A carta, que pretende contribuir para os debates legislativos na França e na União Europeia, reúne empresas como OpenAI e Anthropic. Macron afirmou que as companhias aceitarão o princípio de auditorias e certificações prévias, com a análise dos modelos antes que sejam disponibilizados para crianças. O presidente também pretende incentivar Estados Unidos, Canadá e outros países a adotarem medidas semelhantes.

A proposta faz parte de uma estratégia mais ampla para enfrentar três categorias de riscos associados à inteligência artificial: a proteção de crianças, a segurança democrática e as ameaças à segurança nacional. Segundo Macron, a intenção é estabelecer os primeiros mecanismos de regulação de sistemas avançados de IA.

Na segunda-feira, o presidente francês também reuniu cerca de 50 chefes de Estado e de governo, representantes de organizações internacionais, pesquisadores e executivos do setor em uma videoconferência sobre os impactos da tecnologia na segurança coletiva. Participaram do encontro os primeiros-ministros do Reino Unido, Canadá, Noruega, Holanda e Japão, além dos presidentes-executivos da OpenAI, Anthropic, Mistral e Microsoft. O diagnóstico é compartilhado. Precisamos agir juntos, escreveu Macron na rede social X (antigo Twitter).