A legislação líder mundial vê o trabalho do governo com a indústria de IA e organizações de proteção à criança para garantir que os modelos de IA não possam ser utilizados de forma inadequada para criar imagens de abuso sexual de crianças sintéticas. O Secretário de Tecnologia e o Secretário de Início terão novos poderes para designar desenvolvedores de IA e organizações de caridade como a Fundação Internet Watch como testadores autorizados. Vem como dados da Fundação Internet Watch ( IWF ) mostra que os relatórios de material de abuso sexual infantil gerado por IA têm mais do que dobrado no ano passado, aumentando de 199 em 2024 para 426 em 2025.(nota) As crianças serão melhor protegidas de se tornarem vítimas de horríveis falsificações indecentes, pois o governo introduz novas leis para garantir que a Inteligência Artificial ( IA ) não possa ser explorada para gerar material de abuso sexual infantil.
Dados da Fundação Internet Watch lançados hoje (Quarta-feira 12 Novembro) mostra os relatórios de material de abuso sexual de crianças gerado por IA mais do que dobrou no ano passado, aumentando de 199 em 2024 para 426 em 2025. (nota) Também houve um aumento perturbador nas representações de bebês, com imagens de 0 – 2 - crianças de anos surgem de 5 em 2024 para 92 em 2025. (nota) Sob uma nova legislação rigorosa, os organismos designados como desenvolvedores de IA e organizações de proteção à criança, como a Fundação Internet Watch ( IWF ), serão habilitados a examinar os modelos de IA e garantir que estão em vigor salvaguardas para evitar que eles geram ou proliferem material de abuso sexual infantil, incluindo imagens e vídeos indecentes de crianças. Atualmente, a responsabilidade criminal para criar e possuir este material significa que os desenvolvedores não podem realizar testes de segurança em modelos de IA, e as imagens só podem ser removidas após terem sido criadas e compartilhadas online. Esta medida, uma das primeiras do seu tipo no mundo, garante que as salvaguardas de AI podem ser testadas robustamente desde o início, para limitar a sua produção em primeiro lugar.
As leis também permitirão que as organizações verifiquem os modelos com proteção contra pornografia extrema e imagens íntimas não consensuais. Embora possuir e gerar material de abuso sexual infantil já seja ilegal sob a lei do Reino Unido, tanto real como sintéticamente produzido por IA, melhorar as capacidades de imagem e vídeo IA representa um desafio crescente. Sabemos que os infratores que buscam criar este material atroz muitas vezes o fazem usando imagens de crianças reais - tanto aquelas conhecidas por eles como aquelas encontradas online - e tentam circunnavar as salvaguardas projetadas para prevenir isso. Esta medida visa tornar tais ações mais difíceis, habilitando as empresas a garantir que suas salvaguardas sejam eficazes e a desenvolver métodos inovadores e robustos para evitar o uso indevido de modelos.
A secretária de Tecnologia Liz Kendall disse. Não permitiremos que o avanço tecnológico supere a nossa capacidade de manter as crianças seguras. Estas novas leis garantirão que os sistemas de IA podem ser seguros na fonte, evitando vulnerabilidades que poderiam colocar as crianças em risco. Ao habilitar organizações confiáveis para examinar seus modelos de IA, estamos garantindo que a segurança das crianças é projetada em sistemas de IA, não parafusada como um pensamento posterior. Jess Phillips, Ministra da Proteção e da Violência contra Mulheres e Meninas, disse:.
Devemos garantir que as crianças sejam mantidas seguras online e que nossas leis mantenham o passo com as mais recentes ameaças. Esta nova medida significará que as ferramentas de IA legítimas não podem ser manipuladas para criar material vil e mais crianças serão protegidas dos predadores como resultado. Ele vem como novos dados da Fundação Internet Watch também mostra a gravidade do material se intensificou ao longo do ano passado. Conteúdo da categoria A - imagens envolvendo atividade sexual penetrativa, imagens envolvendo atividade sexual com um animal, ou sadismo - surgiu de 2,621 para 3,086 itens, agora contando para 56% de todo o material ilegal comparado com 41% ano passado. (nota) Meninas foram alvo de grande importância, inventando 94% de imagens ilegais de IA em 2025.(nota) Para garantir que o trabalho de teste seja realizado de forma segura e segura, o governo também reunirá um grupo de especialistas em IA e segurança das crianças.
O grupo ajudará a projetar as salvaguardas necessárias para proteger dados sensíveis, prevenir qualquer risco de vazamento de conteúdo ilegal e apoiar o bem- estar dos pesquisadores envolvidos. Estas alterações, que serão apresentadas hoje (Quarta-feira 12 Novembro) como emenda ao Projeto de Lei Crime e Polícia, marca um grande passo em frente na salvaguarda das crianças na era digital. Eles refletem o compromisso do governo de trabalhar junto com desenvolvedores de IA, plataformas tecnológicas e organizações de proteção à criança para construir um mundo online mais seguro para as crianças. Queremos que o Reino Unido seja o lugar mais seguro do mundo para estar online, especialmente para crianças, e isso inclui quando se usam modelos de AI. Esta medida visa ajudar- nos a alcançar esse objetivo, tornando os modelos de IA usados pelo público britânico mais seguros e robustos para evitar que os infratores usem mal esta tecnologia emocionante para a atividade criminosa.
Esta abordagem proativa não só protege as crianças da exploração e re- vitimização, mas também reforça a confiança pública na inovação de IA - provando que o progresso tecnológico e a segurança das crianças podem ir de mãos dadas. Kerry Smith, Chefe de Executivo da Fundação de Observação da Internet ( IWF ), disse: Saúdamos os esforços do governo para trazer novas medidas para testar modelos de IA para verificar se eles podem ser abusados para criar abuso sexual de crianças. Para 3 décadas, temos estado na vanguarda de prevenir a propagação desta imagem online – esperamos com expectativa usar nossa experiência para ajudar a promover a luta contra esta nova ameaça. As ferramentas de IA fizeram com que sobreviventes possam ser vitimizados novamente com apenas alguns cliques, dando aos criminosos a capacidade de fazer quantidades potencialmente ilimitadas de material sofisticado e fotorealista de abuso sexual infantil. Material que mais commodifica as vítimas sofrendo, e torna as crianças, especialmente as meninas, menos seguras na linha e fora dela.
A segurança precisa ser feita em nova tecnologia por design. O anúncio hoje em dia pode ser um passo vital para garantir que os produtos IA estejam seguros antes de serem lançados. (nota): Pesquisa da Fundação Internet Watch – tendências do material de abuso sexual de crianças gerados (CSAM ) (dados compara janeiro a outubro) 2024 vs janeiro a outubro 2025 ) Relatórios de AI ação mais do que dobrou, aumentando de 199 em 2024 para 426 em 2025.
Enquanto o número total de imagens e vídeos de IA diminuiu ligeiramente ( 6,459 em 2024 para 5,560 em 2025 ), a gravidade se intensificou. O conteúdo da categoria A surgiu do 2,621 para 3,086 itens, agora contando para 56% de todo o material ilegal comparado com 41% ano passado. Análise de gênero mostra que as meninas permanecem esmagadoramente alvo, compondo 94% de imagens ilegais de IA em 2025, embora haja um pequeno aumento nos meninos aparecendo. Perfis de idade revelam um aumento perturbador nas representações de bebês: imagens de 0 – 2 - os anos de idade saltaram de 5 em 2024 para 92 em 2025, enquanto faixa etária mais velha viram reduções. Cada ‘report (') que o IWF recebe se refere a uma página web ou URL – cada uma das quais pode conter uma, ou múltiplos, imagens ou vídeos de abuso sexual de crianças. Uma página web só precisa conter uma única imagem ou vídeo confirmados de abuso sexual de crianças para que o IWF tome medidas para removê- la.
A imagem por análise de imagens refere- se a imagens e vídeos individuais que o IWF descobriu (daí os números mais elevados). Cada número é uma imagem ou vídeo individual – permitindo uma descomposição mais granular da idade/sexo/gravidade do abuso nas imagens. Perguntas de mídia do DSIT. E-mail press@dsit.gov.Reino Unido De segunda a sexta-feira, 8: 30 eu a 6 pm 020 7215 3000.