Entenda a polêmica em torno dos apps de IA
Recentemente, a procuradoria de São Francisco enviou notificações à Apple e ao Google, acusando-as de facilitar a distribuição de aplicativos de inteligência artificial (IA) que geram imagens falsas de nudez. Esses aplicativos, que utilizam tecnologia de IA para alterar imagens reais, estão sob escrutínio por violarem leis de pornografia sintética não consensual na Califórnia.
Como esses aplicativos funcionam?
Os aplicativos em questão utilizam IA para manipular fotos comuns, transformando-as em imagens de nudez. Essa tecnologia é capaz de criar imagens com alta fidelidade, o que levanta preocupações sobre o uso indevido e a exploração de imagens de pessoas, especialmente mulheres e adolescentes, sem seu consentimento.
Impacto das notificações judiciais para Apple e Google
A notificação judicial exige que Apple e Google removam 13 aplicativos de suas plataformas imediatamente. A procuradoria alega que as empresas lucram com esses aplicativos por meio de comissões de transações realizadas dentro dos apps, o que, segundo eles, viola leis estaduais.
Reação das empresas envolvidas
O Google afirmou que já tomou medidas para remover conteúdos indesejados de sua loja, banindo centenas de aplicativos semelhantes e suspendendo contas de desenvolvedores envolvidos. A Apple, por outro lado, ainda não se manifestou sobre as alegações e as ações que pretende tomar.
“Gerar imagens não consensuais é ilegal, prejudicial e totalmente inaceitável”, afirma David Chiu, procurador-geral de São Francisco.
O que dizem as leis da Califórnia?
A legislação da Califórnia é clara ao proibir a criação e a distribuição de pornografia sintética não consensual. Isso inclui dar qualquer tipo de suporte técnico ou financeiro a serviços que promovem tal prática. As notificações buscam garantir que as grandes empresas de tecnologia não facilitem o abuso sexual por meio desses aplicativos.
📦 Recomendado pela redação
Echo Pop Alexa
Como afiliado Amazon, o MundoManchete pode receber comissão por compras qualificadas.
FAQ sobre o caso dos aplicativos de IA
O que são aplicativos de pornografia sintética?
São aplicativos que utilizam inteligência artificial para criar ou alterar imagens, gerando conteúdo de nudez a partir de fotos reais sem o consentimento dos envolvidos.
Por que Apple e Google estão sendo notificadas?
As empresas são acusadas de distribuir esses aplicativos em suas plataformas e de lucrar com eles, o que vai contra as leis de pornografia não consensual da Califórnia.
Quais medidas o Google já tomou?
O Google afirmou que já removeu apps semelhantes da Play Store e suspendeu contas associadas a esses desenvolvedores.
O que esperar daqui para frente
A expectativa é que as empresas de tecnologia reforcem suas políticas de conteúdo para evitar a distribuição de aplicativos que violam direitos de imagem e privacidade. Além disso, é provável que haja um aumento na fiscalização por parte das autoridades para garantir que as leis sejam cumpridas. O caso também deve abrir discussões sobre a responsabilidade das plataformas em relação ao conteúdo gerado por IA.
Tags: IA, apps, segurança, Apple, Google
Fonte Original: tecnoblog.net
Foto: Reproducao / Tecnoblog