Nota de posição de organizações da sociedade civil
29 de novembro de 2024
A aprovação do Projeto de Lei nº 2338/23 (PL 2338/23) na Comissão Temporária sobre Inteligência Artificial (CTIA) e no Plenário do Senado Federal é urgente. Mas retrocessos e novas ameaças ao texto podem tornar a lei inócua e limitada a poucos tipos de sistemas de IA.
Foi apresentado na CTIA, no dia 28 de novembro, um novo relatório para o PL 2338/23, com a expectativa de que o projeto seja votado na Comissão no próximo dia 03 e no Plenário do Senado ainda em dezembro. Diante deste cenário, os signatários abaixo listados vêm pontuar que o texto do dia 28 é o mínimo necessário e, ainda, alertar para os riscos de retrocessos, ameaças e insuficiências no texto, indicando caminhos para seu aprimoramento.
É essencial que os sistemas de inteligência artificial sejam regulados para promover uma IA responsável, que proteja direitos e mitigue riscos à sociedade e a grupos minorizados. O PL 2338/23 traz dispositivos muito importantes que nos colocam em diálogo internacional do ponto de vista regulatório e tecnológico, como o estabelecimento de uma regulação baseada em riscos (com hipóteses exemplificativas de risco excessivo e alto) e correspondentes obrigações e medidas de governança; a instituição de direitos a pessoas afetadas pela tecnologia; a garantia de compromisso de tolerância zero contra IAs que criem ou disseminem conteúdo de abuso e exploração sexual infantojuvenil; a responsabilização dos agentes da cadeia; e a criação de uma estrutura fiscalizatória.
Todavia, os avanços podem ser seriamente comprometidos diante de recuos e ameaças ao texto. Entre os retrocessos, a última versão do relator Eduardo Gomes (PL-TO) abre exceções e flexibilizações à aplicação da Lei que podem fazer com que esta se torne inócua ou extremamente limitada, podendo ser aplicada apenas a um pequeno grupo de sistemas de IA. O novo relatório, em seu art. 1°, §1°, usa redações genéricas dos sistemas que não estariam sujeitos às obrigações da Lei, reduzindo significativamente o alcance das medidas listadas no projeto de lei.
Outra involução estrutural no novo texto (art. 12) foi tornar opcionais e não mais obrigatórias as avaliações preliminares para atribuição do grau de risco antes de um sistema entrar no mercado ou ser disponibilizado como serviço. As medidas de governança de sistemas de alto risco também foram flexibilizadas, como a adoção de medidas de mitigação e prevenção de vieses discriminatórios somente quando o risco à discriminação decorrer da aplicação do sistema de IA. Medidas de governança precisam ser obrigatórias, de acordo com o grau de risco.
A versão de 28 de novembro também trouxe retrocessos significativos em relação à participação social, tanto nos processos de prestação de contas dos agentes de IA como nas avaliações de impacto (art. 25, §8º) e no próprio funcionamento do Sistema Nacional de Governança e Regulação de IA (SIA). Para garantir sistemas de IA responsáveis e protetivos de direitos, é essencial o escrutínio público dos regulados e dos reguladores, por meio de participação pública.
Um retrocesso grave também foi notado no artigo sobre proteção aos trabalhadores. Foram retirados quatro incisos que tratam de temas fundamentais. Especialmente, foram excluídas regras que garantiam a “supervisão humana em decisões automatizadas de punições disciplinares e dispensa” e coibiam a “demissão em massa ou substituição extensiva da força de trabalho”. As mudanças acabam com mecanismos fundamentais para proteger trabalhadores dos efeitos negativos da introdução de sistemas de IA.
Um ponto central mantido pelo relatório do Senador Eduardo Gomes, mas que vem sendo objeto de ameaças diante dos fortes questionamentos por parte de empresas de tecnologia, plataformas digitais e de associações da indústria, é a possibilidade de atualização dos sistemas de alto risco, atualmente prevista, acertadamente, em hipóteses exemplificativas (art. 14 e 15). Esta possibilidade é fundamental para que a lei não nasça desatualizada, considerando o dinamismo do setor de IA. A explosão da IA generativa em menos de dois anos é apenas um dos exemplos de como este setor evolui rapidamente. Se a lista de sistemas de alto risco for taxativa e restrita àquela elencada hoje no texto, a sociedade brasileira ficará refém de riscos postos por quaisquer novos sistemas de IA não contemplados ali. A legislação precisa ser viva.
Outra ameaça diz respeito às regras sobre sistemas de IA utilizados por plataformas digitais para curadoria, difusão, recomendação e distribuição de conteúdos. Atualmente, estes modelos algorítmicos estão classificados como de alto risco, justamente pelo reconhecido impacto que podem ter sobre o comportamento humano, sobre o debate público e para a democracia, o que é importante para que as plataformas sejam obrigadas a adotar medidas de governança mais rígidas, especialmente ligadas à transparência e mitigação de riscos de violação de direitos. O inciso XIII do art. 14 precisa ser mantido.
Na mira do lobby empresarial estão também as regras para assegurar a proteção e compensação de titulares de direitos autorais cujos conteúdos são utilizados no treinamento de sistemas de IA. É fundamental manter os artigos que tratam dos conteúdos protegidos por direitos autorais e conexos, garantindo que os titulares desses direitos tenham conhecimento dos usos de suas obras para o treinamento de sistemas de inteligência artificial, por meio da transparência dos conteúdos utilizados, e também possam restringir este uso e tenham direito à expressa remuneração adequada por eventuais usos de suas obras.
Ainda, há uma vontade de flexibilização do compromisso irrestrito contra IAs que facilitem a circulação e produção de material de abuso e exploração sexual de crianças e adolescentes, atualmente consideradas como de risco excessivo (art. 13, inciso IV), buscando retroceder no texto e proibir, apenas, as ferramentas criadas com este propósito. A alteração significaria grande retrocesso, pois quaisquer ferramentas de geração de imagens por IA, para estarem disponíveis no mercado, devem contar com salvaguardas para impedir a produção de material abusivo por quaisquer usuários.
Para que o Projeto de Lei 2338/23 garanta a proteção de direitos e o estímulo à uma inovação de IA responsável, as organizações signatárias desta nota defendem os seguintes pontos:
| Manutenções necessárias | Pontos de melhoria |
| Rol de alto risco e risco excessivo como exemplificativos com a definição de critérios e procedimentos de atualização (art. 15) | Redução das exceções ao escopo de aplicação (art. 1º, §1º). |
| Rol de direitos (Capítulo II) | Direito à revisão como aplicável a todo sistema de IA (art. 6º, III) |
| Sistemas de curadoria e recomendação de conteúdo no rol de alto risco (Art. 14, inciso XIII) | Avaliação preliminar como obrigatória (art. 12) |
| Remuneração por uso de conteúdos protegidos por direitos autorais (Capítulo X, Seção IV) | Desvinculação das alíneas do inciso I do art. 13 a um propósito (art. 13, I) |
| Medidas de governança obrigatórias (Capítulo IV) | Definir contornos precisos quanto ao risco relevante à integridade das pessoas (art. 14, VIII) e em relação ao conjunto de dados que podem ser acessados para identificação de padrões e perfis comportamentais (art. 14, IX) |
| Garantia de participação social nas avaliações de impacto e no SIA (arts. 25, §8º) e de consulta pública prévia a normas infralegais (art. 49, versão anterior) | |
| Aumento das garantias trabalhistas (art. 58) | |
| Retomada dos direitos de informação prévia e de determinação e participação humana (art. 5º, incisos I e III). |
Brasília, 29 de novembro de 2024
ORGANIZAÇÕES SIGNATÁRIAS:
- ABI -Associação Brasileira de Imprensa
- ABPEducom – Associação Brasileira de Pesquisadores e Profissionais em Educomunicaçãora de Pesquisadores e Profissionais em Educomunicação de pesquisadores e Profissionais da Educação
- ABRA – Academia Brasileira de Arte
- Agenda Pública
- Aláfia Lab
- Apro+Som
- Aqualtune Lab
- ARTIGO 19 Brasil e América do Sul
- Associação Brasileira de Jornalismo Investigativo (Abraji)
- ASSOCIAÇÃO DE ESCRITORES E ILUSTRADORES DE LITERATURA INFANTIL E JUVENIL (AEILIJ)
- Associação de Jornalismo Digital (AJOR)
- Associação Mulheres na Comunicação (AMC)
- Associação Mundial de Rádios Comunitárias AMARC Brasil
- Associação Nacional de História – Regional RJ (ANPUH-Rio)
- Business and Human Rights Resource Centre
- Campanha Nacional pelo Direito à Educação
- Central Única dos Trabalhadores – CUT Brasil
- Centro de Cultura Luiz Freire (CCLF)
- Centro de Estudos de Segurança e Cidadania – CESeC
- Centro de Pesquisa em Comunicação – ECA USP
- Clube da Voz
- Coalizão Direitos na Rede (CDR)
- Coletivas de Cinema
- Coletivo Digital
- Comitê em Defesa da Democracia e do Estado Democrático de Direito
- Complexos – Advocacy de Favelas
- Compos – Associação Nacional dos Programas de Pos-graduação em Comunicação
- Conectas Direitos Humanos
- Creative Commons Brasil
- Data Privacy Brasil
- DiraCom – Direito à Comunicação e Democracia
- Estratégia Latino-Americana de Inteligência Artificial ELA-IA
- FAOR Fórum da Amazônia Oriental
- Federação Nacional dos Jornalistas – FENAJ
- Fórum Nacional pela Democratização da Comunicação (FNDC)
- Garotas do Motion®
- GEDAR – Gestão de Direitos de Autores Roteiristas
- Grupo de Pesquisa Jornalismo, Direito e Liberdade
- Idec – Instituto de Defesa de Consumidores
- INCT-Proprietas
- Iniciativa Direito a Memória e Justiça Racial
- Instituto de Defesa do Direito de Defesa – IDDD
- Instituto de Referência em Internet e Sociedade – IRIS
- Instituto Nupef
- Instituto Sumaúma
- Instituto Telecom
- INTERARTIS Brasil
- Intercom – Sociedade Brasileira de Estudos Interdisciplinares da Comunicação
- InternetLab
- Intervozes – Coletivo Brasil de Comunicação Social
- IP.rec – Instituto de Pesquisa em Direito e Tecnologia do Recife
- Jornal Vila Velha em Dia
- Laboratório de Políticas de Comunicação da UnB
- Laboratório de Políticas Públicas e Internet – LAPIN
- LAVITS – Rede Latinoamericana de Estudos em Vigilância, Tecnologia e Sociedade
- Motion Brabo
- Núcleo de Comunicação e Educação da USP
- Open Knowledge Brasil
- Pão com Ovo-mídia ativista e Independente
- Pause & Pense
- Rebrip (Rede Brasileira pela Integração dos Povos)
- Repórteres Sem Fronteiras (RSF)
- SATED SAO PAULO – MOVIMENTO DUBLAGEM VIVA – DUBLAR – ANTE – FRENTE PELA IA RESPONSAVEL
- Satedpr
- SINDIJOR/SE – Sind dos Jornalistas do Estado de Sergipe
- Sindijornalistas/ES – Sindicato dos Jornalistas no Estado do ES
- Sindipúblicos/ES – Sindicato Dos Trabalhadores E Servidores Públicos, Ativos E Aposentados Do Estado Do Espírito Santo
- Sleeping Giants Brasil
- Transparência Brasil
- Transparência Eleitoral Brasil
- UEMG
- União Democrática dos Artistas Digitais (UNIDAD)
INDIVÍDUOS SIGNATÁRIOS:
- Adilson Citelli – USP
- Adilson Vaz Cabral Filho
- Adriane Perin
- Alex Diniz Reis – Motion Brabo
- Alexandre Boava – Integrante do Núcleo de Tecnologia do MTST e do CNPD
- Alexandre Gomes Marcondes – Shuffle Audio
- Aline Camargo
- Amanda Soares de Oliveira Pomar
- Ana Beatriz Cesar Ambrogi
- Ana Carolina Lima – Aqualtune Lab – Instituto de Estudos sobre Tecnologias e Direito
- Ana Carolina Mayer Gruhl – Dubladora
- Ana Carolina Sousa Dias – LAPIN
- Ana Clara Moscatwlli – Autônoms
- Ana Elvira Luciano Gebara -Edesp FGV
- Ana Maria Bonato Garcez Yasuda
- Ana Paula Miranda de Sousa – Garotas do Motion
- Ana Paula Ribeiro – Garotas do Motion
- Ana Regina Rêgo – Rede Nacional de Combate à Desinformação e Universidade Federal do Piauí -UFPI
- André Galego Boselli
- Andrea Viviana Taubman
- Andressa Santos de Oliveira – Jornalista – Universidade Estadual do Sudoeste da Bahia – UESB
- Angela Silva Couto
- Anne Caroline Lodi – Garotas do Motion
- Antoniela Bertoncini do Canto – Clube da voz
- Arthur Abrami – Mugshot Produtora de Som Ltda
- Augusto Godoy
- Barbara Ponte – Motion Designer
- Beatriz Florencio – Estudante Unifesp
- Beatriz Rodrigues Caldas Falleiros – Artista
- Bianca Berti – Transparência Brasil
- Bianca Moretto Ribeiro – Garotas do Motion
- Bruna Teixeira Porto
- Cacyone Gomes Lavareda – Pesquisadora, jornalista e advogada
- Caio Marcelo Rangel
- Camila Cristina da Silva
- Carla Brauninger – Alma 11 11 Audio
- Catarine Cândido Rocha
- Celia Maria Gouvea
- Clarissa Mendes Gonçalves – IP.rec
- Claudemir Edson Viana
- Claudia Miranda
- Cristianne Ly – Garotas do Motion®
- Dani Monteiro
- Daniel Seidi Kano
- Daniela Lima Seabra
- Daniele Emiliano – Garotas do Motion
- Daniella Monaco – Blood Audio
- Danielle de Noronha
- Dario Forghieri Santaella – Squad Produtora Musical Ltda
- Débora Chabes dos Santos – ECA / USP
- Denise Maria Cogo – pesquisadora
- Diogo Felipe Souza da Silva – Audiola
- Dirce Zan – Unicamp
- Douglas Dantas
- Edgard Piccoli- Clube da voz
- Edson Luiz Mazieiro
- Edson Prestes
- Eduardo Vicente – Universidade de São Paulo
- Elen Godoi
- Élida Vaz
- Elisangela D Aragoni / PUNCH áudio
- Ellen Thianne de Jesus Arouca
- Erica Prado de Resende – WOW
- Fabiana Dias da Cunha
- Fabiane Leite
- Fabio Cirello – Clube da voz
- Felipe Azevedo Alves – Universidade Federal Fluminense
- Felipe Batista da Silva Carvalho – Designer Gráfico
- Felipe Engel – Liquo Audio
- Francisco Brito Cruz
- Francisco Leite
- Francisco Nogueira de Carvalho
- Gabriel Zago da Rocha – Unifesp
- Gabriela Gatti – Arquiteta
- Gabriella Ramos Collaço – Cena Hum
- Gabrielle Pires Schauerhuber
- Guenia Lemos – SATED-PR
- Gustavo Madureira Cunha
- Haydée Svab – Diretora Executiva da Open Knowlege Brasil
- Helen Helene
- Helena Martins – Professora da UFC, editora da Revista Eptic, integrante do DiraCom – Direito à Comunicação e Democracia
- Helena R O Tassara -Pesquisadora – Memória Coletiva Imagens e Textos
- Heloísa Esser dos Reis
- Henrique Parra
- Henrique Racz Lescura – Mr.Pink Music
- Hingrit Nitsche
- Hogla Cardozo Murai
- Ildeberto Muniz de Almeida – Faculdade de Medicina de Botucatu – UNESP
- Ingrid Lopes – Cabarét
- Irineu de Toledo – Clube da Voz
- Isabela Damilano Vieira – FENAJ
- Ismar de Oliveira Soares
- Izani Mustafá
- Jacqueline de S Cordeiro – Clube da Voz
- Jaime Pereira Lemes – Pesquisador e Jornalista
- Janaina Oliveira ReFem
- Jepherson Rodrigues
- Jessica Monteiro – Garotas do Motion
- joana varon
- José Carlos de Godoy – Apro+som
- José Luiz Miranda
- Jovane Luiz Gregorini – MRG áudio branding
- Juliana Picolo Gonzaga de Azevedo
- Juliana T Pelegrinello – Designer
- Julio Cesar Fernandez Tarrazo – Idec
- Laura Oliveira – Garotas do Motion
- Lauren Housego
- Leticia Kleim
- Ligia Chiappini Moraes Leite
- Locutor Fabio Cirello – Clube da Voz
- Lucas da Silva Azevedo
- Luciana Menezes Carvalho
- Luciana Moherdaui
- Luciana Novelli de Oliveira – Pingado Audio
- Luiz Antônio de Melo – FUNDACENTRO
- Luiz Carlos Furtado – Podemos+ Rede de Cursinhos Populares
- Luiz Dias de Andrade – Fiocruz
- Luiz Fernando Portela Júnior
- Luiz Guilherme Alves Marcílio – Coletivo de Motion Designer Motion Brabo
- Maitê Abad
- Marcelo Santos Dantas
- Maria Augusta Bodick – Mia Movie
- Maria Elide Bortoletto
- Mariana Carolina da Silva
- Marília Felisberto de Assunção – M Press Assessoria
- Marina Martins Novaes
- Marlete Carboni
- Marli Conzatti – Pré-Vestibular Popular Prof. Cajo Neis
- Mayara Scudeler – Artista independente
- Melina Valente Inácio – Sated/PR
- Milena Cramar Lôndero
- Mylene Cyrino Basso – Aposentada
- Nadia Rebouças
- Otávio Gonçalves Almeida
- Pareta Calderasch – Sarau do Gheto
- Paula Menezes
- Paulo Corcione – Proprietário Lucha Libre Audio
- Paulo Marcelo do Vale Tavares
- Pedro Daniel Rodrigues de Freitas
- Pedro PS Santiago
- Preto – diretor de comunicação (CPERS Sindicato RS)
- Prof Dra Gabrielle Bezerra Sales Sarlet ( GDIA- PPGD PUC-RS )
- Quézia Pinheiro
- Rafiza Luziani Varão Ribeiro Carvalho
- Ramon Ferreira Alencar Correa Dbarssoles – IP.rec
- Raquel Lourdes Rizzo – Clube da Voz/ Sated Pr
- Raquel Pinheiro Cintra – ABCA
- Rayana Margon – Garotas do Motion®
- Régia Ruth Ramirez Guimarães – Tecnologista do CDTN/ CNEN
- Rejane Schutz Pinheiro
- Renan Borges Sousa
- Rhaiana Caminha – IP.rec
- Roberta Viegas
- Roberto Aureliano da Rocha – Artista de voz
- Roberto Soares Borges – Ator
- Robson Bastos da Silva – UNISANTA
- Rodrigo Faour – Alumo
- Roseli Figaro
- Sabrina Pereira de Souza – Ilustradora Freelance
- Samira Correia da Silva – Unifesp
- Sergio Amadeu da Silveira – Professor da UFABC
- Sérgio dos Santos Clemente Junior – Intercom
- Sergio Rosa
- Silvio Piesco de Oliveira
- Sivaldo Pereira da Silva – Universidade de Brasília (UnB)
- Sofia Hammoe
- Taís Oliveira
- Thais Yukari Suguiyama
- Tito Rosemberg
- Uirá Menezes de Azevêdo
- Valci Regina Mousquer Zuculoto
- Victor Drummond
- Vinícius Soares Xavier – Universidade do Estado de Minas Gerais
- Vitor Souza Lima Blotta
- Vitória Martins Daniel – Universidade do Estado de Minas Gerais
- Weysller Matuzinhos de Moura
- Xanna Couto D’aguiar – Apro+som
Assine aqui:
