Em maio de 2023 foi apresentado para análise do Senado o Projeto de Lei No. 2.338/2023 (“PL 2.338/23” ou “Projeto de Lei”), que pretende regulamentar os sistemas de inteligência artificial (“IA”) no Brasil. O texto resultou do trabalho de uma comissão de juristas que analisou diversas propostas relacionadas ao assunto, além da legislação de outros países que já versam sobre o tema.
Largamente inspirado na legislação europeia, o Projeto de Lei determina que os sistemas de inteligência artificial disponibilizados no Brasil deverão ser auto classificados pelo desenvolvedor de acordo com o seu risco, incluindo classificações de risco excessivo[1] onde os sistemas de IA são proibidos e classificações de alto risco onde os sistemas podem ser disponibilizados desde que observados requisitos específicos de conformidade como avaliação de impacto algorítmico, testes de robustez, acurácia, precisão e cobertura, além da supervisão humana com a finalidade de prevenir ocorrência de riscos aos direitos e liberdades das pessoas decorrentes de seu uso [2].
O Projeto de Lei lista como ferramentas de alto risco aquelas utilizadas para as seguintes atividades[3]:
- classificação de crédito;
- identificação de pessoas;
- administração da Justiça;
- implementação de veículos autônomos;
- diagnósticos e procedimentos médicos;
- tomada de decisões sobre acesso a emprego, a ensino, ou a serviços públicos e privados essenciais;
- avaliação de estudantes e trabalhadores;
- gestão de infraestruturas críticas, como controle de trânsito e redes de abastecimento de água e de eletricidade; e
- avaliação individual de risco de cometimento de crimes e de traços de personalidade e de comportamento criminal.
O grau de risco do sistema determina a responsabilidade civil em caso de dano patrimonial, moral, individual ou coletivo. Em que pese o fornecedor ou operador da IA causadora do dano ser obrigada a repará-lo integralmente, independentemente do grau de autonomia do sistema, eles também respondem pelos danos causados independentemente de haver dolo ou culpa, na medida de sua participação nos danos, quando tais sistemas forem considerados de alto risco ou de risco excessivo. De toda forma, a culpa do agente causador do dano será presumida, aplicando-se a inversão do ônus da prova em favor da vítima.
O PL 2.338/2023 ainda estabelece que a IA não poderá usar técnicas subliminares para induzir pessoas a se comportar de forma prejudicial ou perigosa à sua própria saúde e segurança; nem poderá explorar vulnerabilidades de grupos específicos, como aquelas associadas a idade ou deficiência, para induzir comportamento prejudicial. Por sua vez, o Poder Público não está autorizado a usar inteligência artificial para avaliar e classificar as pessoas com base em seu comportamento social ou personalidade, de modo a determinar ou não o acesso a bens e políticas públicas de forma ilegítima e desproporcional.
Direitos de Pessoas Afetadas pela IA
Com relação às pessoas afetadas pelos sistemas de inteligência artificial, o projeto pretende proteger o cidadão comum, estabelecendo alguns direitos mínimos, como informação prévia quanto às suas interações com sistemas de inteligência artificial; explicação sobre a decisão, recomendação ou previsão tomada por sistemas de inteligência artificial; direito de contestar decisões ou previsões de sistemas de inteligência artificial que produzam efeitos jurídicos ou que impactem de maneira significativa os interesses do afetado; e o direito à determinação e à participação humana em decisões de sistemas de inteligência artificial. O direito à privacidade e de proteção de dados também é reiterado no documento.
O texto ainda destaca o direito à não discriminação e à correção de vieses, vedando explicitamente a discriminação baseada em origem geográfica, raça, cor ou etnia, gênero, orientação sexual, classe socioeconômica, idade, deficiência, religião ou opiniões políticas. Por outro lado, fica permitida a adoção de critérios de diferenciação de indivíduos ou grupos quando houver justificativa razoável e legítima “à luz do direito à igualdade e dos demais direitos fundamentais”.
Igualmente como forma de proteção, o projeto prevê que nos casos em que as decisões dos sistemas de IA tiverem impacto potencialmente irreversível ou puderem gerar riscos à vida ou à integridade física dos indivíduos, será obrigatório um alto grau de envolvimento humano no processo decisório da ferramenta.
Em caso de incidentes graves de segurança, como situações em que houver ameaça à vida ou à integridade física de pessoas, ou interrupção de funcionamento ou fornecimento de serviços essenciais, danos ao meio ambiente ou violação aos direitos fundamentais, as autoridades competentes deverão ser comunicadas.
De acordo com o atual texto, os fornecedores e operadores de ferramentas de IA poderão adotar programas de governança alinhados à legislação. Apesar de não ser obrigatória, esse tipo de prática poderá demonstrar boa fé dos acusados e, consequentemente, ser levada em consideração em casos de aplicações de sanções administrativas, por exemplo.
Direitos Autorais, Inovação e Vigência
O PL 2.338/2023 ainda trata da questão de direitos autorais criados por IA. Na mesma linha da legislação já vigente sobre direitos autorais, ele autoriza, por exemplo, o uso automatizado de obras pelos sistemas de inteligência artificial, sem que a cópia ou utilização desse material constitua uma violação de direito autoral, por instituições de pesquisa, jornalismo, museus e bibliotecas, desde que a finalidade não seja a reprodução e distribuição da obra e que não haja prejuízo aos interesses econômicos dos detentores dos direitos autorais. Essa abordagem expande as exceções a proteção de direitos autorais previstas na Lei de Direitos Autorais (Lei 9.610/98).
Finalmente, interessante destacar que o texto ainda prevê que a autoridade competente poderá autorizar, a pedido dos interessados, a criação de um ambiente regulatório experimental denominado sandbox experimental, para estimular a inovação. Esse tipo de ambiente permite o funcionamento temporário de produtos e serviços inovadores sem o cumprimento obrigatório de todas as regras do setor, mas com o monitoramento dos órgãos reguladores.
A lei resultante da aprovação do projeto entrará em vigor um ano depois de sua publicação.