1. Inteligência Artificial (“IA”)

1.1 O que é?

O conceito de inteligência artificial muda constantemente. Em um sentido amplo, IA refere-se a máquinas que
tem a capacidade de aprender, raciocinar e agir por si mesmas. Quando confrontadas com novas situações, as
máquinas conseguem tomar decisões da mesma forma que animais e humanos. A tecnologia é uma complexa rede neural de algoritmos, processos cognitivos e fórmulas de aprendizado que se equiparam a habilidades originalmente humanas, contando com o raciocínio lógico, análise de ambiente e tomada de decisões estratégicas.

1.2. Importância do Tema / Pontos positivos da IA

A inteligência artificial tem sido abordada há alguns anos em diferentes perspectivas e avanços. Com o desenvolvimento tecnológico acontecendo rapidamente, atualmente, é possível imaginar e presenciar máquinas e
computadores sendo programados para desenvolver características de inteligência biologicamente humanas.

Segundo dados da Gartner, 75% das empresas passarão da fase piloto para a operacionalização da inteligência
artificial em seus negócios. Dentre os objetivos da aplicação da inteligência artificial, o principal é criar soluções e
atuar de forma célere, contando com:

• melhoria na avaliação de indicadores e tomada de decisões
• aumento da automação e velocidade no tratamento de informações
• redução de erros, riscos e custos operacionais
• atendimento otimizado ao público

Atualmente, já é possível verificar o avanço que a IA proporciona nos mais diversos campos da economia, dentre eles:

• Transporte e Mobilidade (gps; carros inteligentes)
• Automação Industrial
• Atendimento ao Usuário
• Bancos e Sistema Financeiro
• Saúde e Medicina
• Educação
• Entretenimento (games, eSports, Aplicativos de música, Streamings)
• Varejo e-commerce
• Agricultura

1.3 Aplicações da IA

Existem vários tipos de inteligência artificial. Sob a perspectiva de funcionamento, poderíamos dividir IA da seguinte forma:

AGENTE DE IA

I – Percepções / Sensores

O agente percebe o seu ambiente através de sensores: câmeras, detectores infravermelhos, microfone, entre outros.

II – Processamento de Informações

Com base na análise do ambiente, o agente de IA processa as informações e as interpreta para definir uma tomada de decisão.

III – Atuação

Após a interpretação do agente, este atua conforme a interpretação do ambiente: processando imagens, transcrevendo o que você diz através de reconhecimento de voz, se movimentando ou tomando outras decisões operacionais.

IV – Raciocínio e Tomada de decisão

Após a atuação do agente que define como ele deve agir, vêm a fase de aprendizagem e definições de como agir com base na análise do ambiente, nas informações e na atuação.

1.4. Inteligência Artificial Forte e Inteligência Artificial Fraca

IA Forte:

A inteligência artificial forte é elaborada a partir da inteligência artificial geral e superinteligência artificial. É a aplicação de uma inteligência igualável a capacidade do cérebro humano ou que até ultrapassaria a inteligência e capacidade do cérebro humano.

IA Fraca:

A inteligência artificial fraca ou limitada é a inteligência artificial treinada e focada para realizar tarefas específicas, sem a capacidade de raciocinar por si própria.

2. Algoritmos

2.1 Algoritmo

A definição de algoritmo e algoritmo de inteligência artificial possuem certas nuances de diferença. O termo
algoritmo é definido como uma sequência ou conjunto de instruções alimentada para a solução de um problema. Para esta definição de algoritmo, é necessário entender que as instruções definidas para a solução do
problema são definidas por humanos, significando uma dependência das máquinas ao raciocínio humano

2.2 Algoritmo de Inteligência Artificial

Os algoritmos de inteligência artificial podem ser definidos como uma sequência ou conjunto de instruções
alimentada por dados, que servem como referências, para executar, da melhor forma possível, a operação
desejada e ainda, alimentam o processo de aprendizagem do sistema de inteligência artificial.

2.3 Aprendizado de Máquina (Machine Learning)

O machine learning, ou aprendizado de máquina, é uma área da inteligência artificial que utiliza algoritmos
para organizar dados, reconhecer padrões e fazer com que máquinas possam aprender e gerar insights inteligentes sem necessidade de pré-programação humana. Neste sentido, os algoritmos de machine learning aprendem a partir de sua base de dados e, assim, aprendem a executar tarefas de forma autônoma. Quando expostas a novos dados, as máquinas se adaptam e aprendem de forma autônoma para oferecer novas respostas confiáveis.
Exemplos de serviços alimentados por machine learning: Recomendações da Netflix, Youtube e Spotify; Assistentes de voz como Siri e Alexa; Feeds de redes sociais como Instagram e Twitter.

2.4 Aprendizado Profundo (Deep Learning)

O deep learning é um tipo de algoritmo sofisticado de machine learning que se baseia na utilização da técnica
que dá às máquinas uma capacidade aprimorada e avançada de encontrar até os menores padrões e entregarem um resultado com previsão. A técnica utilizada para este tipo de algoritmo é chamada de redes neurais
(neural networks) e tal algoritmo é utilizado para treinar máquinas para executarem atividades como os
seres humanos.

2.5 PNL (Processamento de Linguagem Natural)

O processamento de linguagem natural é uma vertente da inteligência artificial que auxilia as máquinas a entenderem, interpretarem e manipularem a linguagem humana. O PNL colabora para que máquinas consigam interpretar textos, extrair informações, realizar resumos, entre outros.

3. Desafios da IA em Relação a Proteção de Dados Pessoais

3.1. Princípios da LGPD Aplicáveis a IA

A LGPD disciplina o tratamento de dados, automatizados ou não, que devem seguir às regras gerais de tratamento de dados pessoais elencadas na LGPD.

O tratamento de dados automatizados, como aquele realizado por sistemas de inteligência artificial, e todo o seu processo de desenvolvimento deve estar em consonância com os princípios da LGPD, com ênfase aos princípios da transparência, segurança, prevenção e não discriminação:

Transparência:

Garantia, aos titulares, de informações claras, precisas e facilmente acessíveis sobre a realização do tratamento e sobre os agentes de tratamento.

Segurança:

Utilização de medidas técnicas e administrativas para proteger os dados pessoais de acessos não
autorizados e de qualquer situação acidental ou ilícita.

Prevenção:

Adoção de medidas para prevenir a ocorrência de danos em virtude do tratamento de dados pessoais.

Não Discriminação:

É vedada a realização de tratamento para fins discriminatórios ilícitos ou abusivos.

3.2 Bases Legais da LGPD

Além dos princípios mencionados no item anterior, a LGPD prevê o princípio da finalidade, onde cada dado pessoal deve ser tratado para uma finalidade específica e informada ao titular.

As bases legais são as hipóteses legais que permitem o tratamento de dados pessoais, e só poderão ser definidas a partir da análise: i) do tipo de dado a ser tratado e; ii) da finalidade do tratamento.

Neste sentido, para a criação, desenvolvimento e implementação do sistema de inteligência artificial, a base legal para o tratamento de cada dado pessoal deverá contar com a análise do tipo de dado e a finalidade do seu tratamento para que exista conformidade em sua identificação.

Há diferença da aplicação das bases legais para tratamento de dados pessoais e dados
pessoais sensíveis.

• Consentimento
• Cumprimento de obrigação legal ou regulatória
• Administração Pública
• Defesa em processo judicial, administrativo ou arbitral
• Execução de contrato
• Legítimo interesse
• Proteção da vida
• Tutela da saúde
• Proteção ao crédito
• Prevenção à fraude

3.3 Decisão Automatizada e Direito de Revisão

A LGPD não define ou regulamenta o termo “decisão unicamente automatizada” em seu normativo. Similar ao que indica o European Data Protection Board”, podemos entender que na LGPD uma decisão unicamente automatizada é aquelas decisões tomada por meios tecnológicos sem envolvimento humano.”

Com a LGPD, o titular de dados pessoais possui direito à revisão do tratamento automatizado de seus dados e que afetem seus interesses, inclusive em “profiling” do titular que defina seu perfil pessoal, profissional, de consumo e de aspectos da sua personalidade. Conforme a previsão da LGPD, o direito de revisão deve prever a existência de dois aspectos:

• Decisão tomada unicamente com base no tratamento automatizado
• Quando a decisão afetar os interesses do titular de dados

O objetivo dessa regra é criar uma camada de proteção ao titular, decorrente de erros causados pelo uso da tecnologia de inteligência artificial ou algoritmo.

3.4 Algoritmos Discriminatórios:

Grande parte dos algoritmos se baseiam na discriminação estatística, diferenciando indivíduos através de características de um grupo e a probabilidade de tal grupo agir de uma determinada maneira. Neste sentido, entender os processos e critérios utilizados para classificar tais indivíduos é relevante, analisando a transparência do processo e se o seu viés é justo.

Os algoritmos discriminatórios podem se basear em características discriminatórias ilícitas e tomar decisões que impliquem em uma classificação enviesada de indivíduos através de seus dados. As discriminações mencionadas podem ser:

Discriminação por Erro Estatístico

Decorre de erros de caráter estatístico como: problemas no código do algoritmo, coleta de dados incorretos ou algum outro erro estatístico que gere uma falha no procedimento e o traga um viés discriminatório.

Discriminação por Generalização

Decorre de classificação equivocada de indivíduos em certos grupos, devido à análise generalizada de determinado dado.

Discriminação pelo uso de Informações Sensíveis

Decorre da utilização de dados sensíveis e normalmente, destacando grupos historicamente discriminados. E.g., nacionalidade, gênero, idade, raça, entre outros.

Discriminação Limitadora do Exercício de Direitos

Decorre da conexão entre a informação utilizada pelo algoritmo e a realização de um direito pelo
indivíduo, que pode ser relevantemente afetado. E.g., Bureaus de crédito na Alemanha que analisavam a frequência de acesso de indivíduos a suas informações e entendiam que estes teriam maior risco de inadimplência.

3.5 Transparência

A LGPD traz o dever do controlador de fornecer, sempre que solicitadas, informações claras e adequadas aos titulares de dados acerca do procedimento e critérios utilizados no tratamento automatizado de dados. Tal previsão é chamada de direito à explicação e está ligada ao conceito de garantir maior transparência ao titular de dados. Caso o controlador não atenda tal normativo, a ANPD poderá realizar auditoria para verificar aspectos discriminatórios no tratamento automatizado de dados.

Todavia, existem pontos que podem dificultar a garantia de transparência ao titular quando se trata de decisões automatizadas, como:

• A previsão da lei de respeito aos segredos comercial e industrial; e
• A obscuridade nos processos decisórios de IA, conhecido como “black box issue” ou “problema da caixa preta”.

A inteligência artificial possui um aspecto “opaco” em relação à transparência, visto que os algoritmos utilizados refletem um viés de seus criadores e quando combinados e treinados refletem em problemas sistêmicos na sociedade que são difíceis de prever, trazendo a denominação dos algoritmos de “caixa-preta”.

3.6. Boas Práticas em Inteligência Artificial

Para uma inteligência artificial de confiança devem ser observados os seguintes elementos em todo o ciclo de vida do sistema:

I: Cumprir toda a legislação e regulamentação aplicáveis;

II: Garantir a observância de princípios e valores éticos;

III: Deve ser sólida tanto do ponto de vista técnico como social, devido ao potencial de risco de danos que a inteligência artificial pode causar.

Dentre pontos a serem observados na utilização de inteligência artificial, devemos priorizar os seguintes:

Elaboração de relatório de impacto à proteção de dados (RIPD) para análise de riscos e definição de medidas de segurança na utilização de novas tecnologias;

Utilização de ferramentas Privacy by Design para o desenvolvimento, implementação e utilização de sistema de inteligência artificial;

Utilização de mecanismos para facilitar a rastreabilidade e a auditabilidade dos sistemas de inteligência artificial;

Conformidade com a Lei Geral de Proteção de Dados;

Conformidade as regras de proteção aos consumidores e outras leis setoriais; e

Atendimento aos direitos de titulares, prevendo inclusive a transparência em relação ao tratamento automatizado de dados em política de privacidade

compartilhe