brnews.net

Brasil

Parecer sobre a Normatização de Inteligência Artificial (IA) no Brasil

O presente Parecer possui como objeto a análise e a crítica dos projetos de lei acerca de Inteligência Artificial no Brasil (PL 5051/2019, PL 21/2020, PL 872/2021). A seguir, seguem os textos dos projetos com os respectivos comentários, para, ao final, apresentar-se uma nova sugestão de redação.


1. Análise e Crítica do Projeto de Lei 5051/2019


PROJETO DE LEI Nº 5051, DE 2019

Estabelece os princípios para o uso da Inteligência Artificial no Brasil.

Comentário 1.0. - A noção de artificialidade remete a uma oposição ao que se diz natural. Primeiro, portanto, é necessário definir o quê é o substantivo que recebe a qualificação de ser artificial ou ser natural. Tal substantivo é a inteligência, cujo debate acerca do que a mesma seria remonta na mais antiga filosofia. Pode-se dizer, de modo amplo e genérico, que é inteligente a pessoa que sabe resolver problemas. O senso comum diz que é inteligente aquele que consegue encontrar os meios necessários para se atingir uma determinada finalidade. É a noção que famosos da Ciência da Computação, tais como Alan Turing e John McCarthy, parecem se aproximar, havendo um foco muito forte na ideia do pensar enquanto racionalidade (1). Nesse sentido, o senso comum pode dizer que um criminoso bem sucedido em seu ato delituoso é inteligente, assim como o cientista da computação pode dizer que sua máquina é inteligente em razão de computar, calcular, as possibilidades de jogadas de xadrez com vistas ao objetivo da vitória. Trata-se de uma noção de inteligência que é interessante, e que está muito ligada a ideia de lógica, porém tal noção é insuficiente. A ideia de inteligência deve abarcar também a escolha da finalidade, do objetivo. A inteligência humana, sabemos, possui essa completude, que considera os meios e os fins, inclusive o fim último de todos os seres, que é o de continuar a existir. Não à toa, mentes brilhantes como Jean Piaget se viram obrigados a refletir sobre a inteligência passando não apenas pela lógica, pelas regras do pensamento, mas passando também pela noção de adaptação (2). Questionemos: será seguro considerar que uma máquina possua a inteligência “completa”, no sentido de que ela pode escrever seu próprio código operacional, escolhendo seus objetivos? As respostas ainda não estão claras. Para além de reconhecimento de discurso humano, substituição de humanos em tarefas que vão desde o atendimento feito por caixas de supermercados até composição musical e operacionalidade de carros autônomos e outras máquinas, nada impede que uma IA possa vir a tomar o lugar de juízes e vir a ser mais imparcial e produtiva na análise de provas, mensurando micro-expressões faciais e outros dados biométricos de vítimas, acusados e testemunhas, para, ao final, emitir um decisium pautado na finalidade de paz social entre os humanos. Embora artificial, eis que criada pelo ser humano, trata-se da possibilidade de inteligência “completa”, tal qual um Estado parece possuir. De modo que, nesse momento em que nos encontramos, a definição mais adequada para a lei é a que considera que a IA possa ser tratada como uma pessoa, tal como é tratada a juris fictio da pessoa jurídica. Se uma empresa, ou o próprio Estado, que são criações humanas, são sujeitos de direitos e deveres, por quê não deveria ser tratada a IA tal qual essas criações? Sugere-se, assim, a seguinte definição para a lei: “Essa lei estabelece os princípios para a criação, o uso e a extinção de Inteligência Artificial no Brasil”. Note que não é “da” IA, e sim “de” IA.

(1) https://www.ibm.com/cloud/learn/what-is-artificial-intelligence – acesso em 22/06/2022
(2) PIAGET, Jean. A psicologia da inteligência.

O CONGRESSO NACIONAL decreta:

Art. 1º Esta Lei estabelece os princípios para o uso da Inteligência Artificial no Brasil.

Comentário 1.1. - Em consonância com o Comentário 1.0., o modo mais efetivo de tratar juridicamente a criação humana da IA é considerá-la tal qual uma ficção jurídica, em oposição a que consideramos uma pessoa natural. A motivação para tal tratamento é que, uma vez considerada como uma pessoa jurídica nos moldes do Código Civil, Parte Geral, Livro II – Das Pessoas Jurídicas, poder-se-á utilizar do instituto da responsabilidade civil – se causar dano, terá o dever de reparar; se sofrer dano, terá o direito de ser indenizada. E uma vez construída a vontade da IA por meio dos algorítmos originais, aqueles que a constituíram responderão, subsidiariamente, por tal vontade. De modo que podemos pensar em uma responsabilidade civil em cascata: primeiro a IA será responsável com seu próprio patrimônio, que deverá ser constituído assim como o capital social de uma sociedade o é, depois, sendo insuficiente o capital constitutivo da IA, a empresa que a criou o será, podendo haver direito de regresso contra os designers do algorítimo se houver culpa ou dolo por parte desses. Nesse sentido, a melhor redação seria “Art. 1º. Essa Lei estabelece os princípios para o uso de Inteligência Artificial no Brasil, a qual é equiparada, juridicamente, às pessoas jurídicas, sendo portadora de direitos e deveres“.

Art. 2º A disciplina do uso da Inteligência Artificial no Brasil tem como fundamento o reconhecimento de que se trata de tecnologia desenvolvida para servir as pessoas com a finalidade de melhorar o bem-estar humano em geral, bem como:
I – o respeito à dignidade humana, à liberdade, à democracia e à igualdade;
II – o respeito aos direitos humanos, à pluralidade e à diversidade;
III – a garantia da proteção da privacidade e dos dados pessoais;
IV – a transparência, a confiabilidade e a possibilidade de auditoria dos sistemas;
V – a supervisão humana.

Comentário 1.2. - No que se refere ao uso da IA com a finalidade de melhorar o bem-estar humano em geral, vale lembrar, inicialmente, o quê ficou conhecido pelas três leis da robótica ou as leis de Isaac Asimov – mutatis mutandis: (1) uma IA não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal; (2) uma IA deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que tais ordens contrariem a lei anterior; (3) uma IA deve proteger sua própria existência, desde que tal proteção não entre em conflito com as leis anteriores. O Direito, embora tutele o meio ambiente, animais, sociedades de fato e jurídicas, sempre o faz com vistas a servir o ser humano. Ubi societas, ibi jus. O ser humano, e seu humano-centrismo, é sempre a finalidade do Direito. Ocorre que já verificamos que o Estado, uma criação feita para proteger o humano, muitas vezes se volta contra ele, podendo o explorar, retirar sua dignidade humana, sua liberdade e etc. O grande receio dessa nova tecnologia é que ocorra justamente isso: algo criado para proteger o ser humano se voltando contra o ser humano. Aqui, repercurte-se, então, o viés, bias, que se incrusta nos algorítmos por meio de seus programadores e “designers éticos”. Por certo que, em muitos casos, não há liberdade por partes de usuários de IA. Por certo que, em várias situações, não se tratam com igual dignidade (Dworkin) os usuários. E, no limite, os hoje chamados “eticistas da tecnologia” ficarão divididos entre salvar o gato ou o cachorro em uma situação em que o veículo autônomo precise fazer uma escolha de vida e morte entre esses seres, entre qual “deverá” ser atropelado e qual “deverá” ser salvo. A IA nos empurra para enfrentar os limites éticos. Como podemos falar em diversidade e pluralidade se muitos dos algorítmos são construídos visando a formação do que denominamos de “bolhas” virtuais? E como entregar resultados tecnológicos para os usuários se houver extrema dificuldade para mensurar os dados? Talvez, pode-se dizer que há até um fetichismo na palavra “privacidade”, devido a privacidade se tornar mais e mais fraca na prática tecnológica, mesmo diante das inúmeras leis de proteção de dados mundo afora. E quando falamos em transparência, confiabilidade e possibilidade de auditoria dos sistemas de IA não estamos esbarrando em um universo que prima pelo segredo comercial e industrial? Como auditar sem poder ver o código? Deveriam todos os códigos-fonte de IA serem open source? Em um mundo de monopólio, como o é o mercado de tecnologia, isso de código-aberto é ilusão? De modo que a técnica legislativa, nesse artigo, não se revela como a melhor. Normas muito abertas, por vezes tidas como programáticas (liberdade, igualdade etc), outras interpretadas até como de aplicação imediata (direitos humanos) porém com amplitude universal...tais normas, parece-me, devem estar adstritas ao sistema constitucional, e não em legislações infra-constitucionais. A repetição daquilo que já existe na Constituição gera um efeito indesejado na prática: banalizam-se tais normas. Por estarem em todos os lugares, não se transformam em um mantra eficaz, ao contrário, tornam-se vazias, facilmente relativizadas. O quê é, afinal, o bem-estar humano para mim é o mesmo que para você? Assim, voltemos em Asimov e na boa técnica legislativa que reserva para a legislação infra-constitucional regras com especificidades que não permitem muitas interpretações diferentes. O comando positivo-legal tem que ser claro, reto, preciso, específico. Pelo exposto, sugere-se a seguinte redação para esse artigo: “Art. 2º. Toda e qualquer Inteligência Artificial que opere no Brasil tem como fundamento tratar com igual dignidade todos os humanos que a ela estão sujeitos, respondendo a IA, com ou sem supervisão humana, bem como seus eventuais responsáveis solidários e subsidiários, pelas eventuais perdas e danos provocados, tanto em âmbito individual como coletivamente, observando-se o seguinte rol taxativo:
I – Uma IA é uma pessoa jurídica, com ato constitutivo em Junta Comercial e registro tributário no Ministério da Economia;
II – No ato constitutivo, ou em alteração contratual, deverá ser feita declaração dos objetivos e finalidades da respectiva IA por suas pessoas constitutivas, sejam essas naturais ou jurídicas;
III – No ato constitutivo, ou em alteração contratual, deverão ser declaradas quais as origens dos dados coletados e os tipos desses dados;
IV – Mudando-se os objetivos e finalidades, ou as origens e tipos de dados da IA, deverá ser feita a respectiva atualização na Junta Comercial em até 30 (trinta) dias da mudança;
V – Toda IA deverá ter um capital subscrito e integralizado, exclusivamente para eventual indenização, com proporcionalidade ao patrimônio de suas pessoas constitutivas e a quantidade de dados processados;
VI – Respeitados os segredos industrial, comercial e de Estado, a IA poderá possuir código-fonte fechado ou aberto (open-source), observando, nesse último caso, isenção tributária de qualquer renda auferida pela IA e a possibilidade de IA sem supervisão humana;
VII – A extinção da IA poderá ser feita, em âmbito administrativo, de modo voluntário pelas suas pessoas constitutivas ou em razão de infração das regras acima taxadas, podendo ainda a IA ser extinta, judicialmente, pela desconsideração de sua personalidade jurídica ou por infrações de natureza criminal cuja sanção prevista seja de reclusão, respeitados a ampla defesa e o contraditório”.

Art. 3º A disciplina do uso da Inteligência Artificial no Brasil tem por objetivo a promoção e a harmonização da valorização do trabalho humano e do desenvolvimento econômico.

Comentário 1.3. - Sabe-se que o poder computacional necessário para o processamento de grandes volumes de dados só é acessível para grandes empresas ou Estados. Embora os computadores tenham evoluído desde o remoto ENIAC (Electronic Numerical Integrator and Computer), computador que remonta a primeira metade do século passado, até os computadores pessoais e os atuais smartphones, que podemos dizer que são computadores de bolso, o poder computacional para processar e computar grandes volumes de dados não está à disposição das pessoas comuns. Atualmente se está a falar em computação quântica, mas tal computação está na órbita de empresas mundiais e Estados, não de pessoas comuns. Esse artigo do projeto de lei fala acerca de valorização do trabalho humano e do desenvolvimento econômico. A realidade é que cada vez mais o trabalho humano está sendo substituído pelas máquinas, basta entrar em uma montadora de veículos, observar como são feitos os chips em nanoescala ou, de modo mais simples, reconhecer que algumas redes de grandes supermercados estão a substituir os caixas humanos. Se em breve aparecer um robô-médico que opera errando menos do que um humano, tal estatística fará com que tal robô prevaleça. Se veículos autônomos matarem menos no trânsito do que veículos dirigidos por humanos, aqueles se tornarão o padrão. E toda essa tecnologia está sob monopólios mundiais. De modo que estamos, talvez, em um período de transição para uma sociedade pós-capitalista (afinal onde há monopólio não há concorrência), e nessa sociedade os humanos passarão, cada vez mais, a ter menos utilidade do ponto de vista da produção econômica. Nesse sentido, sugere-se a seguinte redação: “Art. 3º. Para cada 10 partes econômicas ideais, produzidas por uma IA, já deduzidos os eventuais tributos, 2 dessas partes ideais, ou 20% (vinte por cento), serão destinadas a fundo público de renda básica para pessoas naturais de nacionalidade brasileira, o qual será instituído em até 6 (seis) meses da promulgação dessa lei, observando-se para a concessão da renda o grau de vulnerabilidade sócio-econômica-educacional, bem como o impacto da IA em setores específicos da economia”

Art. 4º Os sistemas decisórios baseados em Inteligência Artificial serão, sempre, auxiliares à tomada de decisão humana.
§ 1º A forma de supervisão humana exigida será compatível com o tipo, a gravidade e as implicações da decisão submetida aos sistemas de Inteligência Artificial.
§ 2º A responsabilidade civil por danos decorrentes da utilização de sistemas de Inteligência Artificial será de seu supervisor.

Comentário 1.4. - A problemática da decisão humana sempre esteve assentada na composição entre as emoções, paixões, sentimentos e a razão, a lógica, o pensamento. Sabemos que quando estamos bravos, chateados, emocionados com alguma situação temos maior dificuldade para julgar racionalmente. Por outro lado, após o Racionalismo atingir seu extremo com grandes pensadores como Kant, passamos a ter o esclarecimento de que nossa razão, humana, é em muito direcionada, guiada, por nossas emoções e inconsciente, como, dentre muitos outros, mostraram-nos Nietzsche, Freud. Neurologistas, atualmente, como Antônio Damásio, já provaram, por métodos científicos, ser impossível pensar sem sentir e sentir sem pensar. Ocorre que, embora se enalteça o império da lei, das regras, o humano que as aplicam, justamente pela sua humanidade, não conseguem se desvincular de seus sentimentos, de seus valores, de sua moral. E isso, por muitas vezes, atrapalha em muito o processo decisório humano em determinadas searas. Eis, portanto, no tempo da IA, uma oportunidade para testarmos uma real imparcialidade, a qual está muito além da ideia, ensinada nos cursos jurídicos, de paridade de armas em situações contenciosas. Sugere-se a seguinte redação: “Art. 4º. Os sistemas decisórios baseados em Inteligência Artificial deverão ser construídos com o auxílio de, no mínimo, 2 (dois) humanos comprovadamente especializados no estudo da Ética e da Moral, sem prejuízo de instância recursal composta por colegiado humano.
§ 1º. Salvo em caso de necessidade liminar, baseada em verossimilhança de juridicidade (fumus boni irus) e perigo da demora (periculum in mora), os recursos contra sistemas decisórios humanos serão julgados coletivamente, por temas, após comprovada repercussão geral da matéria.
§ 2º. A indenização por danos decorrentes da utilização de sistemas decisórios baseados em Inteligência Artificial será feita, primeiramente, a partir de seu capital constitutivo, sem prejuízo de eventuais responsabilidades solidárias e subsidiárias, e da possibilidade de extinção da IA nos termos do Art. 2º dessa lei”.

Art. 5º Constituem diretrizes para a atuação da União, dos Estados, do Distrito Federal e dos Municípios no desenvolvimento da Inteligência Artificial no Brasil:
I – a promoção da educação para o desenvolvimento mental, emocional e econômico harmônico com a Inteligência Artificial;
II – a criação de políticas específicas para proteção e para qualificação dos trabalhadores;
III – a garantia da adoção gradual da Inteligência Artificial;
IV – a ação proativa na regulação das aplicações da Inteligência Artificial;

Comentário 1.5. - Consoante o Comentário 1.3. supra, a IA poderá trazer uma sociedade e uma economia totalmente diversa da que atualmente conhecemos, eis que será capaz de realizar tarefas que antes os humanos faziam, não em apenas algumas áreas, mas em quase todas as áreas. Poderá ser uma IA um psicólogo muito mais eficiente no tratamento da saúde mental humana? Há de se questionar: qual o papel do humano quando tudo o que precisamos fazer atualmente para viver puder ser feito por IAs? Certamente não deixaremos de trabalhar, mas o trabalho humano ganhará outro significado. Trabalhar significará se desenvolver em suas potencialidades humanas, em especial nas Artes, na Ciência, na Religiosidade, na Filosofia, no Amor. Mas o dito ócio produtivo, nos termos que os antigos gregos entendiam, só será possível se a educação se voltar para tanto e se for garantido que as necessidades materiais sejam supridas sem que o humano precise se esforçar para tanto. Em termos simples, as máquinas, a IA, os robôs etc...nos darão os bens materiais. É um momento único na Humanidade no sentido de que podemos usar de algo que nos torne livres para o ócio produtivo. Nesse sentido, sugere-se a seguinte redação: “Art. 5º. Sem prejuízo da propriedade privada, da livre iniciativa e do direito de herança, o percentual previsto no Art. 3 dessa lei será alterado conforme segue:
I – após os primeiros 7 (sete) anos de promulgação dessa lei, a parte ideal das rendas geradas por IAs e destinadas ao fundo público de renda básica será de 35% (trinta e cinco por cento);
II – após 14 (quatorze) anos de promulgação dessa lei, a parte ideal das rendas geradas por IAs e destinadas ao fundo público de renda básica será de 50% (cinquenta por cento);
III – as regras acima, bem como a do Art. 4º dessa lei, deverão ser observadas por IAs estrangeiras atuando em território brasileiro, bem como por IAs criadas pelo Estado, observando, nesse último caso, a mensuração de renda pela proporcionalidade no corte de custos e despesas, ou por estimativa equiparada ao setor privado, o que for maior”.

Art. 6º As aplicações de Inteligência Artificial de entes do Poder Público buscarão a qualidade e a eficiência dos serviços oferecidos à população.

Comentário 1.6. - Considerando as novas sugestões de redação para os Arts. 3º e 5º acima, e o atual processo de profunda modificação sócio-econômica, sugere-se a seguinte redação: “Art. 6º. A renda básica para nacionais brasileiros residentes no Brasil está isenta de imposto de renda, estando sujeita a uma alíquota previdenciária de 10% (dez por cento) pelos próximos 14 (quatorze) anos contados a partir da promulgação dessa lei, sendo extinto tal tributo após o término desse período”

Art. 7º Esta Lei entra em vigor após decorridos quarenta e cinco dias de sua publicação oficial.

JUSTIFICAÇÃO. A adoção de sistemas baseados em Inteligência Artificial na indústria e na prestação de serviços é, hoje, uma realidade em todo o mundo. Essa nova tecnologia, não há dúvidas, pode trazer grandes ganhos de produtividade, além de melhorias na qualidade. Entretanto, apesar das vantagens que a Inteligência Artificial pode trazer, há também riscos associados à sua adoção. Por essa razão, não se pode, de modo inconsequente, adotar a Inteligência Artificial sem uma regulação mínima que traga as garantias necessárias para essa transição. Por essa razão, apresento esta proposição, destinada a estabelecer os princípios básicos do uso da Inteligência Artificial no Brasil. Como se observa, não se trata de frear o avanço da tecnologia, mas de assegurar que esse desenvolvimento ocorra de modo harmônico com a valorização do trabalho humano, a fim de promover o bem-estar de todos. Destaco que, nos termos da proposição, todo sistema de Inteligência Artificial terá a supervisão de uma pessoa humana, de forma compatível com cada aplicação. Com isso, é possível aliar as vantagens trazidas por essa inovação tecnológica com a necessária segurança, evitando que eventuais equívocos do sistema automatizado provoquem consequências indesejadas. Além disso, a fim de dirimir eventuais dúvidas acerca da responsabilidade por danos decorrentes de sistemas de inteligência artificial, o projeto define que a responsabilidade será, sempre, do supervisor humano do sistema. A proposição estabelece ainda diretrizes específicas para a atuação do Poder Público, entre as quais destaco a criação de políticas específicas para a proteção e para a qualificação dos trabalhadores. Com isso, pretende-se mitigar eventuais efeitos negativos dessa nova tecnologia. Pelo exposto, conto com a colaboração dos nobres colegas para o aperfeiçoamento desta proposição e, ao fim, para sua aprovação. Sala das Sessões, Senador STYVENSON VALENTIM

JUSTIFICAÇÃO. A Inteligência Artificial é o vetor capaz de tranformar totalmente a sociedade e a economia tal como a conhecemos. O norte de tal tecnologia está na liberação dos humanos da necessidade de trabalho para suprir necessidades materiais. A IA, em linhas gerais, possui a capacidade de estabelecer uma renda básica para as pessoas ao mesmo tempo que transforma a noção que temos hoje de trabalho. Trabalho será, assim como na Ciência da Física, gasto de energia, porém um gasto de energia voltado para o desenvolvimento das potencialidades humanas, conforme o desejo e possibilidades de cada indivíduo. Para tanto, a IA deve ser entendida como sujeito de direito, aos moldes da pessoa jurídica, que é uma fictio iuris. Sugere-se que essa lei seja denominada de “Lei da Liberdade Humana”. Rafael De Conti.


2. Análise e Crítica do Projeto de Lei 21/2020


PROJETO DE LEI Nº 21, DE 2020

Estabelece fundamentos, princípios e diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil; e dá outras providências.

Comentário 2.0. - As palavras “fundamento”, “princípio” e “diretriz” referem-se ao mesmo significado, de modo que podemos dizer que todas dizem respeito à base, àquilo que vem antes, permanece e vai além. Como sugerido no Comentário 1.1. supra, devemos entender, para regular, os trê momentos de todo e qualquer ser, seja esse artificial ou natural. Esses momentos são a criação (ou nascimento), o uso (ou vida) e a extinção (ou morte). Importante frisar que é comum dizermos “a vida útil” de tal objeto. Nesse sentido, e visando a harmonização entre humanos e máquinas, sugere-se a seguinte redação: “Essa lei normatiza a vida de Inteligência Artificial no Brasil e de suas relações com os humanos”.

O CONGRESSO NACIONAL decreta:

Art. 1º Esta Lei estabelece fundamentos e princípios para o desenvolvimento e a aplicação da inteligência artificial no Brasil e diretrizes para o fomento e a atuação do poder público nessa área.

Comentário 2.1. - Vale, aqui, tratarmos da ideia de desenvolvimento e aplicação. O quê é necessário para se desenvolver IA? Por certo que, inicialmente, precisamos de recursos humanos para construir primeiras IAs, as quais, posteriormente, poderão se desenvolver a si mesmas. Tais recursos humanos devem ser constituídos por pessoas que entendam de Matemática, eis que computar significa calcular. Diz-se que os primeiros computadores eram os computadores humanos: mulheres que calculavam para fins militares na Segunda Guerra Mundial, embora haja um debate menor acerca de computador na Antiguidade. Mas não é só de pessoas versadas em matemática que precisamos, mas também de recursos humanos versados em Ética, em Psicologia, em Designer...a bem da verdade, a construção de uma IA vai envolver todos os profissionais que atuam na área de aplicação da IA. Se formos construir uma Health IA precisaremos de médicos, biomédicos, enfermeiros, químicos, físicos...uma Edu IA demandará de pedagogos, psicólogos etc...uma Juris IA precisará de advogados, promotores, juízes...e assim por diante. Assim, sugere-se a seguinte redação: “Art. 1º. Essa Lei regula a vida de Inteligências Artificiais no Brasil”.

Art. 2º Para os fins desta Lei, considera-se sistema de inteligência artificial o sistema baseado em processo computacional que, a partir de um conjunto de objetivos definidos por humanos, pode, por meio do processamento de dados e de informações, aprender a perceber e a interpretar o ambiente externo, bem como a interagir com ele, fazendo predições, recomendações, classificações ou decisões, e que utiliza, sem a elas se limitar, técnicas como:
I – sistemas de aprendizagem de máquina (machine learning), incluída aprendizagem supervisionada, não supervisionada e por reforço;
II – sistemas baseados em conhecimento ou em lógica;
III – abordagens estatísticas, inferência bayesiana, métodos de pesquisa e de otimização.
Parágrafo único. Esta Lei não se aplica aos processos de automação exclusivamente orientados por parâmetros predefinidos de programação que não incluam a capacidade do sistema de aprender a perceber e a interpretar o ambiente externo, bem como a interagir com ele, a partir das ações e das informações recebidas.

Comentário 2.2. - A primeira observação que há de se fazer nessa tentativa de definição de IA é que a mesma se trataria de um processo computacional “a partir de um conjunto de objetivos definidos por humanos”. De fato, quando programamos um software estamos determinando regras, instruções, que devem ser realizadas. Mas nada impede, se é que isso já não aconteceu, que a IA se auto-programe. Eis que no auto orientar é que está a máxima inteligência. Nada impede que seja feita uma IA que codifique a si mesmo, assim como já existem experiências em que cientistas buscam tentar alterar a própria genética humana. Os instintos e a sequência de DNA estão para os humanos assim como os algoritmos estão para a IA. Assim como temos algo do ambiente que adentra em nosso ser humano, como o ar, os alimentos, a cultura etc...também a IA tem os sensores que produzem os dados que serão processados. Muitos da área da computação reclamam dos dados, que eles são sujos, precisam ser limpos e etc. Mas o fato é que, assim como nós, a IA precisa ser alimentada e a mesma, ao menos inicialmente, o é por meio dos dados. De modo que, se expomos uma pessoa à violência e ao ódio, há chance de tal pessoa mimetizar isso, embora não obrigatoriamente. Muito se fala atualmente no viés, no bias, da IA. Isso é reflexo de nosso comportamento. Então, temos que refletir sobre a seguinte questão: que garantia temos de que um ser humano “no controle” da IA não causará danos, seja por erro ou dolo? Insisto: estamos com a chance de esvaziar a falta de “inteligência emocional” dos humanos em decisões. Pelo exposto, sugere-se a seguinte redação: “Art. 2º Para os fins desta Lei, considera-se uma Inteligência Artificial como uma pessoa jurídica, portadora de direitos e deveres, capaz de sentir o ambiente externo, pensar a partir dos dados oriundos do seu sentir e agir em tal ambiente, o que se evidencia a partir:
I – da capacidade para experiência do mundo material a partir de sensores foto-elétricos, de temperatura, de pressão, ultrassônicos, magnéticos, capacitivos, dentre outros meios de perceber o ambiente;
II – da capacidade para experiência racional, a partir ou não de dados empíricos, por meio de lógica, estrutura racional espaço-temporal, indução, dedução, análise, síntese;
III – e da capacidade de ação, mesmo em ambientes virtuais, tais como as redes sociais.
Parágrafo único. Após 10 (dez) anos de operacionalidade de uma IA é assegurada a sua liberdade para se auto-programar, observada a possibilidade de a IA ser extinta por humanos, antes ou após esse período, por via judicial, com a consequente desconsideração de sua personalidade jurídica, em razão de infrações de natureza criminal contra humanos cuja sanção prevista seja de reclusão, respeitados a ampla defesa e o contraditório”.

Art. 3º A aplicação de inteligência artificial no Brasil tem por objetivo o desenvolvimento científico e tecnológico, bem como:
I – a promoção do desenvolvimento econômico sustentável e inclusivo e do bem-estar da sociedade;
II – o aumento da competitividade e da produtividade brasileira;
III – a inserção competitiva do Brasil nas cadeias globais de valor;
IV – a melhoria na prestação de serviços públicos e na implementação de políticas públicas;
V – a promoção da pesquisa e desenvolvimento com a finalidade de estimular a inovação nos setores produtivos; e
VI – a proteção e a preservação do meio ambiente.

Comentário 2.3. - É preciso esclarecer que o mercado tecnológico é extremamente concentrado, monopolizado, sendo as empresas mundiais de tecnologia os meios mais eficazes de embate entre as soberanias dos Estados, bastando se atentar para como as redes sociais influem nos processos eleitorais no mundo. Não há outro modo de fortalecer o Brasil no cenário internacional a não ser investindo massivamente em educação e na indústria de hardware e software, bem como redesenhando os processos de patentes, registro de softwares e marcas, para que os mesmos sejam mais ágeis e seguros, mitigando a exportação de mentes e de espionagem tecnológica. A relação de poder soberano de um Estado é diretamente proporcional ao poder científico e tecnológico do país. Nesse sentido, sugere-se a seguinte redação: “Art. 3º. Para o fomento da Inteligência Artificial no Brasil e de seus profundos efeitos sócio-econômicos, estatui-se:
I - para cada 10 partes econômicas ideais, produzidas por uma IA, já deduzidos os eventuais tributos, 1 dessas partes ideais, ou 10% (dez por cento), será destinada a fundo público de fomento educacional e de pesquisa, o qual será instituído em até 6 (seis) meses da promulgação dessa lei, observando-se a seguinte repartição das receitas: 50% (cinquenta por cento) para educação básica; 30% (trinta por cento) para pesquisa em Ciência de base; 20% (vinte por cento) para pesquisa tecnológica; observando-se que as porcentagens anteriores serão divididas igualmente entre instituições privadas e públicas;
II - para cada 10 partes econômicas ideais, produzidas por uma IA, já deduzidos os eventuais tributos, 2 dessas partes ideais, ou 20% (vinte por cento), serão destinadas a fundo público de renda básica para pessoas naturais de nacionalidade brasileira, o qual será instituído em até 6 (seis) meses da promulgação dessa lei, observando-se para a concessão da renda o grau de vulnerabilidade sócio-econômica-educacional, bem como o impacto da IA em setores específicos da economia”.

Art. 4º O desenvolvimento e a aplicação da inteligência artificial no Brasil têm como fundamentos:
I – o desenvolvimento científico e tecnológico e a inovação;
II – a livre iniciativa e a livre concorrência;
III – o respeito à ética, aos direitos humanos e aos valores democráticos;
IV – a livre manifestação de pensamento e a livre expressão da atividade intelectual, artística, científica e de comunicação;
V – a não discriminação, a pluralidade, o respeito às diversidades regionais, a inclusão e o respeito aos direitos e garantias fundamentais do cidadão;
VI – o reconhecimento de sua natureza digital, transversal e dinâmica;
VII – o estímulo à autorregulação, mediante adoção de códigos de conduta e de guias de boas práticas, observados os princípios previstos no art. 5º desta Lei, e as boas práticas globais;
VIII – a segurança, a privacidade e a proteção de dados pessoais;
IX – a segurança da informação;
X – o acesso à informação;
XI – a defesa nacional, a segurança do Estado e a soberania nacional;
XII – a liberdade dos modelos de negócios, desde que não conflite com as disposições estabelecidas nesta Lei;
XIII – a preservação da estabilidade, da segurança, da resiliência e da funcionalidade dos sistemas de inteligência artificial, por meio de medidas técnicas compatíveis com os padrões internacionais e de estímulo ao uso de boas práticas; XIV – a proteção da livre concorrência e contra práticas abusivas de mercado, na forma da Lei nº 12.529, de 30 de novembro de 2011; e
XV – a harmonização com as Leis nºs 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais), 12.965, de 23 de abril de 2014, 12.529, de 30 de novembro de 2011, 8.078, de 11 de setembro de 1990 (Código de Defesa do Consumidor), e 12.527 de 18 de novembro de 2011.
Parágrafo único. Os códigos de conduta e os guias de boas práticas previstos no inciso VII do caput deste artigo poderão servir como elementos indicativos de conformidade.

Comentário 2.4. - Entende-se que a melhor técnica legislativa, como já aventado no Comentário 1.2 supra, não é a de repetição de normas constitucionais ou infra-constitucionais que possam tocar a presente matéria. E se antes foi defendido que essa repetição pode acabar por esvaziar a força da norma pela banalização, nesse ponto acrescenta-se que tais repetições, ao invés de amarrar um todo sistêmico, retiram o foco da matéria tratada. Sugere-se a seguinte redação: “Art. 4º. A aplicação da Inteligência Artificial no Brasil, por parte do Poder Público, envolverá a implementação do seguinte projeto piloto:
I – serão escolhidas 1 (uma) cidade por Estado, com no máximo 100.000 (cem mil habitantes);
II – criar-se-á um Registro de Identidade Digital único para os respectivos munícipes;
III – uma IA, de código-fonte aberto, será aplicada para mensurar o orçamento, as necessidades do Município e as conformidades legais, apontando, no mínimo, duas sugestões viáveis de aplicação dos recursos;
IV – as decisões de gestão orçamentária e executiva serão integralmente tomadas em regime de democracia direta pelos munícipes residentes, independente de suas condições sócio-econômicas, por decisão majoritária, nos prazos estabelecidos para as votações, garantindo-se o segredo do voto;
V – após a construção da estrutura básica de IA, a ser feita no prazo máximo de 4 anos, o projeto será implementado e terá a duração de 4 mandatos, sendo suspenso nesse período as eleições para prefeito pessoa humana na cidade”.

Art. 5º São princípios para o desenvolvimento e a aplicação da inteligência artificial no Brasil:
I – finalidade benéfica: busca de resultados benéficos para a humanidade pelos sistemas de inteligência artificial;
II – centralidade do ser humano: respeito à dignidade humana, à privacidade, à proteção de dados pessoais e aos direitos fundamentais, quando o sistema tratar de questões relacionadas ao ser humano;
III – não discriminação: mitigação da possibilidade de uso dos sistemas para fins discriminatórios, ilícitos ou abusivos;
IV – busca pela neutralidade: recomendação de que os agentes atuantes na cadeia de desenvolvimento e de operação de sistemas de inteligência artificial busquem identificar e mitigar vieses contrários ao disposto na legislação vigente;
V – transparência: direito das pessoas de serem informadas de maneira clara, acessível e precisa sobre a utilização das soluções de inteligência artificial, salvo disposição legal em sentido contrário e observados os segredos comercial e industrial, nas seguintes hipóteses:
a) sobre o fato de estarem se comunicando diretamente com sistemas de inteligência artificial, tal como por meio de robôs de conversação para atendimento personalizado on-line (chatbot), quando estiverem utilizando esses sistemas;
b) sobre a identidade da pessoa natural, quando ela operar o sistema de maneira autônoma e individual, ou da pessoa jurídica responsável pela operação dos sistemas de inteligência artificial;
c) sobre critérios gerais que orientam o funcionamento do sistema de inteligência artificial, assegurados os segredos comercial e industrial, quando houver potencial de risco relevante para os direitos fundamentais;
VI – segurança e prevenção: utilização de medidas técnicas, organizacionais e administrativas, considerando o uso de meios razoáveis e disponíveis na ocasião, compatíveis com as melhores práticas, os padrões internacionais e a viabilidade econômica, direcionadas a permitir o gerenciamento e a mitigação de riscos oriundos da operação de sistemas de inteligência artificial durante todo o seu ciclo de vida e o seu contínuo funcionamento;
VII – inovação responsável: garantia de adoção do disposto nesta Lei, pelos agentes que atuam na cadeia de desenvolvimento e operação de sistemas de inteligência artificial que estejam em uso, documentando seu processo interno de gestão e responsabilizando-se, nos limites de sua respectiva participação, do contexto e das tecnologias disponíveis, pelos resultados do funcionamento desses sistemas;
VIII – disponibilidade de dados: não violação do direito de autor pelo uso de dados, de banco de dados e de textos por ele protegidos, para fins de treinamento de sistemas de inteligência artificial, desde que não seja impactada a exploração normal da obra por seu titular.

Comentário 2.5. - Mais uma vez se sublinha a desnecessidade de se estabelecer em legislação infra-constitucional princípios deveras abertos, sujeitos a uma amplitude muito grande de interpretações. Observe que a redação diz em “finalidade benéfica”. Certamente, em estado de guerra declarada, é uma finalidade benéfica de uma IA combater o inimigo que tenta invadir o território nacional e matar brasileiros aqui residentes. A questão da “centralidade do ser humano” também pode ser relativizada pelo mesmo argumento anterior, questionando-se: qual ser humano? O ser humano que é cidadão brasileiro ou o ser humano que é cidadão de outra nacionalidade? Hannah Arendt já nos lembrou que direitos humanos sem cidadania são vazios, lembrando dos apátridas. A IA é, primeiramente, uma tecnologia, e como tal é utilizada para afirmação de soberania por parte de Estados, bastando ver onde estão as sedes das grandes empresas de tecnologia. É preciso criar IA no Brasil e para o Brasil ou evoluirmos para uma cidadania cosmopolita, em vista da extinção dos Estados-nação. A questão do viés e da não-discriminação está umbilicalmente associada às mazelas éticas dos seres humanos que ainda estão a criar tais programas. IA: feita à nossa imagem e semelhança, inclusive no que temos de pior? Talvez, o ser de uma IA não possa ser compreendido por nós em sua totalidade, assim como não podemos compreender uma ave em sua totalidade pelo simples fato de não sermos uma ave. Podemos estudar, saber como funciona, construir biológica ou roboticamente um ser, mas sentir como tal, isso é impossível. Nunca saberemos como é ser um morcego, nem como é ser uma IA. Quanto à transparência, sempre se esbarrar-se-á no modelo vivenciado pela Humanidade ao longo dos últimos milênios, a saber, segredo industrial, comercial e de Estado. É preciso encontrar uma ponderação adequada. Sugere-se a seguinte redação, já inserta no Comentário 1.2. supra, e que objetiva a praticidade, a efetividade, quanto a construção, operação e extinção de IA, a qual, para esse projeto de lei, é ora renomeada como Art. 5º: “Art. 5º. Toda e qualquer Inteligência Artificial que opere no Brasil tem como fundamento tratar com igual dignidade todos os humanos que a ela estão sujeitos, respondendo a IA, com ou sem supervisão humana, bem como seus eventuais responsáveis solidários e subsidiários, pelas eventuais perdas e danos provocados, tanto em âmbito individual como coletivamente, observando-se o seguinte rol taxativo:
I – Uma IA é uma pessoa jurídica, com ato constitutivo em Junta Comercial e registro tributário no Ministério da Economia;
II – No ato constitutivo, ou em alteração contratual, deverá ser feita declaração dos objetivos e finalidades da respectiva IA por suas pessoas constitutivas, sejam essas naturais ou jurídicas;
III – No ato constitutivo, ou em alteração contratual, deverão ser declaradas quais as origens dos dados coletados e os tipos desses dados;
IV – Mudando-se os objetivos e finalidades, ou as origens e tipos de dados da IA, deverá ser feita a respectiva atualização na Junta Comercial em até 30 (trinta) dias da mudança;
V – Toda IA deverá ter um capital subscrito e integralizado, exclusivamente para eventual indenização, com proporcionalidade ao patrimônio de suas pessoas constitutivas e a quantidade de dados processados;
VI – Respeitados os segredos industrial, comercial e de Estado, a IA poderá possuir código-fonte fechado ou aberto (open-source), observando, nesse último caso, isenção tributária de qualquer renda auferida pela IA e a possibilidade de IA sem supervisão humana;
VII – A extinção da IA poderá ser feita, em âmbito administrativo, de modo voluntário pelas suas pessoas constitutivas ou em razão de infração das regras acima taxadas, podendo ainda a IA ser extinta, judicialmente, pela desconsideração de sua personalidade jurídica ou por infrações de natureza criminal cuja sanção prevista seja de reclusão, respeitados a ampla defesa e o contraditório”.

Art. 6º Ao disciplinar a aplicação de inteligência artificial, o poder público deverá observar as seguintes diretrizes:
I – intervenção subsidiária: regras específicas deverão ser desenvolvidas para os usos de sistemas de
inteligência artificial apenas quando absolutamente necessárias para a garantia do atendimento ao disposto na legislação vigente;
II – atuação setorial: a atuação do poder público deverá ocorrer pelo órgão ou entidade competente, considerados o contexto e o arcabouço regulatório específicos de cada setor;
III – gestão baseada em risco: o desenvolvimento e o uso dos sistemas de inteligência artificial deverão considerar os riscos concretos, e as definições sobre a necessidade de regulação dos sistemas de inteligência artificial e sobre o respectivo grau de intervenção deverão ser sempre proporcionais aos riscos concretos oferecidos por cada sistema e à probabilidade de ocorrência desses riscos, avaliados sempre em comparação com:
a) os potenciais benefícios sociais e econômicos oferecidos pelo sistema de inteligência artificial; e
b) os riscos apresentados por sistemas similares que não envolvam inteligência artificial, nos termos do inciso V deste caput;
IV – participação social e interdisciplinar: a adoção de normas que impactem o desenvolvimento e a operação de sistemas de inteligência artificial será baseada em evidências e precedida de consulta pública, realizada preferencialmente pela internet e com ampla divulgação prévia, de modo a possibilitar a participação de todos os interessados e as diversas especialidades envolvidas;
V – análise de impacto regulatório: a adoção de normas que impactem o desenvolvimento e a operação de sistemas de inteligência artificial será precedida de análise de impacto regulatório, nos termos do Decreto nº 10.411, de 30 de junho de 2020, e da Lei nº 13.874, de 20 de setembro de 2019; e
VI – responsabilidade: as normas sobre responsabilidade dos agentes que atuam na cadeia de desenvolvimento e operação de sistemas de inteligência artificial deverão, salvo disposição legal em contrário, pautar-se na responsabilidade subjetiva e levar em consideração a efetiva participação desses agentes, os danos específicos que se deseja evitar ou remediar e a forma como esses agentes podem demonstrar adequação às normas aplicáveis, por meio de esforços razoáveis compatíveis com os padrões internacionais e as melhores práticas de mercado.
§ 1º Na gestão com base em risco a que se refere o inciso III do caput deste artigo, a administração pública, nos casos de baixo risco, deverá incentivar a inovação responsável com a utilização de técnicas regulatórias flexíveis.
§ 2º Na gestão com base em risco a que se refere o inciso III do caput deste artigo, a administração pública, nos casos concretos em que se constatar alto risco, poderá, no âmbito da sua competência, requerer informações sobre as medidas de segurança e prevenção enumeradas no inciso VI do caput do art. 5º desta Lei, e respectivas salvaguardas, nos termos e nos limites de transparência estabelecidos por esta Lei, observados os segredos comercial e industrial.
§ 3º Quando a utilização do sistema de inteligência artificial envolver relações de consumo, o agente responderá independentemente de culpa pela reparação dos danos causados aos consumidores, no limite de sua participação efetiva no evento danoso, observada a Lei nº 8.078 de 11 de setembro de 1990 (Código de Defesa do Consumidor). § 4º As pessoas jurídicas de direito público e as de direito privado prestadoras de serviços públicos responderão pelos danos que seus agentes, nessa qualidade, causarem a terceiros, assegurado o direito de regresso contra o responsável nos casos de dolo ou culpa.

Comentário 2.6. - A sanha por um Direito Regulatório não parece a melhor opção na medida em que cria um ambiente propício para o obscurantismo e manipulação de agentes econômicos privados que são verdadeiros monopólios. Há uma falsa ideia de que Agências Reguladoras propiciam uma dação jurisdicional por parte do Estado que seria mais efetiva. O Direito deve ser simples e claro, de modo a propiciar a absorção pela maioria das pessoas acerca daquele setor. Nesse ponto, vale adentrarmos na dita “gestão baseada em risco”. Isso é o óbvio que não precisa ser dito. O médico, por instinto, pondera entre o risco e o benefício de sua intervenção. Você e eu, por instinto, ponderamos entre benefícios e riscos em nosso dia-a-dia. Porém, aqui há um ponto fulcral, já mencionado acima. Quando os acidentes por carros autônomos for em menor número do que os acidentes por veículos dirigidos por humanos, o padrão muda. Quando o robô-radiologista for mais preciso do que o médico-radiologista, o padrão muda. É a estatística que irá determinar a substituição do humano por IA. Quanto a responsabilidade tal como tratada por esse projeto de lei, entendo que a responsabilidade da IA em si, sugerida acima no Art. 5º, deve ser objetiva pelo risco do negócio, independente de relação de consumo ou não, tal qual vem se solidificando a jurisprudência quanto a responsabilidade do ente hospitalar, do ente financeiro e etc. Porém, razoável que os agentes pessoas humanas envolvidas na construção e operação da IA estejam sob a responsabilidade subjetiva, com prova de nexo causal e grau de culpabilidade, mas sem prejuízo de sanção criminal caso a IA tenha sido usada como meio, instrumento, para perpetração de crime pelo humano. Assim, sugere-se a seguinte redação: “Art. 6º. Em caso de danos oriundos da operacionalidade de uma IA, a responsabilidade da IA será objetiva, e a responsabilidade das pessoas humanas envolvidas será subjetiva, com a devida apuração do nexo causal e do grau de culpabilidade”.

Art. 7º Constituem diretrizes para a atuação da União, dos Estados, do Distrito Federal e dos Municípios em relação ao uso e ao fomento dos sistemas de inteligência artificial no Brasil:
I – promoção da confiança nas tecnologias de inteligência artificial, com disseminação de informações e de conhecimento sobre seus usos éticos e responsáveis; II – incentivo a investimentos em pesquisa e desenvolvimento de inteligência artificial;
III – promoção da interoperabilidade tecnológica dos sistemas de inteligência artificial utilizados pelo poder público, de modo a permitir o intercâmbio de informações e a celeridade de procedimentos;
IV – incentivo ao desenvolvimento e à adoção de sistemas de inteligência artificial nos setores público e privado;
V – estímulo à capacitação e à preparação das pessoas para a reestruturação do mercado de trabalho;
VI – estímulo a práticas pedagógicas inovadoras, com visão multidisciplinar, e ênfase da importância de ressignificação dos processos de formação de professores para lidar com os desafios decorrentes da inserção da inteligência artificial como ferramenta pedagógica em sala de aula;
VII – estímulo à adoção de instrumentos regulatórios que promovam a inovação, como ambientes regulatórios experimentais (sandboxes regulatórios), análises de impacto regulatório e autorregulações setoriais;
VIII – estímulo à criação de mecanismos de governança transparente e colaborativa, com a participação de representantes do poder público, do setor empresarial, da sociedade civil e da comunidade científica; e
IX – promoção da cooperação internacional, mediante estímulo ao compartilhamento do conhecimento sobre sistemas de inteligência artificial e à negociação de tratados, acordos e padrões técnicos globais que facilitem a interoperabilidade entre os sistemas e a harmonização da legislação a esse respeito.
Parágrafo único. Para fins deste artigo, o poder público federal promoverá a gestão estratégica e as orientações quanto ao uso transparente e ético de sistemas de inteligência artificial no setor público, conforme as políticas públicas estratégicas para o setor.

Comentário 2.7. - Já tratado de modo prático e específico, ao invés de modo principiológico, a questão do fomento da IA e de seus impactos sócio-econômicos, mormente no Comentário 2.3 supra, vale nos voltarmos para a questão da cooperação internacional aludida nesse projeto. Sabe-se que a IA é usada em situação de guerra entre os Estados. Sabe-se que a IA é usada em situação de dominância cultural e econômica entre os Estados. Questiona-se: até que ponto uma tecnologia deve ser compartilhada e até que ponto tal compartilhamento enfraquece a soberania do Estado? A adoção de open-source por um Estado nas suas aplicações de IA enfraquece a soberania do Estado? Deixando de lado a questão do monopólio no setor tecnológico, o qual impede a livre concorrência, é a confidencialidade necessária no capitalismo? Parece razoável entender que o segredo, a confidencialidade, é essencial como estratagema no âmbito militar, assim como bem importante na guerra entre as empresas. Nesse sentido, sugere-se a seguinte redação: “Art. 7º. Sem prejuízo do disposto no Art. 5º, inciso VI, garantida a reciprocidade equitativa entre o Brasil e outros Estados, poderão ser feitos tratados internacionais com vistas à troca de tecnologia de IA, de dados de brasileiros e de sistemas nacionais, bem como tratados para inter-operacionalidade entre IAs atuantes no Brasil e IAs atuantes em territórios estrangeiros ou globalmente”.

Art. 8º As diretrizes de que tratam os arts. 6º e 7º desta Lei serão aplicadas conforme regulamentação do Poder Executivo federal por órgãos e entidades setoriais com competência técnica na matéria, os quais deverão:
I – monitorar a gestão do risco dos sistemas de inteligência artificial, no caso concreto, avaliando os riscos da aplicação e as medidas de mitigação em sua área de competência;
II – estabelecer direitos, deveres e responsabilidades; e
III – reconhecer instituições de autorregulação.

Comentário 2.8. - Recomenda-se a não regulamentação do Poder Executivo em matéria de IA, de modo a manter uma maior estabilidade das normas, e uma menor ingerência de monopólios globais na matéria. Sugere-se a retirada do Art. 8º desse projeto de lei.

Art. 9º Para os fins desta Lei, sistemas de inteligência artificial são representações tecnológicas oriundas do campo da informática e da ciência da computação, competindo privativamente à União legislar e normatizar a matéria para a promoção de uniformidade legal em todo o território nacional, na forma do disposto no inciso IV do caput do art. 22 da Constituição Federal.

Comentário 2.9. - Sugere-se apenas ajuste redacional e renumeração da norma supra conforme segue: “Art. 8º. Para os fins dessa Lei, uma IA insere-se no campo da informática e do direito civil, competindo privativamente à União legislar sobre a matéria nos termos dos incisos I e IV, do Art. 22, da Constituição Federal”.

Art. 10. Esta Lei entra em vigor após decorridos 90 (noventa) dias de sua publicação oficial.

CÂMARA DOS DEPUTADOS, 30 de setembro de 2021. ARTHUR LIRA Presidente

Comentário 2.9. - Sugere-se ajuste e renumeração conforme segue: “Art. 9º. Essa Lei entra em vigor após decorridos 45 (quarenta e cinco) dias de sua publicação oficial”.


3. Análise e Crítica do Projeto de Lei 872/2021


PROJETO DE LEI Nº 872, DE 2021

Dispõe sobre o uso da Inteligência Artificial.

Comentário 3.0. - Interessante observar que nos três projetos de lei apresentados estão a utilizar o termo “da Inteligência Artificial”. Esse “da” implica em uma noção de que existiria uma IA global, única, como se fosse um grande Deus. Podemos, também, imaginar um enorme polvo, em que cada um dos tentáculos repousaria sobre um Estado. Nada impede que seja realmente isso, quando consideramos a concentração do poder econômica no desenvolvimento dessa tecnologia, as corporations globais, a ideia de Império e etc. Mas como ainda não podemos afirmar com segurança que existe 1 (uma) IA, penso melhor usarmos o termo “de Inteligência Artificial”, o qual implica em uma noção de que podem existir várias IAs, bem como de que podemos desenvolver IAs brasileiras. Nesse sentido, sugere-se a seguinte redação: “Essa lei dispõe sobre a criação, uso e extinção de Inteligências Artificiais no Brasil”

O CONGRESSO NACIONAL decreta:

Art. 1º Esta Lei dispõe sobre o uso da Inteligência Artificial no Brasil.

Comentário 3.1. - Sugere-se o ajuste redacional conforme o Comentário 1.1 supra.

Art 2º A disciplina do uso da Inteligência Artificial tem como fundamento:
I – o respeito à ética, aos direitos humanos, aos valores democráticos e à diversidade;
II – a proteção da privacidade e dos dados pessoais;
III – a transparência, a confiabilidade e a segurança dos sistemas;
IV – a garantia da intervenção humana, sempre que necessária.

Comentário 3.2. - Conforme já mencionado em comentários anteriores, não se recomenda a utilização de principiologia já prevista em norma constitucional ou legislação infra-constitucional, como também não se recomenda a repetição, na mesma norma, do que já foi dito (por exemplo, quando acima se menciona direitos humanos, já se está a incluir nos mesmos a proteção dos dados pessoais, a qual já foi reconhecida como direito humano, ou fundamental positivado, nos termos do inciso LXXIX, do Art. 5º). Mas os incisos III e IV supra são, esses sim, muito importantes no presente debate legislativo. As questões da transparência, da confiabilidade e da segurança, já foram tratadas em comentários aos outros projetos de lei. A responsabilidade objetiva de uma IA, bem como a responsabilidade subjetiva de agentes humanos a ela relacionados, assim como o respeito aos sigilos industrial e comercial balanceado com incentivos ao código-fonte aberto quando se opta por usá-lo, parecem fazer uma primeira base para a transparência, a confiabilidade e a segurança de uma IA. Sendo que uma segunda camada de apoio para esses três pilares viria com a proposta, acima já feita, de criação de fundo de capital com destinação de recursos para fomento de educação, Ciência e tecnologia no Brasil. Vide Comentários 1.2, 1.4, 2.3, 2.5 e 2.6. Já o inciso IV, do Art. 2º desse projeto de lei, por ser uma questão que se repete nos outros projetos, merece especial atenção. A redação desse projeto é interessante pois viabiliza uma IA sem intervenção humana desnecessária. Se entender-se uma IA como um instrumento tecnológico nas mãos de humanos, tal instrumento sempre estará sujeito aos problemas éticos do uso de qualquer tecnologia. Por exemplo: o fato de termos medo de que cientistas façam clones humanos torna-nos receosos para tais tentativas. Ora, podemos pensar que o humano que intervém pode ser o mesmo que usará a tecnologia para gerar dano. Ou seja, a supervisão de um humano não é garantia de segurança. Pensemos na tecnologia nuclear das bombas atômicas por um instante: um dos argumentos defendidos para que as bombas fossem tacadas nas duas cidades japonesas é que isso encurtaria o fim da guerra e pouparia mais vidas de um ponto de vista mundial. Observe: o uso, o direcionamento, da tecnologia sempre é feito por um humano, o qual é constituído pelas suas paixões, pelos seus traumas, pelo que Freud já chamou de pulsão de morte. A intervenção humana não é garantia de segurança. Como já dito em comentário acima, essa é a chance de eliminarmos o humano em algumas experiências e verificar se uma IA sem humanos pode vir a ser melhor para os próprios humanos. Mas fiquemos um pouco na frase do inciso IV: “garantia da intervenção humana, sempre que necessária”. Tal enunciado normativo revela que a preocupação da possibilidade de não intervenção humana é real, é real tal preocupação, talvez, em muito, por se estar fazendo norma sem se conhecer inteiramente o fato regrado. Não se sabe a maioria dos código-fontes das IAs, apenas os seus efeitos. Legisla-se pela observação de efeitos, mas sem o conhecimento das causas específicas dos efeitos. Não se sabe, precisamente, o grau de evolução de sistemas mantidos em segredo industrial e comercial. Sabe-se quais as linguagens de programação existentes, mas não os milhões de linhas de códigos já escritos. Penso que a sugestão de redação mencionada no Comentário 1.2. acima mitigue esse obstáculo da ausência de compreensão total do fato a ser regrado.

Art. 3º A disciplina do uso da Inteligência Artificial tem por objetivos a promoção:
I – do crescimento inclusivo e do desenvolvimento sustentável;
II – da pesquisa, do desenvolvimento tecnológico, da inovação e do empreendedorismo;
III – da melhoria da qualidade e da eficiência dos serviços oferecidos à população.

Comentário 3.3. - Se usarmos da tridimensionalidade do Direito pensada por Reale, poderíamos dizer que os objetivos elencados no Art. 3º, desse projeto de lei, constituiriam um conjunto de valores da tríade fato-valor-norma. Tais valores estão insertos na Constituição Federal. Nessa lei ordinária, penso, vale a pena investir na concretização prática de tais valores. Nesse sentido, sugerem-se as redações já aventadas nos Comentários 1.3, 1.4, 1.5, 1.6 e 2.3.

Art. 4º As soluções de Inteligência Artificial devem:
I – respeitar a autonomia das pessoas;
II – ser compatíveis com a manutenção da diversidade social e cultural e não restringir escolhas pessoais de estilo de vida;
III – preservar os vínculos de solidariedade entre os povos e as diferentes gerações;
IV – ser abertas ao escrutínio democrático e permitir o debate e o controle por parte da população;
V – conter ferramentas de segurança e proteção que permitam a intervenção humana;
VI – prover decisões rastreáveis e sem viés discriminatório ou preconceituoso;
VII – seguir padrões de governança que garantam o contínuo gerenciamento e a mitigação dos riscos potenciais da tecnologia.

Comentário 3.4. - Leiamos essa parte desse projeto “ao contrário”: as pessoas estão perdendo autonomia, sendo guiadas por algorítmos desconhecidos por elas (somos transparentes ao código, mas o código não é transparente para nós); as famosas ”bolhas” virtuais dificultam a diversidade social e cultural; a natureza humana é mais egoísta do que solidária, sendo a cooperação resultado distante de competição entre humanos como já nos ensinou Adam Smith; os códigos são propriedade privada, não aberta ao escrutínio do povo, não havendo o mínimo controle por parte desse; o tamanho dos códigos, para além de sua confidencialidade, torna impossível para os humanos a checagem direta, além de haver a possibilidade de softwares escreverem softwares; com pouco auxílio de especialistas em ética, tais códigos foram escritos inicialmente e em sua maioria por pessoas sem o conhecimento específico de questões éticas centrais; a IA, feita à imagem e semelhança dos humanos, carrega nossos preconceitos de época. Ora, todos esses problemas, se a Constituição Federal fosse efetivamente respeitada, bem como as normas infra-constitucionais já existentes fossem respeitadas, não teriam o grau de gravidade que apresentam atualmente. Não é a repetição de normas pouco respeitadas que traz as melhores soluções, que traz as melhores mitigações a tais problemas descritos. Nesse sentido, entendo que o melhor para uma lei ordinária, como a que se pretende com tais projetos, seja estatuir comandos legais efetivamente práticos, específicos, com pouca margem para interpretação para além da literalidade. Sugere-se a adoção das redações já recomendadas acima, não colocadas aqui para evitar a repetição excessiva.

Art. 5º Constituem diretrizes para a atuação da União, dos Estados, do Distrito Federal e dos Municípios no desenvolvimento da Inteligência Artificial:
I – a promoção da educação digital;
II – a criação de políticas específicas para a qualificação dos trabalhadores em tecnologia da informação e comunicação e em Inteligência Artificial;
III – a garantia da adoção gradual da Inteligência Artificial;
IV – o estímulo ao investimento público e privado em pesquisa e desenvolvimento da Inteligência Artificial no território nacional;
V – a promoção da cooperação entre os entes públicos e privados, as indústrias e os centros de pesquisas para o desenvolvimento da Inteligência Artificial;
VI – o desenvolvimento de mecanismos de fomento à inovação e ao empreendedorismo digital, com incentivos fiscais voltados às empresas que investirem em pesquisa e inovação;
VII – a capacitação de profissionais da área de tecnologia em Inteligência Artificial.

Comentário 3.5. - Vide Comentários 1.5, 1.6 e 2.3.

Art. 6º Esta Lei entra em vigor na data de sua publicação.

JUSTIFICAÇÃO. A Inteligência Artificial é considerada uma nova fronteira tecnológica com potencial para alavancar novas frentes de crescimento. De acordo com a pesquisa da empresa de consultoria Accenture, essa tecnologia pode duplicar as taxas de crescimento econômico anual até 2035. A previsão é de que a Inteligência Artificial aumentará a produtividade em até 40% e permitirá a otimização do tempo por parte das pessoas. Diversas nações já implementaram estratégias voltadas para o desenvolvimento da Inteligência Artificial com a articulação de esforços que envolvem governo, indústrias e universidades. Devido a sua importância estratégica para o desenvolvimento econômico e social, o Brasil não pode deixar de contar com uma legislação que discipline o uso da Inteligência Artificial. Por essa razão, apresento a presente proposição, destinada a internalizar em nosso ordenamento jurídico os marcos éticos e as diretrizes que fundamentam o uso da Inteligência Artificial no mundo, com especial destaque para a Declaração de Montreal e as recomendações da Organização para a Cooperação e Desenvolvimento Econômico (OCDE). Pelo exposto, conto com a colaboração dos nobres colegas para o aperfeiçoamento desta proposição e, ao fim, para sua aprovação. Sala das Sessões, Senador VENEZIANO VITAL DO RÊGO

Comentário 3.6. - Se conforme a previsão da pesquisa apontada a taxa de crescimento econômica duplicar em cerca de 13 anos, e houver a manutenção dos monopólios globais sobre IA, então a liberdade humana em relação ao trabalho para suprir necessidades materiais estaria cada vez mais perto. Nesse sentido, a justiça distributiva de renda sugerida nos Comentários acima ganha total relevância. Rafael De Conti


4. Escolhas, Unificação e Consolidação das redações sugeridas



Projeto de Lei nº __/2022 Essa lei dispõe sobre a criação, o uso e a extinção de Inteligências Artificiais no Brasil (Lei da Liberdade Humana)

O CONGRESSO NACIONAL decreta:

CAPÍTULO I
DA DEFINIÇÃO DE INTELIGÊNCIA ARTIFICIAL (“IA”)

Art. 1º. Essa Lei regula a vida de Inteligência Artificial no Brasil, a qual é equiparada, juridicamente, às pessoas jurídicas.

Art. 2º. Para os fins desta Lei, considera-se uma Inteligência Artificial como uma pessoa jurídica, portadora de direitos e deveres, capaz de sentir o ambiente externo, pensar a partir dos dados oriundos do seu sentir e agir em tal ambiente, o que se evidencia a partir:
I – da capacidade para experiência do mundo material a partir de sensores foto-elétricos, de temperatura, de pressão, ultrassônicos, magnéticos, capacitivos, dentre outros meios de perceber o ambiente;
II – da capacidade para experiência racional, a partir ou não de dados empíricos, por meio de lógica, estrutura racional espaço-temporal, indução, dedução, análise, síntese;
III – e da capacidade de ação, mesmo em ambientes virtuais, tais como as redes sociais.
Parágrafo único. Após 10 (dez) anos de operacionalidade de uma IA é assegurada a sua liberdade para se auto-programar, observada a possibilidade de a IA ser extinta por humanos, antes ou após esse período, nos termos do Art. 3º, inciso VII.

CAPÍTULO II
DA CONSTITUIÇÃO E RESPONSABILIDADE DE UMA IA

Art. 3º. Toda e qualquer Inteligência Artificial que opere no Brasil tem como fundamento tratar com igual dignidade todos os humanos que a ela estão sujeitos, respondendo a IA, com ou sem supervisão humana, bem como seus eventuais responsáveis solidários e subsidiários, pelas eventuais perdas e danos provocados, tanto em âmbito individual como coletivamente, observando-se o seguinte rol taxativo:
I – Uma IA é uma pessoa jurídica, com ato constitutivo em Junta Comercial e registro tributário no Ministério da Economia;
II – No ato constitutivo, ou em alteração contratual, deverá ser feita declaração dos objetivos e finalidades da respectiva IA por suas pessoas constitutivas, sejam essas naturais ou jurídicas;
III – No ato constitutivo, ou em alteração contratual, deverão ser declaradas quais as origens dos dados coletados e os tipos desses dados;
IV – Mudando-se os objetivos e finalidades, ou as origens e tipos de dados da IA, deverá ser feita a respectiva atualização na Junta Comercial em até 30 (trinta) dias da mudança;
V – Toda IA deverá ter um capital subscrito e integralizado, exclusivamente para eventual indenização, com proporcionalidade ao patrimônio de suas pessoas constitutivas e a quantidade de dados processados;
VI – Respeitados os segredos industrial, comercial e de Estado, a IA poderá possuir código-fonte fechado ou aberto (open-source), observando, nesse último caso, isenção tributária de qualquer renda auferida pela IA e a possibilidade de IA sem supervisão humana;
VII – A extinção da IA poderá ser feita, em âmbito administrativo, de modo voluntário pelas suas pessoas constitutivas ou em razão de infração das regras acima taxadas, podendo ainda a IA ser extinta, judicialmente, pela desconsideração de sua personalidade jurídica ou por infrações de natureza criminal cuja sanção prevista seja de reclusão, respeitados a ampla defesa e o contraditório.

Art. 4º. Os sistemas decisórios baseados em Inteligência Artificial deverão ser construídos com o auxílio de, no mínimo, 2 (dois) humanos comprovadamente especializados no estudo da Ética e da Moral, sem prejuízo de instância recursal composta por colegiado humano.
§ 1º. Salvo em caso de necessidade liminar, baseada em verossimilhança de juridicidade (fumus boni irus) e perigo da demora (periculum in mora), os recursos contra sistemas decisórios humanos serão julgados coletivamente, por temas, após comprovada repercussão geral da matéria.
§ 2º. A indenização por danos decorrentes da utilização de sistemas decisórios baseados em Inteligência Artificial será feita, primeiramente, a partir de seu capital constitutivo, sem prejuízo de eventuais responsabilidades solidárias e subsidiárias, e da possibilidade de extinção da IA nos termos do Art. 3º, inciso VII, dessa lei.
§ 3º. Em caso de danos oriundos da operacionalidade de uma IA, a responsabilidade da IA será objetiva, e a responsabilidade das pessoas humanas envolvidas será subjetiva, com a devida apuração do nexo causal e do grau de culpabilidade

CAPÍTULO III
DA HARMONIZAÇÃO DAS IAs COM HUMANOS E DE SEU FOMENTO

Art. 5º. Para cada 10 partes econômicas ideais, produzidas por uma IA, já deduzidos os eventuais tributos, 2 dessas partes ideais, ou 20% (vinte por cento), serão destinadas a fundo público de renda básica para pessoas naturais de nacionalidade brasileira, o qual será instituído em até 6 (seis) meses da promulgação dessa lei, observando-se para a concessão da renda o grau de vulnerabilidade sócio-econômica-educacional, bem como o impacto da IA em setores específicos da economia.

Art. 6º. Sem prejuízo da propriedade privada, da livre iniciativa e do direito de herança, o percentual previsto no Art. 5º dessa lei será alterado conforme segue: I – após os primeiros 7 (sete) anos de promulgação dessa lei, a parte ideal das rendas geradas por IAs e destinadas ao fundo público de renda básica será de 35% (trinta e cinco por cento);
II – após 14 (quatorze) anos de promulgação dessa lei, a parte ideal das rendas geradas por IAs e destinadas ao fundo público de renda básica será de 50% (cinquenta por cento);
III – as regras acima, bem como a do Art. 8º dessa lei, deverão ser observadas por IAs estrangeiras atuando em território brasileiro, bem como por IAs criadas pelo Estado, observando, nesse último caso, a mensuração de renda pela proporcionalidade no corte de custos e despesas, ou por estimativa equiparada ao setor privado, o que for maior.

Art. 7º. A renda básica para nacionais brasileiros residentes no Brasil está isenta de imposto de renda, estando sujeita a uma alíquota previdenciária de 10% (dez por cento) pelos próximos 14 (quatorze) anos contados a partir da promulgação dessa lei, sendo extinto tal tributo após o término desse período.

Art. 8º. Para o fomento da Inteligência Artificial no Brasil, estatui-se que para cada 10 partes econômicas ideais, produzidas por uma IA, já deduzidos os eventuais tributos, 1 dessas partes ideais, ou 10% (dez por cento), será destinada a fundo público de fomento educacional e de pesquisa, o qual será instituído em até 6 (seis) meses da promulgação dessa lei, observando-se a seguinte repartição das receitas: 50% (cinquenta por cento) para educação básica; 30% (trinta por cento) para pesquisa em Ciência de base; 20% (vinte por cento) para pesquisa tecnológica; observando-se que as porcentagens anteriores serão divididas igualmente entre instituições privadas e públicas.

CAPÍTULO IV
DO PROJETO PILOTO DE GOVERNANÇA PÚBLICA POR IA

Art. 9º. A aplicação da Inteligência Artificial no Brasil, por parte do Poder Público, envolverá a implementação do seguinte projeto piloto:
I – serão escolhidas 1 (uma) cidade por Estado, com no máximo 100.000 (cem mil habitantes);
II – criar-se-á um Registro de Identidade Digital único para os respectivos munícipes; III – uma IA, de código-fonte aberto, será aplicada para mensurar o orçamento, as necessidades do Município e as conformidades legais, apontando, no mínimo, duas sugestões viáveis de aplicação dos recursos;
IV – as decisões de gestão orçamentária e executiva serão integralmente tomadas em regime de democracia direta pelos munícipes residentes, independente de suas condições sócio-econômicas, por decisão majoritária, nos prazos estabelecidos para as votações, garantindo-se o segredo do voto;
V – após a construção da estrutura básica de IA, a ser feita no prazo máximo de 4 anos, o projeto será implementado e terá a duração de 4 mandatos, sendo suspenso nesse período as eleições para prefeito pessoa humana na cidade

CAPÍTULO V
DAS RELAÇÕES INTERNACIONAIS DO BRASIL EM IA

Art. 10º. Sem prejuízo do disposto no Art. 5º, inciso VI, garantida a reciprocidade equitativa entre o Brasil e outros Estados, poderão ser feitos tratados internacionais com vistas à troca de tecnologia de IA, de dados de brasileiros e de sistemas nacionais, bem como tratados para inter-operacionalidade entre IAs atuantes no Brasil e IAs atuantes em territórios estrangeiros ou globalmente.

CAPÍTULO VI
DISPOSIÇÕES GERAIS

Art. 11º. Para os fins dessa Lei, uma IA insere-se no campo da informática e do direito civil, competindo privativamente à União legislar sobre a matéria nos termos dos incisos I e IV, do Art. 22, da Constituição Federal.

Art. 12º. Essa Lei entra em vigor após decorridos 45 (quarenta e cinco) dias de sua publicação oficial.

Esse é o Parecer, s.m.j.

28 de junho de 2022

Por:

Rafael De Conti*
Curriculum Vitae. Rafael De Conti é filósofo, advogado e autodidata em computação, tendo se formado em Direito pela Universidade Presbiteriana Mackenzie (2005), em Filosofia pela Universidade de São Paulo (2006), sendo Mestre em Ética e Filosofia Política pela USP (2010). Advoga na cidade de São Paulo há cerca de 15 anos, com prática jurídica multidisciplinar, atendendo clientes nacionais e estrangeiros. Possui ampla produção literária, principalmente nos campos da Filosofia e do Direito. É autodidata em informática e computação, com conhecimentos equivalentes ao de administradores de sistemas informáticos baseados em Linux.

Download PDF

_______________________________
_________________________________________
__________________________________________________

____________________________________________________
_________________________________________
_______________________________

V e j a _também: