Foto: Reprodução |
O projeto estabelece os
princípios fundamentais para o desenvolvimento e uso de IA. Ele define que a
tecnologia deve ser transparente, segura, confiável, ética, livre de vieses
discriminatórios, respeitando os direitos humanos e valores democráticos. O
projeto exige também que sejam contemplados o desenvolvimento tecnológico, a
inovação, a livre iniciativa e a livre concorrência.
Além de
enumerar os sistemas de IA considerados de alto risco, o projeto proíbe o
desenvolvimento de alguns tipos de tecnologias de IA que causem danos à saúde,
à segurança ou a outros direitos fundamentais.
O texto,
por exemplo, veda que o Poder Público crie sistemas que classifiquem ou
ranqueie pessoas com base no comportamento social para acesso a bens e serviços
ou a políticas públicas “de forma ilegítima ou desproporcional” ou de sistemas
de IA que facilite o abuso ou exploração sexual de crianças e adolescentes.
Alto risco
O projeto
define ainda como sistemas de IA de alto risco aqueles que podem causar
danos às pessoas ou à sociedade, como os de controle de trânsito, de redes
de abastecimento de água e eletricidade.
Também
são considerados sistemas de IA de alto risco aqueles aplicados na educação e
formação profissionais para determinar acesso à instituição de ensino ou de
monitoramento de estudantes, além dos sistemas usados para recrutamento de
trabalhadores ou para promoções no trabalho.
Sistemas de IA de “repartição de
tarefas e controle e avaliação do desempenho e do comportamento das pessoas nas
áreas de emprego, gestão de trabalhadores e acesso ao emprego por conta
própria” também são considerados de alto risco.
Outros
exemplos são sistemas de IA para avaliação de prioridades em serviços públicos
essenciais, como bombeiros e assistência médica. Também são citados no texto os
sistemas de inteligência artificial usados pela Justiça para investigação de
crimes, ou que tenham risco para as liberdades individuais ou ao Estado
Democrático de Direito.
Os
sistemas de IA na área da saúde, como para auxiliar no diagnóstico e
procedimentos médicos, e para o desenvolvimento de veículos autônomos em
espaços públicos são outros exemplos de sistemas de alto risco de inteligência
artificial listados pelo projeto.
Big techs
Durante a
tramitação no Senado, foi retirado o
dispositivo que considerava como sendo de alto risco os
sistemas de IA usados pelas plataformas digitais, as chamadas big techs,
para produção, análise, recomendação e distribuição de conteúdos.
De acordo
com o relator, senador Eduardo Gomes (PL-TO), a retirada desse trecho foi um
acordo entre as bancadas para fazer o projeto de lei 2.338 de 2023, de autoria
do presidente do Senado, Rodrigo Pacheco (PSD-MG), avançar na votação.
Fonte: Cariri Ativo
0 Comentários