Jornalismo Independente
TECNOLOGIA
Com uma votação esmagadora de 523 votos a favor, 46 contra e 49 abstenções, a legislação visa tornar a IA mais transparente, segura e responsável, enquanto mitiga os riscos de manipulação e violação de direitos fundamentais.
A regulamentação da União Europeia para Inteligência Artificial, classifica os sistemas de IA em diferentes níveis de risco: baixo, médio e alto. Cada nível de risco determina o rigor das regras aplicáveis e as exigências de conformidade para a implementação desses sistemas.
Os Sistemas de IA que não apresentam risco significativo para a saúde, segurança ou direitos fundamentais dos indivíduos foram classificados com baixo risco. Estes sistemas terão regras menos rigorosas, exigindo principalmente transparência em relação ao uso da IA e a identificação de conteúdo gerados por IA.
Já os sistemas que, embora não sejam críticos, mas podem impactar de forma significativa setores específicos ou grupos de pessoas, foram considerados como de risco médio. Além da transparência, esses sistemas precisam seguir normas de segurança e precisão, bem como diretrizes específicas para evitar mal-entendidos ou usos indevidos.
E por último classifica-se como Risco alto Sistemas de IA utilizados em setores críticos como saúde, segurança, emprego, infraestrutura crítica e setores que podem afetar diretamente a vida das pessoas, como transporte e energia. Nesses casos a regulamentação é mais rigorosa, e precisam: 1) Autorização Prévia antes de serem comercializados, esses sistemas precisam de uma avaliação e autorização prévia de órgãos reguladores da EU; 2)
Devem seguir critérios de Transparência e Precisão, fornecendo informações claras sobre o funcionamento da IA, incluindo como as decisões são tomadas; 3) Devem seguir rigorosos padrões de cibersegurança para proteger os dados e evitar abusos; e 4) A legislação exige que haja supervisão humana sobre esses sistemas para garantir que decisões críticas não sejam tomadas de forma totalmente automatizada. Isso visa assegurar que haja responsabilidade humana nas decisões tomadas por sistemas de IA de alto risco.
Além das regras existem algumas restrições importantes que regulam todos os produtos de IA, tais como: Proibição de “Social Scoring”: A prática de pontuação social baseada no comportamento, status socioeconômico ou características pessoais dos indivíduos está proibida. Isso visa evitar discriminações e violações de privacidade. Restrição ao Uso de Reconhecimento Facial: O uso indiscriminado de reconhecimento facial em espaços públicos é proibido. Exceções podem ser feitas somente mediante ordem judicial e para fins específicos, como investigações de crimes graves. E Identificação de Conteúdos Gerados por IA: Desenvolvedores devem claramente identificar textos, sons e imagens gerados por IA para garantir que os usuários saibam quando estão interagindo com um sistema automatizado.
Implementação e Fiscalização
A legislação estabelece a aplicação de multas severas para as empresas que não aderirem às regras. As sanções podem variar entre 1,5% e 7% do faturamento anual da empresa. Esta abordagem visa criar um forte incentivo financeiro para o cumprimento das normas, desestimulando práticas inadequadas ou negligentes na aplicação de IA.
A implementação e fiscalização da regulamentação serão realizadas por autoridades nacionais designadas em cada país membro da UE. Estas autoridades terão poderes significativos para realizar auditorias e investigações para garantir que as empresas estejam em conformidade com as novas regras, assim como impor as penalidades que consistem em multas financeiras, outras sanções, como ordens de cessar e desistir, restrições no uso de certas tecnologias de IA ou exigências de modificação nos sistemas de IA para atender aos padrões regulatórios.
A legislação também permite que qualquer indivíduo apresente queixas sobre violações das regras de IA. Isso significa que cidadãos comuns, organizações de direitos civis, ou qualquer parte afetada pode alertar as autoridades sobre possíveis descumprimentos. Este mecanismo aumenta a responsabilidade das empresas, pois amplia a rede de fiscalização para incluir o público em geral, proporcionando maior proteção aos usuários.
Historicamente, as leis da União Europeia servem como referência para a formulação de legislações em diversos países, incluindo o Brasil. Com a aprovação do AI Act, é provável que o Brasil considere adotar medidas similares para regulamentar o uso da IA no país. A adaptação de tais regulamentações poderia promover um ambiente mais seguro e transparente para o desenvolvimento e utilização de tecnologias de IA no mercado brasileiro.
Ao seguir o exemplo da UE, teremos uma base para promover segurança e ética. Adotando as regulamentações semelhantes que pode ajudar a garantir que as tecnologias de IA sejam desenvolvidas e utilizadas de maneira segura e ética globalmente, assim como estar alinhado às melhores práticas internacionais seguindo as diretrizes estabelecidas pela UE oportuniza-se facilitar a harmonização das regulamentações globais, beneficiando empresas que operam internacionalmente e promovendo uma governança consistente da IA.
Para as empresas de tecnologia, especialmente aquelas desenvolvendo soluções de IA, a nova legislação representa um desafio significativo. Desenvolvedores devem identificar claramente conteúdos gerados por IA, como textos, imagens e sons, para que os usuários saibam quando estão interagindo com uma máquina. Além disso, práticas como “social scoring” – a pontuação social baseada em comportamento ou características pessoais – e o uso indiscriminado de reconhecimento facial em espaços públicos estão proibidos, com exceções apenas mediante ordem judicial para crimes graves.
A fiscalização deverá ser rigorosa, com a possibilidade de indivíduos apresentarem queixas às autoridades nacionais, que terão o poder de iniciar processos de supervisão e impor penalidades.
Algumas críticas a essa regulamentação são destacadas pela impressa europeia, tais como a atualização Contínua da tecnologia pode tornar a regulamentação desatualizada rapidamente, bem como a difícil implementação eficaz das regras exige recursos significativos e coordenação entre as autoridades nacionais e europeias e por último, entende-se a necessidade de ajuste e conformidade das empresas para cumprir as novas regras, o que pode demandar tempo e investimentos substanciais.
Independente de quaisquer restrições, sabemos que a IA veio para ocupar um lugar de valia em nossa sociedade e através dela muitos avanços têm sido observados. A aprovação do AI Act pela UE marca um novo capítulo na governança da tecnologia, estabelecendo um padrão global para o desenvolvimento seguro e responsável da IA. Para o Brasil, é importante adotar regulamentações semelhantes para garantir que a inovação tecnológica avance de maneira ética e segura, protegendo os direitos fundamentais dos cidadãos enquanto promove a confiança na IA.
