A Europa chegou na sexta-feira a um acordo provisório sobre regras históricas da União Europeia para reger o uso de inteligência artificial (IA), incluindo o uso de IA pelos governos na vigilância biométrica e a regulação sistemas de como o ChatGPT.
Com o acordo político, a UE caminha para se tornar a primeira grande potência mundial a promulgar leis que regem a IA. O acordo entre os países do bloco e os membros do Parlamento Europeu aconteceu após quase 15 horas de negociações que se seguiram a um debate de quase 24 horas no dia anterior.
Os dois lados deverão discutir detalhes nos próximos dias, o que poderá mudar a forma da legislação final.
O acordo exige que modelos básicos como ChatGPT e sistemas de IA de uso geral (GPAI, na sigla em inglês) cumpram as obrigações de transparência antes de serem colocados no mercado. Estas obrigações incluem a elaboração de documentação técnica, o cumprimento da legislação da UE em termos de direitos autorais e a divulgação de resumos detalhados sobre o conteúdo utilizado nos treinamentos dos modelos.
Os modelos básicos de alto impacto com risco sistêmico terão de realizar avaliações de versões, analisar e mitigar riscos sistêmicos, realizar testes de adversidades, reportar à Comissão Europeia sobre incidentes graves, garantir a segurança cibernética e reportar sobre eficiência energética.
Os GPAI com risco sistêmico podem se basear em códigos de prática para cumprir o novo regulamento.
Sob o acordo, governos só podem utilizar a vigilância biométrica em tempo real em espaços públicos em casos de vítimas de determinados crimes, na prevenção de ameaças presentes ou previsíveis, como ataques terroristas, e na busca de suspeitos de crimes mais graves.
O acordo proíbe manipulação cognitivo-comportamental, eliminação indiscriminada de imagens faciais da Internet ou de gravações de câmeras de segurança, criação de um ranking de pontuação social e sistemas de categorização biométrica para inferir crenças políticas, religiosas, filosóficas, orientação sexual e raça.
Os consumidores teriam sob o acordo o direito de fazer reclamações e receber explicações, enquanto as multas por violações variariam entre 7,5 milhões de euros até 35 milhões de euros.
O grupo empresarial DigitalEurope criticou as regras como mais um ônus para as empresas, além de outra legislação recente.
“Temos um acordo, mas a que custo? Apoiamos totalmente uma abordagem baseada em risco, não na tecnologia em si, mas a tentativa de última hora de regular os modelos de base virou isto de cabeça para baixo”, afirmou a Diretora Geral Cecilia Bonefeld-Dahl.
O grupo de direitos digitais European Digital Rights foi igualmente crítico.
“É difícil ficar animado com uma lei que, pela primeira vez na União Europeia, tomou medidas para legalizar o reconhecimento facial público ao vivo em todo o bloco”, disse a sua conselheira política sênior, Ella Jakubowska.
“Embora o Parlamento tenha lutado muito para limitar os danos, o pacote global sobre vigilância biométrica e definição de perfis é, na melhor das hipóteses, morno.”
A legislação deverá entrar em vigor no início do próximo ano, assim que ambas as partes a ratificarem formalmente, e ser aplicada dois anos depois.
