A discriminação é uma preocupação mais premente do avanço da inteligência artificial do que a extinção humana, diz a chefe da UE, Margrethe Vestager.
Vestager disse à BBC que “guarda-corpos” eram necessários para impedir que os maiores riscos da tecnologia se materializassem.
Ela disse que isso é fundamental quando a IA está sendo usada para ajudar a tomar decisões que podem afetar o sustento de alguém, como se eles podem solicitar uma hipoteca.
O Parlamento Europeu votará suas propostas de regras de IA na quarta-feira.
O AI Act está sendo considerado por políticos em meio a advertências sobre o desenvolvimento da tecnologia – que permite que os computadores executem tarefas que normalmente requerem inteligência humana – muito rapidamente.
Alguns especialistas alertaram que a IA pode levar à extinção da humanidade .
Mas Vestager disse que o potencial da IA para amplificar o viés ou a discriminação, que pode estar contido nas vastas quantidades de dados provenientes da Internet e usados para treinar modelos e ferramentas, é uma preocupação mais premente.
“Provavelmente [o risco de extinção] pode existir, mas acho que a probabilidade é bem pequena. Acho que os riscos da IA são mais de que as pessoas sejam discriminadas [contra], elas não serão vistas como quem são.
“Se é um banco que está usando para decidir se posso obter uma hipoteca ou não, ou se é o serviço social do seu município, então você quer ter certeza de que não está sendo discriminado [contra] por causa de seu gênero ou cor ou seu código postal”, disse ela.
Na terça-feira, a autoridade de proteção de dados da Irlanda disse que suspendeu o planejamento do Google para a UE de seu chatbot AI Bard .
Ele disse que foi informado pelo Google que seu concorrente ChatGPT seria introduzido na UE esta semana, mas ainda não recebeu detalhes ou informações mostrando como a empresa identificou e minimizou os riscos de proteção de dados para usuários em potencial.
O vice-comissário Graham Doyle disse que o DPC estava buscando as informações “em caráter de urgência” e levantou mais questões de proteção de dados sobre isso com o Google.
‘Uma abordagem da ONU’
Em entrevista exclusiva à BBC, Vestager, vice-presidente executiva da Comissão Europeia, disse que a regulamentação da IA precisa ser um “assunto global”.
Mas, antes da votação do Parlamento Europeu sobre a Lei de IA, ela insistiu que um consenso entre países “afins” deveria ser priorizado antes de incluir mais jurisdições, como a China.
“Vamos começar a trabalhar em uma abordagem da ONU. Mas não devemos prender a respiração”, disse ela.
“Devemos fazer o que pudermos aqui e agora.”
A Sra. Vestager está liderando os esforços da UE para criar um código de conduta voluntário com o governo dos EUA, que faria com que as empresas que usam ou desenvolvessem IA assinassem um conjunto de padrões que não são juridicamente vinculativos.
Ser ‘pragmático’
O rascunho atual da Lei de IA busca categorizar os aplicativos de IA em níveis de risco para os consumidores, com videogames habilitados para IA ou filtros de spam caindo na categoria de menor risco.
Os sistemas de IA de alto risco incluem aqueles usados para avaliar pontuações de crédito ou acesso a empréstimos e habitação. É aqui que estará o foco de controles rígidos sobre a tecnologia.
Mas, como a IA continua a se desenvolver rapidamente, Vestager disse que é necessário ser pragmático quando se trata de ajustar as regras em torno dessa tecnologia.
“É melhor obter, digamos 80% agora do que 100% nunca, então vamos começar e depois retornar quando aprendermos e depois corrigir com os outros”, disse ela.
Vestager disse que havia “definitivamente um risco” de que a IA pudesse ser usada para influenciar as próximas eleições.
Ela disse que o desafio para a polícia e os serviços de inteligência seria estar “totalmente no topo” de um setor criminal onde há o risco de avançar na corrida para utilizar a tecnologia.
“Se o seu feed social puder ser escaneado para obter um perfil completo de você, o risco de ser manipulado é enorme”, disse ela, “e se acabarmos em uma situação em que não acreditamos em nada, então minamos nossa sociedade completamente. .”
Muitos líderes e pesquisadores de tecnologia assinaram uma carta em março pedindo uma pausa no desenvolvimento de sistemas de IA mais poderosos que o GPT-4 da OpenAI .
Mas Vestager disse que isso não era realista.
“Ninguém pode impor isso. Ninguém pode garantir que todos estejam a bordo”, disse ela, apontando que uma pausa pode ser usada por alguns como uma oportunidade de ficar à frente dos concorrentes.
“O que eu acho importante é que todo desenvolvedor saiba que todos se inscreveram para as mesmas proteções, para que ninguém corra riscos excessivos.”
Reconhecimento facial
As propostas do Parlamento Europeu para a Lei de IA buscam restringir o uso de sistemas de identificação biométrica e a coleta indiscriminada de dados de usuários de mídias sociais ou imagens de CFTV para fins como sistemas de reconhecimento facial.
No entanto, Vestager disse: “Queremos colocar grades de proteção estritas para que não seja usado em tempo real, mas apenas em circunstâncias específicas em que você está procurando uma criança desaparecida ou há um terrorista fugindo.
“O Parlamento tem uma posição muito mais baseada em princípios que votará amanhã para basicamente bani-lo completamente.”
Antes que o AI Act possa ser finalizado como o primeiro livro de regras do mundo sobre o uso e desenvolvimento de sistemas de IA, os três poderes da UE: a Comissão, o Parlamento e o Conselho terão que concordar com sua versão final.
