O que é que dois advogados a jogar às cartas nos podem ensinar sobre Inteligência Artificial?

A Inteligência Artificial faz cada vez mais parte do nosso dia-a-dia mas...será que estamos preparados para os desafios que coloca? A nossa legislação está adaptada a esta nova realidade?

A Lei da Inteligência Artificial (ou Artificial Intelligence Act) da União Europeia data de abril de 2021. Faz parte de um conjunto de leis em que a Comissão Europeia está a trabalhar para regular o mundo digital: dos serviços, aos mercados, à gestão de dados. A União Europeia quer regulamentar a inteligência artificial para que os princípios europeus sejam aplicados à produção e disseminação destes conteúdos, protegendo os cidadãos de práticas nocivas e danosas para a sua integridade e privacidade.

Olá! Eu sou o Carlos Munõz. Costumava liderar o Conselho de Assuntos Regulatórios na Hugging face, uma startup de Machine Learning. Agora, fundei outra startup, chamada Alinia, para a governança de modelos de linguagem de larga escala.

E eu sou Kai Zenner e trabalho no Parlamento Europeu como conselheiro. Estou muito envolvido nas negociações para o Regulamento da Inteligência Artificial, em que o Carlos é um dos especialistas. De tempos a tempos, ele ajuda-nos no Parlamento e na União Europeia a compreender melhor os modelos de linguagem, modelos de base e muitas outras coisas.

CM: Então vamos jogar um jogo, não é? Eu começo. A inteligência artificial vai roubar-nos os empregos?

KZ: Bem, esta é uma boa pergunta que ouvimos frequentemente. Eu acho que não. Porque, se olharmos para a história da Humanidade, tivemos muitos, muitos períodos em que adotamos novas tecnologias.

Claro que a nossa sociedade vai ter de se adaptar nos próximos anos. Mas, basicamente, sempre que surgiram novas tecnologias, os humanos encontraram novos ou diferentes tipos de empregos. Mas o que eu considero que é mais importante é a capacidade de aprender continuamento e de melhorar as capacidades tecnológicas. Se contarmos nisso, acho que nos sairemos bem.

CM: Ah, sim, sim. Concordo. Concordo.

KZ: Qual é o papel da União Europeia no que toca a governança digital?

CM: Ok, então... Esta é uma pergunta um pouco abrangente. Nos últimos anos, estamos a ver muitas leis, mas também iniciativas políticas da União Europeia para promover uma melhor governança dos mercados digitais e em geral. Esta Lei da Inteligência Artificial é apenas um deles, mas também podíamos falar do Lei de Dados, da Lei de Governança dos Dados, a Lei dos Serviços Digitais e a dos Mercados Digitais... Há um leque de diferentes iniciativas regulamentares que vão empurrar a União Europeia para uma melhor governança digital.

KZ: Talvez só para complementar um pouco... Acho que o que o Carlos está a dizer é muito, muito correto e vai decidir se, basicamente, a Lei da IA vai terminar em sucesso. Este processo requer muito investimento nos equipamentos de implementação e tal. E como Carlos disse, há muitos destes grupos para a Lei dos Dados e para a Lei de Proteção de Dados, para as Tecnologias de Comunicação e de Informação... Eles precisam de trabalhar muito bem juntos. E esperamos que isso esteja a acontecer. Mas é um ponto de interrogação.

CM: Como é que vês o estado atual da transição digital da UE?

KZ: Bem, acho que estamos a progredir, face ao que estava a acontecer há 10 anos. E um dos principais desenvolvimentos é o que os Estados Membros, os governos, acordaram um pouco e já estão a focar-se nas transições digitais. Como sabem, a Comissão colocou esta no top três, no top dois, até, das suas prioridades, e, consequentemente, há finalmente algum investimento. Também estamos a tentar atrair capital de risco enquanto investimos mais em ecossistemas, combinando melhor investigação e empresas. Mas há um longo percurso que a Europa tem de fazer, porque está bastante atrás dos Estados Unidos e da China, diria eu. E se compararmos, por exemplo, o nível de investimento, podemos começar a preocupar-nos. Mas, mais uma vez, penso que já percebemos o que precisamos de fazer e já começamos a dar os primeiros passos positivos.
Por exemplo, no meu país-natal, existem agora cada vez mais pequenos ecossistemas em Munique, em Baden-Vurtemberga, em Berlim e por aí fora.
E podemos ver realmente muitas coisas interessantes, especialmente com o envolvimento das start-ups.

CM: Sim, eu concordo totalmente com ele. Penso que em Espanha estamos a presenciar o mesmo fenómeno que está a acontecer noutros países ao mesmo tempo. Por exemplo, em França, o governo está a investir fortemente em promover o ecossistema das start-ups de Inteligência Artificial. Um dos melhores exemplos é a Mistral, que é uma start-up de IA gigante que se preocupa com o desenvolvimento de modelos de linguagem em larga escala. Na Alemanha, por exemplo, também temos a Aleph Alpha. Há uma série de pequenas promessas que que vão basicamente desenvolver no futuro.

KZ: A primeira versão do Regulamento para a Inteligência Artificial é de abril 2021. O documento considera todos os desenvolvimentos que aconteceram desde então?

CM: Uau! Esta é uma pergunta para o nosso discurso. Eu penso que sim. Desde que a primeira versão foi publicada, em abril de 2021, houve uma série de diferentes mudanças e modificações, principalmente decorrentes do processo legislativo que está na fase final, como o Kai provavelmente nos vai dizer. Este é basicamente o trílogo o os estágios finais do trílogo. Portanto sim, muitas mudanças estão a acontecer até neste momento, não é?

KZ: A IA generativa é uma das coisas que não estava no radar da comissão quando a primeira versão do documento foi escrita. Agora, no Parlamento, estamos a tentar corrigir isso. E uma coisa importante sobre a Lei da IA é que há várias maneiras e fazer pequenas mudanças e ajustes. Por exemplo, numa lista de vários sistemas de inteligência artificial, seria bastante fácil para a Comissão adicionar uma nova categoria, caso surja alguma tecnologia mais arriscada. É por isso que o que o Carlos estava a dizer é verdade. Penso que, no final, a Lei da IA consegue gerir todos os desenvolvimentos.

CM: Sim, concordo. Ok. A inteligência artificial tem gerado debates sobre direitos de autor. Pode o regulamento resolver isto sozinho? Esta é boa.

KZ: Vamos só dizer que as opiniões dentro do Parlamento e da União Europeia sobre esta questão são muito, muito, muito diferentes e que, na minha opinião - que é só minha porque o meu chefe tem uma opinião ligeiramente diferente -, os direitos de autor deviam ser tratados com a diretiva dos direitos de autor que já existe, ainda que, na minha opinião, ela deva ser atualizada. Não sou grande fã de acrescentar mais palavras sobre direitos de autor no Regulamento da IA. Acho que isso levaria a alguma confusão e a alguma incerteza. E também tem de haver uma avaliação de impacto. Não vamos decidir algo demasiado rapidamente, sem termos provas e consultadoria primeiro.
Portanto, honestamente, o que eu espero é que seja suficiente fazer referência a textos de Data Mining (Prospeção de Dados), ao IV Artigo dos direitos de autor e talvez um ou dois anos depois da próxima eleição, ajustar o texto neste aspeto, se for necessário. O que este regulamento vai fazer de certeza, além do que já disse, é ter uma frase ou alguns parágrafos sobre IA generativa e as questões de direitos de autor. Mais uma vez, pode ser apenas uma referência para a diretiva.

Outra coisa que vamos ter, que também está ligado a esta questão dos direitos de autor, é, provavelmente, uma obrigação para colocar uma etiqueta em conteúdos gerados artificialmente.

Mas sim, é uma questão muito complicada sobre a qual não há uma opinião clara na UE.

CM: Eu concordo completamente contigo. Atualmente, há duas maneiras de lidar com direitos de autor e com o resultado de uma IA generativa, em que há diretos de autor pré-existentes. Creio que, como falaste, a transparência e, no Artigo 52 (“Obrigações de Transparência para Fornecedores e Utilizadores de Certos Sistemas de IA”) sobre a transparência e declarar que uma imagem é gerada artificialmente, é apenas um dos exemplos. O outro é colaboração através de regulamentação com quem desenvolve sistemas de LLM onde se podem identificar violações de direitos de autor.

KZ: É possível assegura que a regulamentação protege pessoas e empresas da mesma maneira?

CM: Ok, sim. Eu diria que este é um dos maiores desafios e o principal objetivo de todas as regulamentações, especialmente dentro da União Europeia. Porque, no final, este é o tipo de desafio que pode criar um equilíbrio entre promover a inovação na esfera da IA, mas, ao mesmo tempo, claro, salvaguardando os direitos fundamentais dos indivíduos, especificamente dento da UE. Portanto, eu penso que este é um grande desafio. Podemos voltar atrás neste debate de que a IA tem muito potencial, mas que pode, ao mesmo tempo, levar a situações nocivas para indivíduos e para os seus direitos fundamentais. Há sempre este debate...

KZ: Não tenho nada a acrescentar. Pensamos de uma maneira muito parecida.

KZ: Bem, depende dos resultados e da perspetiva de que estava a falar há pouco. Por exemplo, com os bons exemplos a que estamos a assistir agora, na Alemanha, em Espanha e por aí, estamos a acelerar realmente os nossos esforços para fortalecer o nosso campo digital. E eu penso que a União Europeia tem pela frente um brilhante futuro digital e que podemos criar um terceiro caminho, a seguir aos EUA e à China. Podemos combinar futuras oportunidades que as novas tecnologias nos permitem e encaixá-las num enquadramento ético. Já fizemos isso com o regulamento geral de Proteção de Dados, apesar de eu não ser grande fã do RGPD. De qualquer modo, criámos princípios gerais que são importantes para proteger os nossos direitos fundamentais, especialmente o direito à privacidade no Artigo 8 da Carta. Se formos espertos em relação em isso, especialmente em tópicos como a IA e afins, podemos criar uma situação em que a Europa tem algumas muito boas, mas talvez pequenas, empresas que se foquem em criar esses produtos e serviços que estejam alinhados com os princípios europeus. Depois, eu acredito verdadeiramente que podemos criar competitividade nas nossas empresas, e isto nós já vimos com o RGPD, portanto, na proteção de dados. Nos EUA, há empresas americanas a vender alguns dos seus produtos com um selo “de acordo com o RGPD” como um ponto positivo de venda. É uma medida bem-sucedida se uma empresa em New Jersey, nos EUA o fizer. E, outra vez, se fizermos tudo certo, este pode ser um bom resultado. Se os investimentos não aumentarem bastante e os nossos esforços para disseminar capacidades digitais também não, pode acontecer que fiquemos cada vez mais para trás. Isso pode tornar-se perigoso para nós, porque a nossa riqueza e nível de vida cairia muito na próxima década. Mas esperemos que o primeiro cenário aconteça!

CM: Eu concordo contigo. Concordo totalmente. E a última pergunta: As pessoas que estão a trabalhar para regular a IA percebem do assunto?

KZ: Sim, esta é uma pergunta muito traiçoeira a que muitas pessoas na União Europeia não gostariam de responder. Mas eu gosto dela porque é um ponto crítico e um dos problemas atuais que enfrentamos na UE.

Há uma pressa em querer fechar novas leis que leva muitos dos meus colegas a não querer envolver especialistas no processo.

E para ser claro, a nossa equipa que tem trabalhado na Lei da IA inclui uma pessoa dos Greens e uma da presidência espanhola. Portanto, um representante de dois estados-membros. Eles trabalharam em machine learning (aprendizagem automática), algoritmos e afins.

Os outros são advogados, como eu, cientistas políticos, e por aí for a. E, outra vez, infelizmente, a rapidez com que os processos acontecem leva a que muitas pessoas sintam que os especialistas são um pouco irritantes porque não conseguem apresentar propostas claras e assim. Há mesmo esta tendência para as pessoas se isolarem, especialmente durante os processos de negociação. Eu e o meu chefe estamos sempre a tentar contrariar isto.
É por isso que eu já convidei o Carlos várias vezes para as nossas reuniões internas. Mas, como um grupo, não o queremos. Penso que, à medida que as tecnologias se tornem mais e mais complexas, como é o caso das cripto-moedas, do Bitcoin, da IA, da computação quântica e afins, isto é algo que a União Europeia precisa de mudar, porque, mais uma vez, sem especialistas, como conseguimos decidir sobre as questões técnicas?
Até podemos considerar o governo dos dados fácil de gerir, mas só especialistas como o Carlos nos podem dizer “Isto não está a funcionar” ou “Isto talvez consigamos fazer”. Portanto, não está incrível agora, mas espero que nos próximos anos isto seja algo que consigamos melhorar no desenvolvimento de políticas.

CM: Eu concordo plenamente, mas também acho que há bastantes iniciativas dentro das instituições da União Europeia. Estamos constantemente em colaboração com mercados ou mesmo associações, a tentar perceber como melhorar colaborar.
Para trazer este tipo de abordagem colaborativa para o desenvolvimento da regulamentação, esta indústria é perfeita. Também podemos ver outras instituições, como a Comissão Europeia, que tem um dos seus centros de investigação conjunta em Sevilha, por exemplo, onde investigadores, pessoal técnico e cientistas trabalham em IA. Penso que estas pessoas podem ajudar bastante a navegar este género de debates e de desafios tecnológicos.