Mundo Tech

Com ajuda de brasileiro, UNESCO prepara lei global de inteligência artificial

Com ajuda de brasileiro, UNESCO prepara lei global de inteligência artificial - 1

Não há como negar: a inteligência artificial é, ao mesmo tempo, fascinante e assustadora. Redes neurais capazes de emular o pensamento humano estão revolucionando vários setores da tecnologia — que atire a primeira pedra quem não gosta de usar assistentes como Alexa e Siri.

Na área de segurança cibernética, por exemplo, temos o nascimento de soluções capazes de aprender padrões comportamentais dos criminosos e responder de forma mais ágil aos eventuais ataques ou tentativas de invasão à redes corporativas. Algo similar ocorre no setor científico, onde o machine learning se mostra precioso para agilizar análises e realizar estudos automatizados.

Ao mesmo tempo, são recorrentes as discussões sobre até onde as inteligências artificiais podem ir sem simbolizar uma ameaça para a raça humana. O empresário Elon Musk, CEO da Tesla e da SpaceX, constantemente emite alertas imaginando um futuro no qual os robôs, mais inteligentes do que nós, poderiam decidir se livrar de seus criadores e fundar uma nova sociedade composta unicamente por máquinas.


Siga no Instagram: acompanhe nossos bastidores, converse com nossa equipe, tire suas dúvidas e saiba em primeira mão as novidades que estão por vir no Canaltech.

Com ajuda de brasileiro, UNESCO prepara lei global de inteligência artificial - 2
Reprodução: Miro

Claro, existe a possibilidade de que Musk esteja exagerando um pouco. Mas mesmo que ainda estejamos longe um cenário pós-apocalíptico a lá Matrix, a inteligência artificial já pode sim ser utilizada para fins malignos, simbolizando desrespeitos aos direitos básicos e à dignidade do ser humano. E é justamente por isso que a Organização das Nações Unidas para a Educação, a Ciência e a Cultura (UNESCO) está desenvolvendo uma cartilha de recomendações que poderá se tornar a primeira lei global sobre inteligência artificial.

Perigo iminente

Batizado simplesmente como “Éticas em Inteligência Artificial”, o documento de 19 páginas discorre sobre padrões e boas práticas para a criação e manutenção de sistemas de inteligência artificial, respeitando os direitos humanos e evitando qualquer tipo de discriminação, preconceito e desigualdade social. O texto pode ser acessado no site da UNESCO e este primeiro rascunho está atualmente em consulta pública para todos os estados-membro da entidade.

“Mesmo hoje, onde essa tecnologia ainda é pueril, nós temos uma série de violações aos direitos humanos. Se olharmos, por exemplo, para as fake news, elas são uma violação clara aos direitos humanos, à nossa liberdade de expressão, nosso respeito e nossa dignidade. As fakes news influenciam diretamente no tipo de informação que você está recebendo, o que impacta também em suas decisões”, explica o Dr. Edson Prestes, único brasileiro envolvido no projeto, em entrevista ao Canaltech.

Com ajuda de brasileiro, UNESCO prepara lei global de inteligência artificial - 3
Reprodução: UFRGS

Edson, que é professor na Universidade Federal do Rio Grande do Sul e membro sênior do Instituto de Engenheiros Eletricistas e Eletrônicos (IEEE), participa do Painel de Alto Nível sobre Cooperação Digital da ONU. “Sabemos que, por exemplo, mecanismos de manipulação por inteligência artificial foram utilizadas de diferentes maneiras para manipular eleições, como aconteceu na Inglaterra”, exemplifica.

O especialista também ressalta que essas ferramentas podem ser usadas para rastrear minorias sociais e até mesmo para moldar o comportamento dos cidadãos. “Imagine um sistema de inteligência artificial treinado de acordo com seu perfil, com suas características, que lhe sugira certas ações ou conteúdos. Se você estiver passando por uma fase muito difícil, você acaba entrando em um ciclo vicioso, onde o sistema vai lhe recomendar coisas que são negativas”, diz.

Desafios no open source

Um desafio presente em uma eventual regulamentação da inteligência artificial é o fato de que, nesse segmento, é muito comum encontrar frameworks e algoritmos de código aberto, disponibilizados gratuitamente para que qualquer pessoa possa criar suas próprias aplicações em cima de um “esqueleto” pronto. É o caso, por exemplo, do TensorFlow, do OpenAI e do PyTorch. Como garantir que esses recursos não sejam usados para fins indevidos?

“Não vejo problemas em tecnologias open source, pois as vantagens são muito superiores às desvantagens. É necessário termos literatura e ferramentas que lhe permitam dar o pontapé inicial. A questão é que quando você tem esse tipo de sistema, é complicado saber quais serão os usos futuros disso. Você pode tentar fazer um tipo de bloqueio, sabendo quem acessa esse tipo de sistema, quem está fazendo download e assim por diante”, defende Edson.

Com ajuda de brasileiro, UNESCO prepara lei global de inteligência artificial - 4
Reprodução: TA Digital

Para o professor, governança é um ponto-chave para garantir um uso consciente da inteligência artificial, e, por isso, é crucial a adoção de mecanismos que permitam um rastreamento de quem está utilizando tais sistemas para a aplicação de penalidades. “Acredito que isso seja possível, visto a facilidade com que podemos descobrir, por exemplo, a origem de ciberataques através dos IPs dos processos que foram executados”, complementa.

E o futuro?

É importante ressaltar que o texto da UNESCO, atualmente, não é uma lei, mas sim uma carta de recomendações que pode ou não se transformar em legislações locais para cada estado-membro da entidade. Edson aponta que tal iniciativa é apenas o primeiro passo para um ecossistema mais amplo, que mira em um cenário de colaboração internacional para garantir que esse tipo de tecnologia tenha o mesmo tratamento ao redor do globo.

“Esta ação está dentro de um contexto maior. O que estamos fazendo é criando uma espécie de framework que vai definir recomendações que podem ser transformadas em legislações locais. A ONU, porém, está pensando em um nível acima, de forma que os estados possam cooperar entre si, para que eles consigam lidar com esses problemas advindos do mal-uso da tecnologia”, finaliza.

Trending no Canaltech:

Fonte: Canaltech