Quais são os perigos da Inteligência Artificial? Dá para controlá-la?

Ferramentas como o ChatGPT sendo utilizadas em trabalhos escolares e universitários; assistentes virtuais, como Alexa, Siri e Google Assistance, respondendo a dúvidas banais e ajudando em pequenas atividades do cotidiano, como fazer uma lista de compras; aplicativos que mostram como as pessoas ficarão quando envelhecerem. A Inteligência Artificial (IA) está cada vez mais presente no dia a dia e tem sido aplicada em diferentes setores e áreas do conhecimento, de forma que, muitas vezes, sua presença mal é percebida. 

Mas, afinal, você sabe o que faz com que um dispositivo ou serviço seja classificado como uma IA? Basicamente, são tecnologias computacionais que realizam tarefas baseadas na forma como o cérebro humano funciona. Antes, esse era um campo de Ciência da Computação mais explorado em processos industriais sofisticados e pesquisas de ponta, mas, hoje, já pode ser encontrado em aplicativos, nos smartphones e nos mais diversos serviços virtuais.

+ Ciência de dados e inteligência artificial se torna um mercado em ascensão

Embora a Inteligência Artificial possa apresentar muitas vantagens, trazendo praticidade, facilitando atividades do dia a dia e melhorando a qualidade de uma série de serviços, também existem áreas cinzentas. O uso desenfreado, o crescimento exponencial e a falta de regulamentação do setor preocupa especialistas por colocar em risco questões sociais, econômicas, políticas, éticas e morais.

Para você ficar por dentro do tema, o GUIA DO ESTUDANTE reuniu quais são as maiores preocupações dos pesquisadores da área, previsões de seus impactos na sociedade, alguns problemas que já estão acontecendo e iniciativas de regulamentação que existem. Confira:

Como a IA deve impactar a sociedade a longo prazo?

“O amanhã é promissor e a Inteligência Artificial será tão fundamental quanto a criação do microprocessador, do computador pessoal, da internet e do telefone celular”, afirmou o fundador da Microsoft, Bill Gates, em um texto intitulado “A era de IA começou”, publicado em seu blog pessoal em março de 2023. O bilionário é um entusiasta da tecnologia e defende que ela pode ser usada como uma ferramenta para melhorar áreas como saúde e educação, além da produtividade no mercado de trabalho.

Na indústria automotiva, por exemplo, recursos baseados em Inteligência Artificial já são aplicados em sistemas de carros autônomos. Na indústria farmacêutica, a IA tem permitido análises mais eficientes em testes de desenvolvimento de medicamentos. Na educação, empresas já estudam a possibilidade de desenvolver programas de ensino personalizados de acordo com o perfil de cada estudante. 

Essas mudanças, consequentemente, também afetam o mercado de trabalho. Segundo um relatório do banco de investimentos Goldman Sachs, a Inteligência Artificial poderia substituir cerca de 300 milhões de empregos no futuro. Nos Estados Unidos e na Europa, por exemplo, a previsão é que um quarto dos empregos seja substituído pela tecnologia. 

A IBM, empresa voltada para a área de tecnologia da informação, anunciou em maio que pretende reduzir 30% dos empregos administrativos nos próximos cinco anos com o uso de IA – o que equivale a cerca de 26 mil funcionários.

Mas calma! O mesmo estudo também indica que novos postos de trabalho devam surgir e que as tecnologias podem facilitar tarefas e ajudar no aumento da produtividade. Recursos como ChatGPT, um tipo de inteligência artificial generativa, ou seja, que usa algoritmos e textos disponíveis em uma base de dados para criar novos conteúdos a partir de instruções ou perguntas, podem ser usados para adiantar processos mais burocráticos ou automáticos e permitir que as pessoas tenham mais tempo livre para tarefas que exijam maior pensamento criativo e crítico. 

+ 7 profissões que jamais serão substituídas por inteligência artificial

Ainda assim, até os maiores entusiastas da tecnologia, como Bill Gates, fazem alertas sobre os riscos que podem ser causados com seu mau uso, ou caso as IAs “estabeleçam seus próprios objetivos” à medida que melhoram com o tempo.

Algumas IAs, como ChatGPT, DALL-E, Bard e AlphaCode, já produzem textos (poesias, piadas, roteiros, músicas, códigos de computadores) e imagens (fotos, obras de arte e diagramas) que são difíceis de serem diferenciadas do trabalho humano: estudantes já usam a ferramenta para fazer trabalhos escolares e acadêmicos; o deputado norte-americano Jake Auchincloss fez um discurso no Congresso que tinha sido produzido pelo ChatGPT para enfatizar o potencial e o poder da IA; o fotógrafo alemão Boris Eldagsen causou polêmica ao ganhar o primeiro lugar no concurso Sony World Photography Award com uma imagem criada por IA. 

Começamos, aí, a entrar em território mais problemático.

Quais são os maiores problemas que a Inteligência Artificial pode causar?

Como qualquer outra nova tecnologia, as IAs têm seus defensores e seus críticos, ou seja, há quem acredite que elas serão extremamente benéficas e há quem afirme que as máquinas superinteligentes são uma ameaça para a existência humana. É o caso do físico britânico Stephen Hawking, que faleceu em 2018.

“O desenvolvimento da inteligência artificial completa pode significar o fim dos humanos. Os humanos, que são limitados pela lenta evolução biológica, não seriam capazes de competir e seriam superados”, disse ele em entrevista à BBC em 2014. Segundo o estudioso, uma máquina com esse nível de inteligência “descolaria por conta própria e se redesenharia em um ritmo crescente”.

Em março deste ano, um grupo de especialistas em inteligência artificial e executivos da indústria de tecnologia elaborou uma carta aberta na qual pediu uma pausa de pelo menos seis meses no treinamento de sistemas de inteligência artificial mais poderosos que o GPT-4 (versão mais avançada do ChatGPT), argumentando que eles representariam uma potencial ameaça à humanidade. Foram mais de mil assinaturas, incluindo personalidades, como o escritor best-seller israelense Yuval Harari, o empresário Elon Musk, o cofundador da Apple, Steve Wozniak.

No documento, eles alegam que os laboratórios que trabalham com essa tecnologia estão em “uma corrida fora de controle para desenvolver e implementar mentes digitais cada vez mais poderosas que ninguém, nem mesmo seus criadores, pode entender, prever ou controlar com segurança”.

No evento Yale CEO Summit, mais de 40% dos líderes empresariais, como o chefe do Walmart, Doug McMillion, e o CEO da Coca-Cola, James Quincy, disseram que a IA tem o potencial de destruir a humanidade daqui a cinco a 10 anos.

Segundo Fernando Osório, professor do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, em entrevista ao Jornal da USP, quanto mais avançada a tecnologia – como ocorre ano após ano -, mais a sociedade deve ser impactada. “Toda tecnologia sempre oferece riscos, se for mal utilizada; assim como ocorre com as armas ou a energia nuclear, por exemplo”.

Para o especialista, um dos principais riscos atualmente é a falsificação de informações. Com as novas ferramentas de Inteligência Artificial, é possível gerar, em larga escala, fake news e os chamados deepfakes, que são imagens criadas por IA que reproduzem aparência, expressões e até a voz de uma pessoa de carne em osso em vídeos. Esse tipo de informação falsa pode ser usada para manipular a sociedade, ter fins políticos ou militares e ser adotada por regimes autoritários para sistemas de vigilância e controle em massa. 

Geoffrey Hinton, considerado o “padrinho da IA”, anunciou seu desligamento do Google neste ano e afirmou que se arrepende de seu trabalho, porque temia que “maus agentes” usassem IAs para fazer “coisas ruins”, e que os problemas com inteligência artificial talvez sejam mais urgentes do que os da mudança climática. “Para mim, a probabilidade de essas ferramentas serem usadas para abalar democracias é essencialmente 100%”, disse em entrevista ao The New York Times.

Recentemente, uma foto do papa Francisco usando uma jaqueta prata circulou por sites de notícias e redes sociais, confundindo as pessoas por algumas horas: a imagem era falsa e foi feita com o programa Midjourney. Embora o episódio não tenha gerado grandes consequências, é um exemplo do potencial que essas ferramentas possuem para criar dúvidas entre fatos e falsificações. Alguns especialistas apontam que a sociedade estaria prestes a entrar em um ambiente de pós-verdade.

Consequências sociais também já podem ser vistas. Na Bélgica, em março, um homem que conversava frequentemente com um chatbot cometeu suicídio e a esposa afirma que o contato com o programa o levou a tirar a própria vida. O governo belga se manifestou declarando que o caso é “um precedente que deve ser levado a sério” e “o perigo do uso [de inteligência artificial] é uma realidade que precisa ser considerada”.

E mesmo entre os que acreditam que a IA tem um enorme potencial para a humanidade, como Sam Altman, da OpenAI, criadora do ChatGPT, e que defendem que ela poderia resolver “os maiores desafios da humanidade, como a mudança climática e a cura do câncer”, ainda há receios de que o atual ritmo de desenvolvimento, sem regras e limites claros, seja “preocupante”.

Ritmo acelerado nas mudanças da área

Em uma entrevista à BBC News Brasil, Gary Marcus, professor emérito da Universidade de Nova York (NYU), nos Estados Unidos, e um dos principais nomes no debate sobre IA, afirmou que estamos chegando ao “momento Jurassic Park” das máquinas: a possibilidade — como no filme de Steven Spielberg — de que a situação fuja do controle.

Para se ter uma ideia, em apenas dois meses depois de seu lançamento, o ChatGPT, atingiu 100 milhões de usuários ativos. O aplicativo TikTok, que já tinha sido considerado uma explosão de popularidade, levou nove meses para atingir o mesmo marco. Já o Instagram levou dois anos e meio.

Nesse contexto, nenhum país quer ficar para trás . Hoje, o país que mais investe em inteligência artificial é a China. Em 2021, o país aplicou 622 bilhões de dólares em pesquisa e desenvolvimento dessa tecnologia. Os Estados Unidos aparecem em segundo lugar, tendo investido 599 bilhões no mesmo ano, seguido pelo Japão com 182 bilhões. O Brasil é o décimo país da lista, com 38 bilhões de dólares.

A necessidade de regulamentação

Quando uma nova tecnologia surge e começa a gerar impactos na sociedade, governos passam a se mobilizar para criar certas regras de uso e regulamentação. Pense, por exemplo, nas redes sociais. Mesmo já difundidas, até hoje surgem debates sobre os limites que devem ser impostos, seja em favor da privacidade dos usuários, segurança de dados ou mesmo para evitar a interferência em eleições – como já aconteceu em 2016, por exemplo, nas eleições de Donald Trump à presidência dos EUA. 

A União Europeia tem sido pioneira na regulamentação das IAs e já começou a se movimentar para estabelecer regras – as primeiras do mundo – sobre o uso dessa tecnologia por parte das empresas. 

Um novo projeto de lei prevê, entre outras medidas, a proibição da vigilância biométrica, de sistemas de reconhecimento facial em espaços públicos e do rastreamento por inteligência artificial. A legislação também estabelece restrições rígidas a aplicativos de Inteligência Artificial de “alto risco”, que podem causar “danos significativos à saúde, segurança, direitos fundamentais ou meio ambiente das pessoas” e descreve os requisitos de transparência. O envolvimento em práticas proibidas pode levar a uma multa de até 40 milhões de euros ou um valor equivalente a até 7% do faturamento anual mundial de uma empresa – o que for maior.

A lei não deve entrar em vigor até 2026, por conta das revisões feitas de acordo com os avanços da tecnologia, mas, de acordo com a MIT Technology Review, veículo de divulgação do Instituto de Tecnologia de Massachusetts, se a União Europeia conseguir elaborar e adotar um marco regulatório que estabeleça os principais riscos da aplicação de IA e os limites e checagens adequados, essa legislação deverá servir como modelo para outros países. Afinal, segundo a própria publicação, o campo de desenvolvimento e aplicação de ferramentas de IA tem sido um “velho oeste”, uma terra sem lei.

Já no Brasil, também há um projeto de lei que visa regulamentar o desenvolvimento e uso da tecnologia. Apresentado pelo presidente do Senado, Rodrigo Pacheco (PSD-MG), e elaborado por uma comissão de juristas, o PL 2.338/2023 define certos parâmetros de supervisão e fiscalização do uso da tecnologia, e estabelece os direitos para as pessoas afetadas por ela.

Entre alguns exemplos estão a proibição do uso e a implementação de sistemas de IA que induzam usuários a atitudes contrárias aos direitos humanos e valores democráticos, ou que ponham em risco sua saúde ou segurança. O projeto também proíbe que uma nova ferramenta seja colocada no mercado sem a devida sanção de um órgão fiscalizador. As multas para quem descumprir as regras podem chegar a R$ 50 milhões, além da suspensão das atividades, parciais ou totais, da empresa descumpridora. 

Para se aprofundar

• Documentário Coded Bias
• Documentário Humans Need Not Apply
• Documentário AlphaGO