4 motivos para repensar o uso do ChatGPT nos seus estudos
Será que a IA é confiável na hora de aprender? Estes fatos, apresentados pela empresa que criou o ChatGPT, mostram que nem sempre é boa ideia recorrer a ele
Seja na hora de escrever uma redação, pesquisar por um tema atual que pode cair na prova ou até resolver um cálculo complexo, que atire a primeira pedra o aluno que nunca recorreu à Inteligência Artificial no momento dos estudos. Infelizmente, temos uma má notícia: essa pode não ser uma boa ideia, especialmente quando se trata do ChatGPT.
E olhe que não estamos nem falando do potencial de “atrofiar” o cérebro que essas ferramentas têm, explicada melhor neste outro texto. O problema é que você pode acabar enganado pelo Chat, tirando uma nota baixa na prova ou reprovando no vestibular.
Isso porque o programa é um modelo de linguagem, tipo de inteligência artificial projetada para entender, gerar e manipular a linguagem humana, e não uma fonte primária de informação. Aliás, ele sequer é uma ferramenta de buscas, como o Google ou Bing.
Na prática, se você pesquisa sobre a História do Brasil, por exemplo, ele pode passar uma informação incorreta por misturar conceitos parecidos de fontes diferentes e até “alucinar” no meio do processo. Treinado com dados públicos disponíveis na web, é capaz de errar, inventar respostas e trazer afirmações contraditórias – e quem está dizendo tudo isso não somos nós, mas a própria Open AI, que desenvolveu o chatbot.
Com base em relatórios da empresa, elencamos abaixo 4 motivos para você repensar o uso da ferramenta nos seus estudos.
+ 4 universidades públicas que oferecem graduação de IA
1. Ele é um modelo de linguagem, não de pesquisa
O ChatGPT foi treinado para gerar texto plausível com base em padrões de linguagem. Isso quer dizer que ele não tem a função de lembrar ou consultar fatos de forma precisa – mesmo que o usuário peça. Além disso, não é capaz de julgar se uma fonte é confiável no momento da pesquisa.
Seu foco é soar coerente e natural, não estar 100% certo. Então, dependendo da pesquisa, ele pode misturar conceitos parecidos de fontes diferentes, criando uma terceira informação falsa, sendo capaz ainda de inventar nomes de livros, artigos acadêmicos ou autores para parecer confiável.
Segundo a Open AI este fenômeno é chamado de alucinação de IA, quando a Inteligência Artificial “inventa” uma informação para conseguir responder ao usuário.
Por isso, segundo relatório da empresa publicado em 2023, o usuário precisa ter cuidado adicional ao usar em contextos considerados de “alto risco”, que envolvem análise de dados específicos ou a necessidade de revisão humana.
Por fim, também é importante lembrar que o ChatGPT não é uma fonte de informação neutra, e está suscetível ao chamado viés algorítmico. Isso significa que, apesar das medidas de segurança, ao ser treinado por humanos e informações disponíveis na internet, ele pode reproduzir estereótipos de gênero, raça ou classe, perspectivas eurocêntricas ou colonialistas, além de generalizações disfarçadas de fatos.
+ A Inteligência Artificial pode ser racista? Entenda o que é viés algorítmico
2. Ele não foi treinado para calcular
Por ser um modelo de linguagem, o ChatGPT não foi criado para calcular, mas para dissimular cálculos. Logo, na hora de aprender Exatas, perguntar para ele se a resposta está correta pode não ser o melhor caminho.
De acordo com a Open AI, o modelo base do GPT-4 foi treinado utilizando dados disponíveis publicamente na internet, além de dados licenciados pela empresa. Entre estes dados, estão soluções corretas e incorretas para problemas matemáticos.
+ 5 livros para começar a entender a Inteligência Artificial
3. Ele pode fornecer informações que já foram reais, mas hoje estão desatualizadas
O ChatGPT tem conhecimento limitado do mundo e dos eventos posteriores a 2021. Isso quer dizer que o programa pode gerar instruções prejudiciais ou conteúdo tendencioso.
Imagine que você pediu ajuda na hora de elaborar uma proposta de intervenção para a redação. Ele pode te retornar sugerindo uma política pública que foi suspensa, como se ainda estivesse em vigor. Por esta razão, é importante ter discernimento na hora de usar o aplicativo, verificando se as respostas do modelo são precisas ou não.
+ Quais são os perigos da Inteligência Artificial? Dá para controlá-la?
4. Ele não tem um vasto conhecimento linguístico
Na hora de estudar idiomas também é preciso ter atenção. A Compreensão Massiva de Linguagem Multitarefa (MMLU) do programa está na casa do 80%. Isso quer dizer que ele não é preciso e pode passar informações incoerentes sobre gramática e vocabulário.
Mesmo com o prompt de tarefas agendas indicado pela Open AI, no qual o estudante pode pedir para o programa praticar uma língua estrangeira com ele, isso não quer dizer que as informações técnicas trazidas pelo bot estarão corretas.
Resumindo, é possível tratar o ChatGPT como um colega de estudo, mas nunca como um professor.
+ Inteligência Artificial na sala de aula: inovação ou risco?
Prepare-se para o Enem sem sair de casa. Assine o Curso GUIA DO ESTUDANTE ENEM e tenha acesso a todas as provas do Enem para fazer online e mais de 180 videoaulas com professores do Poliedro, recordista de aprovação nas universidades mais concorridas do país.
Qual o masculino de capivara?
Qual é o coletivo de alho?
Saiba como fazer a inscrição na Prova Nacional Docente
“Poça” ou “possa”: qual é o certo?
Qual é a origem da expressão “segurar vela”?
