Estamos iniciando uma série de videoaulas do Curso Gratuito de Inteligência Artificial que abordam questões polêmicas sobre Inteligência Artificial. Nesta primeira aula, vamos explorar as armadilhas que os LLMs (Modelos de Linguagem de Grande Escala) podem apresentar. Olá, pequeno gafanhoto! Seja muito bem-vindo a mais uma aula do seu Curso em Vídeo de Inteligência Artificial. Meu nome é Gustavo Guanabara, e em breve trarei o Ramiro Lobo para discutirmos essas armadilhas.
É importante ressaltar que nem tudo que você pede a uma inteligência artificial garantirá a melhor resposta ou informações em que você pode confiar 100%. Este será o foco da nossa discussão, que se estenderá por alguns vídeos, já que esse assunto é muito relevante. Portanto, marque as pessoas que você conhece e avise que, ao interagir com chatbots, nem sempre podemos confiar nos resultados.
Índice
Armadilhas dos LLMs
Ramiro, chegou a hora de começarmos um assunto importante no seu Curso de Inteligência Artificial: as armadilhas dos LLMs. Conhecer as falhas da IA é fundamental para evitar problemas. Por isso, esse tema é essencial. Neste momento, você pode estar assistindo a este curso em um futuro próximo, e as coisas podem ter mudado. Contudo, há problemas que os LLMs ainda não estão preparados para resolver. Muitas vezes, eles não fornecem informações verdadeiras ou precisas. Vou compartilhar um exemplo que aconteceu comigo recentemente.
Estava utilizando especificamente o ChatGPT para ajudar um franqueado a criar um conteúdo. Ele começou a acessar uma URL de um site protegido, e o ChatGPT não conseguiu realmente acessar o conteúdo, pois estava “em breve”. Assim, ele pegou informações da URL e gerou um texto, mas não conseguiu acessar a página real. Isso demonstra que, às vezes, você pode pensar que a IA está acessando as informações corretas, mas na verdade ela está criando respostas com base em suposições.
É importante tomar cuidado, pois esses tipos de situações podem levar a enganos. Portanto, fique atento ao usar LLMs, especialmente em momentos em que você precisa de informações precisas.
Possíveis Falhas
Vamos começar a analisar as possíveis falhas dos LLMs. A primeira falha comum é a citação inadequada de fontes. Embora os LLMs possam gerar textos que aparentam citar fontes, é importante entender que eles não podem fazer isso com precisão. Durante o processamento das informações, tudo se torna token. Diferentemente do Google, que armazena links e sites, os LLMs não têm esse tipo de armazenamento. Isso significa que, quando você faz uma pergunta, eles podem fazer referências que parecem corretas, mas na realidade, não têm certeza da fonte.
Por exemplo, ao conversar sobre um assunto famoso, um LLM pode mencionar um autor, mas isso não significa que ele tenha informações precisas sobre aquele autor. Isso acontece porque os LLMs não têm acesso à internet e não conseguem lembrar a origem dos dados de treinamento. Portanto, frequentemente, eles geram fontes que parecem plausíveis, mas que são completamente inventadas. Essa é uma limitação significativa para usar LLMs em tarefas que exigem citações precisas.
Portanto, atenção, universitários e estudantes: evitem pedir muitas citações aos LLMs, pois as respostas podem estar incorretas e seus professores podem pegar no seu pé. O problema de citação imprecisa pode ser amenizado utilizando LLMs com busca aumentada, que têm a capacidade de pesquisar na internet para fornecer informações mais precisas. O Gemini é um exemplo de LLM que pode realizar esse tipo de busca.
É essencial validar as informações fornecidas por qualquer LLM. Não copie e cole sem verificar a veracidade dos dados. Sempre que um LLM fornecer informações, é seu dever checar a precisão.
Patrocinadores
O Curso em Vídeo conta com o apoio de três patrocinadores que são fundamentais para a realização das aulas e conteúdos oferecidos: a Hostnet, que proporciona infraestrutura de hospedagem de sites e ferramentas para criação de sites; a FIAP, referência em educação na área de tecnologia e inovação; e o Estudonauta, que oferece uma ampla gama de cursos e materiais de apoio para aqueles que desejam aprimorar suas habilidades em programação e outras áreas do conhecimento. Juntos, eles contribuem para que você tenha uma experiência de aprendizado rica e de qualidade.
Encerramento
Neste vídeo, discutimos algumas armadilhas, como falhas comuns e citação de fontes. Nos próximos vídeos, falaremos sobre mais armadilhas que você deve conhecer, para que, ao receber uma resposta, consiga identificar se há alguma armadilha. No próximo vídeo, abordaremos um assunto polêmico: os vieses presentes nas inteligências artificiais.
Um grande abraço e até a próxima aula!
Links Relacionados:
- Curso de Inteligência Artificial no Youtube
- Curso de Inteligência Artificial no Estudonauta – Aulas publicadas antecipadamente na plaforma com certificado incluso no pacote.
- FIAP – Faculdade de Tecnologia nota 5 no MEC com graduações presenciais e online
- Hostnet Hospedagem de Site e Soluções Web
- Seja um Aluno Apoiador do Curso em Vídeo
