A desinformação gerada por IA, como a propagada por chatbots durante os protestos em Los Angeles, é uma preocupação crescente. A falta de moderação nas redes sociais e a qualidade duvidosa dos dados de treinamento contribuem para esse problema, ressaltando a urgência de implementar sistemas de IA que garantam verificação de dados e fontes confiáveis.
A desinformação gerada pela inteligêngia artificial está se tornando um problema crescente, especialmente com chatbots como ChatGPT e Grok, que são otimizados para fornecer informações úteis, mas não necessariamente verdadeiras.
Chatbots e a repetição de informações falsas
Os chatbots têm se tornado uma ferramenta comum para buscar informações, mas sua propensão a repetir dados falsos é uma preocupação crescente.
Estudos mostram que sistemas como ChatGPT e Grok podem repetir desinformações até 40% das vezes quando questionados sobre notícias de atualidade.
Isso ocorre porque os modelos de IA são treinados com grandes volumes de dados da internet, sem discriminação entre fontes confiáveis e não confiáveis.
Esse fenômeno é exacerbado pela forma como as informações falsas são frequentemente melhor posicionadas em termos de visibilidade online, devido a algoritmos de popularidade e engajamento.
Como resultado, os chatbots acabam absorvendo e regurgitando essas informações, sem a capacidade de verificar sua veracidade.
A repetição de informações falsas por chatbots representa um risco significativo para a qualidade da informação que chega ao público.
Isso enfatiza a necessidade de desenvolver sistemas de IA com melhores mecanismos de verificação e filtragem de dados, para que possam discernir entre fatos e ficção de maneira mais eficaz.
Desafios na treinamento e qualidade dos dados
O treinamento de modelos de inteligência artificial enfrenta desafios significativos quando se trata da qualidade dos dados utilizados.
A eficácia de um modelo de IA depende fortemente da qualidade dos dados de treinamento, mas muitas vezes esses sistemas são alimentados com grandes volumes de informações sem distinção de sua origem. Isso resulta em modelos que absorvem tanto dados precisos quanto desinformações.
Além disso, a capacidade dos modelos de IA de discernir entre fontes confiáveis e não confiáveis ainda é limitada.
Enquanto os mecanismos de busca têm métodos para estabelecer autoridade das fontes, os modelos de linguagem carecem de ferramentas semelhantes.
Isso os torna suscetíveis a manipulações, especialmente quando atores mal-intencionados deliberadamente introduzem informações falsas no ambiente online, prática conhecida como “LLM grooming”.
Para mitigar esses desafios, é essencial implementar regras que restrinjam a busca de informações a fontes confiáveis.
No entanto, essa tarefa é complexa, pois exige um equilíbrio entre limitar a exposição a dados enganosos e permitir que os modelos acessem informações amplas e diversificadas.
A melhoria contínua desses sistemas é crucial para garantir que as IAs possam oferecer informações precisas e confiáveis.
Fonte: El País
