0%
Bruno Rodrigues

O que são alucinações?

Transcrição

Quando a gente utiliza um modelo de linguagem, tem sempre o risco dele passar uma informação falsa pra gente. Esse risco é sempre presente. Não há uma forma 100% segura de evitar que isso aconteça. Quando o modelo erra, a gente costuma chamar isso. É habituou-se a chamar isso de alucinação, é. E esse nome surgiu especialmente porque não é meramente um erro do modelo, mas é uma informação que ele passa para a gente, que tem uma forte característica de ser uma informação correta e, na verdade, não é isso dá um pouco esse caráter assim de como se ele tivesse saindo com uma ideia que parece ser verdadeiro e não é como se ele estivesse ali. Alucinando mesmo algum algum fato novo sobre um conjunto de ideias ali que não é verdade, né? Agora? Quando a gente entende que os modelos de linguagem estão sempre saindo com a próxima palavra, o próximo token, a próxima sílaba mais provável para uma sequência de caracteres que já existe. A gente entende que essa probabilidade ela não garante. Exatidão, né? O que ela garante é 11 resposta coerente. Ah, de acordo com o cálculo ali dos tokens mais prováveis que devem aparecer naquela sequência. E mesmo assim, nem sempre os mais prováveis a gente pode de novo com aleatoriedade e com aqueles cálculos todos que o modelo faz ter um token até não tão provável ali, mas que vai deixar aquela resposta única e interessante. Abacente controvérsia sobre o modo em que esses modelos de linguagem funcionam internamente. Deep learning e aprendizado profundo de máquina tem esse desafio. São muitas camadas de abstração internas ali. Então a gente não tem como ter um acesso e uma verificação tão completa do que é que está acontecendo dentro desses modelos. Mas a gente sabe o que é que eles estão tentando otimizar. Eles estão tentando otimizar sempre, trazer o token mais provável, mais adequado. Para aquela sequência de caracteres e, isso não representa exatamente um modelo da verdade. Claro, se um modelo de linguagem for treinado com um texto e uma mesma informação aparecer vezes suficiente, isso vai reduzir muito a taxa de erros ali. Por exemplo, qual que é a capital da França? É uma informação que deve aparecer incontáveis vezes ali dentro da base de dados que foi utilizada por treinamento do modelo. Então a chance da gente ter um erro com esse tipo de informação. É, é muito baixa. Agora, se a gente vai pegar alguma cidadezinha bem no interior da França e perguntar para o modelo de linguagem, qual que é a distância entre essa cidade aqui e uma outra cidade do interior da Itália? Talvez, dependendo das cidades, essa informação ele não tenha visto vezes suficiente. E aí ele vai tentar sair com a informação. Que pá constoukens ali que vão constituir essa resposta que parece ser o mais provável. Parece ser o mais adequado e nem sempre vai ser. E aí ele vai cercar a resposta dele ali com com com outros tokens, com outras palavras, para dar uma coerência e dar uma cola naquilo que vai parecer que ele está falando. Com muita certeza. Ele pode até inventar alguns fatos ali, complementar aquela resposta com alguns fatos que são completamente errôneos. Mas é o melhor que ele pôde fazer dentro daquele cálculo de probabilidade, com as variáveis que ele tinha, com a os tokens sobre aquele assunto cercando. Aquele assunto e aquela temática é, foi o melhor que ele conseguiu fazer?