LLM + "viés de legibilidade" + "ilusão de profundidade" = imbecilidade.

O problema?

Quando admitimos que os modelos são passíveis da "alucinação" e com uma capacidade assombrosa de 'viés de legibilidade' e 'ilusão de propriedade' qualquer coisa parece correta, mas não se pode confiar em nada.

Daí começo a pensar no Paradoxo do mentiroso:

Quando um mentiroso fala:  eu nunca digo a verdade

Nesse sentido de não poder confiar em nada partindo de um modelo de LLM, temos que adotar uma verificação muito mais cuidadosa, que no meu entendimento pode ser superior as nossas capacidades, dada a quantidade e velocidade de produção dos atuais modelos de LLM, podemos usar modelos de IA para verificação, mas novamente se as "alucinações" permitissem passar um erro, seria potencialmente desastroso.

talvez por hora vamos ter que seguir, pensando....  Está tudo certo, mas eu não acredito em nada... 😁