Fluência não é o mesmo que verdade
Uma resposta pode parecer segura e conter factos inventados, referências inexistentes ou raciocínios incorretos. Estes erros são frequentemente chamados alucinações. O tom confiante não é uma medida fiável de exatidão.
O modelo também pode omitir informação, reproduzir enviesamentos ou responder de forma diferente à mesma pergunta. As limitações variam por tarefa e versão. Quanto maior o impacto de um erro, mais exigentes devem ser a validação e a supervisão humana.
Use um rascunho de mensagem como ponto de partida. Para um prazo fiscal, uma instrução médica ou uma obrigação contratual, confirme a fonte e recorra à competência profissional adequada.
A responsabilidade por uma decisão não desaparece por ter sido sugerida por uma máquina.
Experimente na prática
Escolha três tarefas do seu dia. Para cada uma, escreva: qual é o resultado pretendido, que dados exige e se uma regra simples já resolveria o problema. Justifique uma tarefa em que não utilizaria IA.