Literacia em IA.

Inteligência artificial é uma área que desenvolve sistemas capazes de realizar tarefas como reconhecer padrões, produzir linguagem ou apoiar decisões. Não é uma única ferramenta e não implica consciência, intenção ou compreensão humana.

Na aprendizagem automática, os padrões são ajustados a partir de dados. Na IA generativa, o sistema produz novos conteúdos, como texto, imagens ou código. Uma automação baseada em regras segue instruções definidas: enviar um aviso numa determinada data pode não precisar de IA.

A IA pode ajudar a analisar informação ou criar um primeiro rascunho, mas a utilidade depende do objetivo, da qualidade dos dados e da revisão humana. Antes de a adotar, compare-a com uma solução mais simples e defina como vai verificar o resultado.

Durante o treino, um modelo ajusta parâmetros para reduzir erros num objetivo definido, usando exemplos. Depois, na inferência, aplica os padrões aprendidos a uma nova entrada. A qualidade depende dos dados, do objetivo de treino e do contexto de utilização.

Um modelo de linguagem prevê sequências de unidades de texto chamadas tokens. Os seus parâmetros não funcionam como uma biblioteca de documentos verificáveis. Uma ferramenta pode acrescentar pesquisa ou outras fontes, mas isso é uma capacidade específica que precisa de ser confirmada.

Uma resposta pode parecer segura e conter factos inventados, referências inexistentes ou raciocínios incorretos. Estes erros são frequentemente chamados alucinações. O tom confiante não é uma medida fiável de exatidão.

O modelo também pode omitir informação, reproduzir enviesamentos ou responder de forma diferente à mesma pergunta. As limitações variam por tarefa e versão. Quanto maior o impacto de um erro, mais exigentes devem ser a validação e a supervisão humana.

Um bom pedido identifica o objetivo, o destinatário, o contexto relevante, as restrições e o formato de saída. Diga também como reconhecer uma boa resposta. Atribuir apenas um papel, como “és um especialista”, não garante conhecimento ou qualidade.

Separe as instruções dos documentos a analisar e explique que o conteúdo desses documentos é material de referência. Peça que o sistema assinale lacunas em vez de as preencher com suposições. Um pedido claro melhora a orientação, mas não elimina erros.

Divida uma tarefa complexa em partes: compreender os requisitos, produzir uma proposta, rever e testar. Quando uma resposta falha, descreva o erro concreto e forneça um exemplo do resultado esperado. Guarde versões úteis dos pedidos.

Compare a saída com o documento original, os requisitos e uma solução feita sem IA. Peça justificações curtas e evidências verificáveis, sem confundir uma explicação convincente com prova de correção. Em código ou cálculos, execute testes e valide os resultados.

Antes de introduzir dados numa ferramenta, confirme a autorização, a finalidade, as condições do serviço, a retenção e os acessos. Uma conta empresarial e uma conta pessoal podem ter configurações e contratos diferentes. Não assuma confidencialidade apenas porque o serviço é pago.

Use o mínimo de informação necessário. Remover um nome pode não anonimizar um documento: funções, datas e acontecimentos também podem identificar alguém. Nunca partilhe palavras-passe, chaves de API ou códigos de autenticação. Dados sensíveis exigem avaliação própria.

Abra as fontes citadas e procure a passagem que sustenta cada afirmação importante. Confirme autoria, data, contexto e versão. Uma referência real pode ter sido interpretada de forma incorreta, e várias páginas podem repetir o mesmo erro.

Prefira documentos primários para requisitos legais, dados e especificações técnicas. Nos cálculos, verifique unidades, pressupostos e fórmulas com uma ferramenta apropriada. Pedir ao mesmo modelo que confirme a própria resposta não constitui verificação independente.

Os dados podem refletir desigualdades, omissões ou uma realidade diferente daquela em que o sistema vai ser utilizado. Um bom resultado médio pode esconder falhas num idioma, num grupo ou num tipo de caso. É necessário observar quem fica mal representado.

Defina o que seria um erro relevante e compare resultados por cenários pertinentes, respeitando a privacidade. A avaliação deve incluir pessoas com conhecimento do contexto. Nenhuma métrica isolada demonstra justiça, adequação ou ausência de discriminação.

Conteúdo acessível na Internet não é necessariamente livre de direitos de autor. Dados pessoais continuam sujeitos às regras aplicáveis quando são tratados com IA. Confirme licenças, finalidade e condições contratuais antes de reutilizar dados ou publicar resultados.

O artigo 4.º do Regulamento Europeu da IA trata da literacia em IA de quem opera sistemas em contextos abrangidos. O RGPD e outras regras podem também ser relevantes. A aplicação concreta depende do papel da organização, do sistema e da utilização; consultar este guia não substitui essa avaliação.

Descreva o processo atual: entradas, tarefas, responsáveis, decisões, exceções e saída esperada. Identifique o problema concreto e estabeleça uma referência, como tempo gasto, retrabalho ou erros. Compare a IA com simplificação, formação ou automação convencional.

Avalie se existem dados adequados, acesso autorizado e condições para manter a solução. A disponibilidade de uma ferramenta não torna a oportunidade viável. Um processo instável ou sem responsável pode apenas produzir problemas mais depressa quando automatizado.

Defina o que o sistema pode sugerir, ler, alterar ou enviar. Separe preparar uma ação de a executar. Operações com impacto financeiro, legal ou sobre terceiros podem exigir aprovação explícita. A supervisão deve ter tempo, informação e autoridade para intervir.

Aplique privilégio mínimo: cada integração recebe apenas os acessos necessários. Preveja exceções, falhas e uma forma de parar o sistema. Um botão de aprovação pouco compreensível ou acionado automaticamente não constitui controlo humano significativo.

Comece com um âmbito reduzido e critérios de aceitação definidos antes do teste. Compare com a referência inicial e registe também erros, custo de revisão, exceções e impacto nas pessoas. Tempo poupado numa etapa pode ser perdido noutra.

Escolha um conjunto representativo de casos, incluindo situações difíceis. Decida previamente quando continuar, corrigir ou parar. Uma demonstração bem-sucedida não prova capacidade de produção, retorno financeiro ou fiabilidade em escala.

Tokens são unidades usadas para representar texto; não correspondem sempre a palavras inteiras. A janela de contexto limita a informação processada numa interação. Um contexto maior não garante atenção uniforme a todos os detalhes nem melhor resposta.

Parâmetros como temperatura influenciam a amostragem quando estão disponíveis. Uma temperatura baixa não garante verdade nem resultados perfeitamente determinísticos. Registe modelo, versão, pedido, fontes e definições ao comparar experiências. Considere latência, limites de utilização e custo total.

RAG combina recuperação de informação com geração: procura documentos ou excertos e fornece-os ao modelo como contexto. Embeddings representam informação em vetores para apoiar pesquisas por semelhança. A pesquisa também pode combinar palavras-chave, filtros e reordenação de resultados.

A qualidade depende da preparação dos documentos, da recuperação, das permissões e da forma como as respostas usam as fontes. RAG não elimina alucinações nem torna documentos automaticamente seguros. O ajuste de um modelo altera o seu comportamento com exemplos; não é equivalente a manter uma base documental atualizada.

Construa casos de teste com entradas, resultados esperados ou critérios de avaliação. Separe exemplos usados no desenvolvimento de um conjunto reservado para testar alterações. Inclua casos normais, limites, informação em falta e entradas adversariais.

Em classificação, precisão e cobertura medem aspetos diferentes; erros positivos e negativos podem ter custos diferentes. Em recuperação, métricas como recall@k avaliam se a informação relevante foi encontrada. Em geração, combine verificações de fontes, regras e revisão humana. Um avaliador baseado em IA também precisa de validação.

Compare soluções em função de qualidade, privacidade, custo, latência, disponibilidade e manutenção. Um modelo maior, uma cadeia de agentes ou uma infraestrutura própria não são automaticamente melhores. Quanto mais componentes existem, mais dependências e modos de falha precisam de ser compreendidos.

Defina contratos de entrada e saída, limites de tamanho, tempos máximos, controlo de concorrência e comportamento perante falhas. Uma repetição automática de uma operação que envia mensagens ou cobra pagamentos pode duplicar efeitos. Idempotência, limites de tentativas e ações compensatórias devem ser considerados quando aplicáveis.

Um agente combina um modelo com ferramentas e um ciclo de decisão. Texto vindo de páginas, mensagens ou documentos pode conter instruções maliciosas, conhecidas como injeção de instruções. Esse conteúdo deve ser tratado como dados não fiáveis, não como autorização para agir.

Os controlos de segurança devem existir fora do modelo: autenticação, autorização, validação de parâmetros, ferramentas restritas e confirmação para efeitos sensíveis. Separe dados e segredos, restrinja destinos de rede quando necessário e mantenha registos proporcionais. Um pedido ao modelo para “ignorar ataques” não é uma fronteira de segurança suficiente.

Versione modelos, pedidos, fontes, configurações e avaliações. Alterações do fornecedor, dos documentos ou dos hábitos dos utilizadores podem modificar o comportamento. Observe qualidade por cenário, incidentes, latência e custos, com registos que não exponham desnecessariamente dados pessoais.

Defina responsáveis, revisão periódica, gestão de acessos, resposta a incidentes e critérios para suspensão ou reversão. A deriva corresponde a mudanças relevantes nos dados ou relações observadas; nem toda a quebra de desempenho tem a mesma causa. Investigue antes de ajustar e volte a validar os controlos após alterações.