Use com cuidado
É realmente seguro usar IA? Estabeleça os limites certos
É realmente seguro usar IA? Depende do que você compartilha, do que pede à IA e de como verifica o resultado. Ai Builder é um ponto de partida para explorar uma ideia, não um substituto para a verificação de fatos nem para a tomada de decisões que afetam pessoas.
3 equívocos sobre a segurança da IA
Três suposições causam problemas evitáveis: uma resposta bem escrita deve estar correta, uma solicitação que parece privada é necessariamente confidencial e um rascunho útil está pronto para publicação. Nenhuma delas é uma premissa segura.
- O que é o construtor de IA? Entenda primeiro o que um construtor de IA faz antes de decidir quais tarefas atribuir a ele.
- prompts para o construtor de IA Veja como formular uma solicitação sem incluir dados sensíveis desnecessários.
- processamento de documentos com o construtor de IA Considere os cuidados adicionais necessários quando uma tarefa envolve documentos.
O que ele realmente é
Um construtor de IA pode ajudar a transformar uma solicitação em material que você pode examinar e revisar. Trate esse material como um rascunho cuja confiabilidade depende da tarefa e da sua revisão.
-
1
Escolha uma tarefa bem delimitada
Peça um esboço, uma ideia de protótipo ou alternativas de redação, em vez de delegar a decisão final. Defina antecipadamente quais fatos e decisões você continuará responsável por verificar.
-
2
Compartilhe apenas o necessário
Remova nomes, credenciais, registros confidenciais e dados de identificação, a menos que você tenha uma justificativa clara para compartilhá-los. Uma solicitação mais curta e genérica muitas vezes pode gerar um rascunho útil.
-
3
Revise antes de usar
Confira as afirmações em fontes confiáveis, teste qualquer código e leia o texto gerado para identificar omissões ou implicações não intencionais. Peça a uma pessoa responsável que aprove qualquer coisa com consequências significativas.
Limites de segurança
A diferença não está em ter ou não usado IA. Está em fornecer os dados adequados para a tarefa, fazer verificações independentes e ter uma pessoa responsável pelo resultado.
| Suposição arriscada | Limite mais seguro | |
|---|---|---|
| Uma resposta convincente está correta | Publique uma afirmação porque a explicação parece segura. | Verifique nomes, datas, citações e conclusões de forma independente. |
| Um prompt é automaticamente confidencial | Cole registros privados sem verificar como o serviço lida com os dados. | Minimize ou remova detalhes confidenciais e consulte primeiro as políticas aplicáveis. |
| Um rascunho útil é um trabalho concluído | Envie o material gerado sem lê-lo no contexto. | Edite quanto à precisão, ao tom, às omissões e às necessidades do público. |
| Código e cálculos | Presuma que a lógica gerada funciona porque parece plausível. | Execute testes, inspecione as dependências e verifique separadamente os cálculos importantes. |
| Decisões sobre pessoas | Deixe uma saída determinar elegibilidade, tratamento ou oportunidade. | Mantenha o julgamento humano qualificado e as salvaguardas necessárias no controle. |
| Ações externas | Permita que um resultado não revisado desencadeie uma ação consequente. | Exija aprovação antes de enviar, alterar ou publicar qualquer coisa consequente. |
Quando NÃO usar
Não dependa apenas de uma resposta de IA para um diagnóstico médico, uma conclusão jurídica, uma decisão financeira, uma resposta a emergências ou uma decisão sobre os direitos ou as oportunidades de alguém. Evite inserir segredos ou informações pessoais regulamentadas sem entender as regras aplicáveis e os termos do serviço. Para tarefas de redação de menor risco, comece com uma tarefa limitada e revise o resultado antes que ele seja encaminhado para qualquer outro lugar.
Mantenha as decisões de alto risco nas mãos de pessoas
- Comece com uma tarefa limitada e reversível
- Mantenha informações confidenciais fora da solicitação
- Verifique antes de compartilhar ou agir
Perguntas frequentes
A IA pode ser útil para fazer rascunhos e explorar ideias quando você limita o que compartilha e verifica o que ela produz. Ela não é uniformemente segura para todas as tarefas: o risco aumenta quando um erro, uma divulgação ou uma ação automatizada pode prejudicar alguém. Ajuste o nível de revisão às consequências.
A confiança no texto não é evidência de que a resposta esteja correta. A IA pode cometer erros, omitir contexto ou apresentar detalhes sem fundamento como fatos. Verifique afirmações importantes em fontes confiáveis antes de usá-las.
Não presuma que um prompt seja um local apropriado para informações pessoais ou confidenciais. Verifique as práticas de dados do serviço e quaisquer regras aplicáveis à sua organização ou às pessoas envolvidas. Quando possível, remova detalhes identificáveis ou use um exemplo fictício.
Pergunte a uma pessoa qualificada quando a resposta exigir julgamento profissional ou puder afetar a saúde, as finanças, os direitos legais, a segurança ou as oportunidades de alguém. A revisão humana também é importante quando você não consegue verificar uma afirmação ou entender as consequências de agir com base nela.