Usar con cuidado
¿Es realmente seguro usar la IA? Establece los límites adecuados
¿Es realmente seguro usar la IA? Depende de lo que compartas, de lo que le pidas que haga y de cómo compruebes el resultado. Ai Builder es un punto de partida para explorar una idea, no un sustituto para verificar hechos ni para tomar decisiones que afecten a las personas.
3 conceptos erróneos sobre la seguridad de la IA
Tres suposiciones causan problemas evitables: que una respuesta fluida debe ser correcta, que un prompt que parece privado es necesariamente confidencial y que un borrador útil está listo para publicar. Ninguna es una opción predeterminada segura.
- ¿Qué es el constructor de IA? Empieza por entender lo que hace un constructor de IA antes de decidir qué tareas asignarle.
- prompts del constructor de IA Descubre cómo formular una solicitud sin añadir detalles confidenciales innecesarios.
- procesamiento de documentos del constructor de IA Considera el cuidado adicional necesario cuando una tarea implica documentos.
Lo que es en realidad
Un constructor de IA puede ayudar a convertir una solicitud en material que puedes inspeccionar y revisar. Trata ese material como un borrador cuya fiabilidad depende de la tarea y de tu revisión.
-
1
Elige una tarea delimitada
Pide un esquema, una idea para un prototipo o una redacción alternativa en lugar de delegar un juicio final. Decide de antemano qué hechos y decisiones te corresponde comprobar.
-
2
Comparte solo lo necesario
Elimina nombres, credenciales, registros confidenciales y detalles identificativos, a menos que tengas una base clara para compartirlos. Una solicitud más breve y generalizada a menudo puede producir un borrador útil.
-
3
Revisa antes de usar
Comprueba las afirmaciones con fuentes fiables, prueba cualquier código y revisa el texto generado para detectar omisiones o consecuencias imprevistas. Haz que una persona responsable apruebe todo lo que pueda tener consecuencias importantes.
Condiciones límite
La diferencia no está en si la IA ayudó. Está en si la tarea cuenta con datos de entrada adecuados, comprobaciones independientes y una persona responsable del resultado.
| Suposición arriesgada | Límite más seguro | |
|---|---|---|
| Una respuesta convincente es correcta | Publica una afirmación porque la explicación parece segura. | Verifica de forma independiente los nombres, las fechas, las citas y las conclusiones. |
| Un prompt es automáticamente confidencial | Pega registros privados sin comprobar cómo gestiona los datos el servicio. | Minimiza o elimina los detalles confidenciales y consulta primero las políticas aplicables. |
| Un borrador útil es un trabajo terminado | Envía el material generado sin leerlo en contexto. | Edita para comprobar la exactitud, el tono, las omisiones y las necesidades de su audiencia. |
| Código y cálculos | Da por sentado que la lógica generada funciona porque parece plausible. | Realiza pruebas, inspecciona las dependencias y comprueba por separado las operaciones aritméticas importantes. |
| Decisiones sobre personas | Permite que un resultado determine la elegibilidad, el tratamiento o las oportunidades. | Mantén el criterio humano cualificado y las salvaguardas necesarias bajo control humano. |
| Acciones externas | Permite que un resultado no revisado active una acción con consecuencias importantes. | Exige aprobación antes de enviar, cambiar o publicar cualquier cosa con consecuencias importantes. |
Cuándo NO usarlo
No dependas únicamente de una respuesta de IA para un diagnóstico médico, una conclusión jurídica, una decisión financiera, una respuesta ante emergencias o una decisión sobre los derechos u oportunidades de alguien. Evita introducir secretos o información personal regulada sin comprender las normas aplicables y las condiciones del servicio. Para tareas de redacción de menor riesgo, comienza con una tarea limitada y revisa el resultado antes de que llegue a cualquier otro lugar.
Mantén las decisiones de alto riesgo en manos de las personas
- Comienza con una tarea limitada y reversible
- Mantén la información confidencial fuera de la solicitud
- Verifica antes de compartir o actuar
Preguntas frecuentes
La IA puede ser útil para redactar y explorar cuando limitas lo que compartes y revisas lo que produce. No es uniformemente segura para todas las tareas: el riesgo aumenta cuando un error, una divulgación o una acción automatizada podría perjudicar a alguien. Ajusta el nivel de revisión a las consecuencias.
La seguridad del lenguaje no demuestra que la respuesta sea precisa. La IA puede cometer errores, omitir contexto o presentar detalles sin fundamento como hechos. Comprueba las afirmaciones importantes con fuentes fiables antes de utilizarlas.
No des por hecho que una instrucción es un lugar adecuado para incluir información personal o confidencial. Consulta las prácticas de datos del servicio y las normas aplicables a tu organización o a las personas implicadas. Cuando sea posible, elimina los detalles identificativos o utiliza un ejemplo ficticio.
Pregunta a una persona cualificada cuando la respuesta requiera criterio profesional o pueda afectar a la salud, las finanzas, los derechos legales, la seguridad o las oportunidades de alguien. La revisión humana también es importante cuando no puedes verificar una afirmación o comprender las consecuencias de actuar basándote en ella.