Errores Básicos en el Uso de la IA por Personal de Administraciones Públicas
Basado en el análisis de David Carmona Barrales (Psicólogo del Ayuntamiento de Armilla)
Introducción: La IA en el Sector Público
La Inteligencia Artificial (IA) está evolucionando a un ritmo vertiginoso, transformando cómo operan las administraciones públicas. Desde la irrupción de ChatGPT, hemos pasado de la simple curiosidad a identificar casos de uso concretos que prometen eficiencia y valor.
En 2024, como en el Ayuntamiento de Armilla, el enfoque ha sido discernir dónde y cómo la IA puede realmente optimizar procesos y generar valor añadido.
Aunque la tecnología a menudo supera la capacidad de adaptación humana y organizacional, la IA moderna presenta una ventaja: interfaces intuitivas y la capacidad de preguntar directamente a la herramienta cómo usarla. Bien implementada, la IA puede democratizar el conocimiento y racionalizar procesos. Sin embargo, esto requiere una estrategia de aprendizaje y alfabetización adecuada, especialmente para superar reticencias iniciales.
Para fomentar la adopción, es crucial que las primeras experiencias sean exitosas. Por ello, analizaremos los errores más comunes que cometen los usuarios principiantes en el contexto de la administración pública.
Errores Habituales y Cómo Evitarlos
Haz clic en cada error para ver la descripción y las soluciones:
1. Confiar ciegamente en las respuestas
El error: Creer que la IA siempre ofrece información veraz y completa, sin verificarla con otras fuentes.
Cómo solucionarlo:
- Validar los datos generados con fuentes oficiales o confiables.
- Utilizar la IA como punto de partida, no como sustituto total de la investigación o la experiencia profesional.
2. Proporcionar indicaciones (“prompts”) poco claras
El error: Formular preguntas o instrucciones vagas, lo que resulta en respuestas imprecisas o genéricas.
Cómo solucionarlo:
- Incluir contexto adicional, detalles relevantes y ejemplos específicos en las preguntas.
- Emplear un lenguaje claro y estructurado que evite la ambigüedad.
- Usar un modelo de prompt estructurado (ver modelo más abajo).
3. No considerar la ética y la privacidad
El error: Compartir datos sensibles o personales con la IA, o usarla para propósitos cuestionables o no éticos.
Cómo solucionarlo:
- Familiarizarse con las políticas de privacidad y los términos de uso de la plataforma de IA.
- Analizar críticamente qué tipo de información se puede compartir y buscar alternativas seguras si se manejan datos sensibles.
4. Subestimar las limitaciones del modelo
El error: Asumir que la IA puede resolver cualquier desafío en cualquier contexto, ignorando sus limitaciones inherentes.
Cómo solucionarlo:
- Investigar las áreas de especialidad y limitaciones del modelo (ej. fecha de corte de datos, posibles sesgos).
- Emplear la IA como una herramienta de apoyo, complementándola siempre con la experiencia humana y otras fuentes de conocimiento.
5. No supervisar ni refinar las respuestas
El error: Conformarse con la primera respuesta obtenida, sin iterar para profundizar, afinar o corregir el resultado.
Cómo solucionarlo:
- Realizar preguntas de seguimiento que aporten más detalle o concreción a la respuesta inicial.
- Revisar críticamente la respuesta y, si es necesario, corregir o matizar la instrucción inicial para mejorar la exactitud.
6. Ignorar la importancia del formato y la claridad
El error: Pedir a la IA textos extensos sin indicar una estructura o estilo, dificultando su lectura y uso posterior.
Cómo solucionarlo:
- Solicitar explícitamente al modelo que organice la información (ej. en títulos, viñetas, secciones).
- Especificar el tono (formal, informal), la longitud y el estilo deseados para adecuar el resultado al público o propósito final.
7. Utilizar la IA Generativa para todo sin criterio
El error: Intentar automatizar procesos que requieren supervisión y juicio humano indispensable, sobre todo en ámbitos críticos como la administración pública.
Cómo solucionarlo:
- Definir claramente qué tareas son aptas para la IA y cuáles necesitan validación o supervisión humana experta.
- Realizar pruebas y evaluaciones piloto antes de implementar de forma generalizada un proceso automatizado con IA.
Modelo de Prompt Sugerido
Ver modelo para crear prompts efectivos
Este modelo, desarrollado a través de iteraciones, ayuda a obtener mejores resultados de la IA:
- Asume un rol de experto en…: Indicar a la IA qué perfil debe adoptar.
- Proporcionar contexto: Incluir información relevante para que entienda la consulta.
- Especificar el alcance: Indicar qué documentos o fuentes usar (si aplica, ser específico).
- Formular preguntas precisas: Ser claro, directo y evitar ambigüedades.
- Solicitar referencias exactas: Pedir que cite las fuentes o partes específicas que respaldan la respuesta. Usar lenguaje adecuado al contexto (ej. académico).
- Fomentar la contrastación: Pedir que verifique la información con diferentes partes del documento o fuentes.
- Priorizar la precisión sobre la rapidez: Indicar que la calidad de la respuesta es lo más importante.
Conclusión Clave
La clave para un uso efectivo y seguro de la IA en la administración pública reside en combinar buenos hábitos (validación de datos, cuidado de la privacidad y ética) con un aprendizaje continuo sobre las capacidades y limitaciones de estas herramientas. Con tiempo y práctica, estos errores comunes pueden evitarse, permitiendo aprovechar al máximo el potencial de la IA.