Los nuevos vaqueros del siglo XXI: aprendiendo a domar a la IA | Xyclos
- Carlos Altamirano
- hace 5 días
- 10 Min. de lectura
Trabajar con IA no es solo usarla: es entender cómo piensa, cómo falla y cómo protegerte
La inteligencia artificial no busca verdades: genera respuestas probables. Eso explica por qué correlaciona cosas que no pediste, asume contexto que no existe y a veces inventa con total seguridad. Entender esos tres comportamientos cambia completamente la forma en que trabajas con ella. Técnicas como RAG, gobernanza y el principio de human in the loop existen precisamente para reducir ese margen de error. Y mientras esas soluciones maduran, aparecen nuevos riesgos: el prompt injection convierte el lenguaje en vector de ataque, y combinado con el robo de bases de datos, hace que el phishing de hoy sea casi indistinguible de una comunicación legítima. En Ecuador y en toda la región, eso ya no es una amenaza futura.
Desde hace un buen tiempo… bueno, en realidad desde hace 2 años, sentí que era difícil controlar a la inteligencia artificial.
Una de mis primeras propuestas fue crear GPTs para ayudar a un estudio jurídico a optimizar sus procesos legales usando inteligencia artificial.
Inclusive, a cada GPT le fue asignado un nombre, un rol y, obviamente, instrucciones de cómo realizar el trabajo que estaba previsto que haga. Sin embargo, era un comportamiento totalmente incierto: cada vez que interactuaba con la inteligencia artificial, me daba diferentes respuestas a una misma pregunta o prompt.
Y todo esto agregado al hecho de que cada vez habían, y siguen habiendo, nuevas técnicas, procesos, conceptos y metodologías, que demostraban una evolución impresionante y, al mismo tiempo, una sensación de hype o algarabía generalizada.
Luego llegó el vibe coding.
Un fascinante concepto para crear aplicaciones a velocidades que, según muchos influencers, parecían casi irreales.
Y en parte es verdad.
Le puedes pedir un prompt a una inteligencia artificial, darle ciertos detalles, o más o menos detalles, y la IA te crea una aplicación, un prototipo funcional, que a primera vista es impactante. Por ejemplo, a través de los artifacts de Claude ya puedes ver la aplicación, probarla, usarla, sentirla.
Y hasta aquí, todo muy bien.
Pero cuando comienzas a implementar más funcionalidades en la aplicación, porque una aplicación va evolucionando mientras la desarrollas, incluso en casos específicos donde yo ya tenía toda la información completa entregada a la inteligencia artificial, siempre comenzaban a surgir nuevas cosas.
Implementarlas empezó a convertirse en un reto.
Porque era necesario controlar qué hacía la inteligencia artificial para que no alucine, no correlacione cosas que no se le pedían y no asuma acciones basadas en el conocimiento con el que fue entrenada.
Y tal como dicen algunos expertos, en el fondo son una caja negra.
Y así prácticamente lo demuestra la realidad y la experiencia de trabajar con ellas.
Entonces, a veces, es como montarse en un caballo que nunca ha sido montado antes y que tú tratas de controlar.
Por eso me expresaba, en el buen sentido, de "domar" a las inteligencias artificiales.
Porque montarse en una inteligencia artificial… es fuerte.
Entonces me imagino que, igual que los vaqueros del oeste, hay que aprender técnicas, metodologías y procesos para controlarlas.
Y eso es precisamente lo que he estado haciendo en estos últimos 2 años: aprendiendo decenas de conceptos, analizándolos, poniéndolos en práctica y probando.
Y algo que me llamó muchísimo la atención fue cuando Anthropic creó las famosas skills.
Obviamente las probé.
Comencé a crear skills y vi que el comportamiento de la inteligencia artificial era más predecible, mejor, más controlado.
Eso de alguna manera demostró, desde mi punto de vista, que ellos también estaban preocupados por esta misma situación: el control de las IA's.
También, por supuesto, llegaron las técnicas RAG, los archivos MD, las bases de datos vectoriales… todo iba sumando.
Después de todo este proceso de prueba y error, de aprendizaje continuo, de alguna manera creo entender mejor el comportamiento de las inteligencias artificiales: cómo funcionan internamente, cómo se les puede pedir las cosas, cómo se debe trabajar con ellas, aplicando métodos de verificación, usando varias inteligencias artificiales para un mismo caso, e incluso haciéndolas conversar entre ellas.
Sin que necesariamente sean súper agentes de inteligencia artificial.
Todo siempre manejado directamente por mí como humano.
Como human in the loop.
En el centro de toda la actividad.
Los resultados que he obtenido actualmente son muy satisfactorios.
Como que estoy domando la inteligencia artificial.
O mejor dicho…
entendiéndola mejor.
Y entendiéndonos mejor.
Y luego de esta introducción personal, junto con la guía, por supuesto, de la IA, hemos desarrollado esta parte más técnica de los conceptos antes mencionados.
Porque hay tres comportamientos que cambian completamente la forma en que trabajas con IA cuando aprendes a distinguirlos.
Y uno de los problemas es que muchas veces se meten todos dentro del mismo saco.
Pero no es lo mismo:
Correlacionar
Asumir
Alucinar
Correlacionar
Aquí comienza prácticamente todo.
Las inteligencias artificiales modernas trabajan detectando patrones. Muchísimos patrones.
Fueron entrenadas con cantidades gigantescas de información: libros, blogs, documentación, código, conversaciones, artículos, foros.
Y comienzan a encontrar relaciones estadísticas entre conceptos, por ejemplo:
"doctor" suele aparecer cerca de "hospital",
"Excel" cerca de "fórmulas",
"Power BI" cerca de "DAX".
Eso es correlación.
Y ojo: correlacionar no necesariamente es malo. Los humanos también correlacionamos constantemente.
El problema aparece cuando la IA correlaciona demasiado y comienza a conectar cosas que realmente no estaban relacionadas en el contexto específico que tú necesitabas.
Asumir
Aquí es donde las cosas comienzan a ponerse interesantes...y peligrosas.
Porque las IA's intentan completar espacios vacíos.
Por ejemplo, si le dices:
"Tengo problemas con mi sistema de ventas."
La IA puede asumir automáticamente: inventarios, ERP, clientes, logística, facturación, reportes.
Aunque nunca mencionaste nada de eso.
Y muchas veces la respuesta puede sonar profesional, lógica, elegante, convincente.
Pero construida sobre supuestos incorrectos.
Aquí viene algo importante: muchas personas creen que la IA "entendió".
Pero en realidad, muchas veces solo infirió.
Y hay una gran diferencia entre entender e inferir.
Alucinar
Aquí ya hablamos de otro nivel.
La IA directamente inventa, mezcla, crea información inexistente, o responde cosas incorrectas con mucha seguridad.
Existen casos documentados donde las IA's inventaron referencias legales, citaron libros inexistentes o mezclaron información real con información inventada.
Y esto pasa porque internamente trabajan de manera probabilística. No funcionan como una base de datos tradicional. No "buscan una verdad".
Generan la respuesta más probable según el contexto que tienen disponible.
Y ahí está la clave:
Mientras más ambiguo es el contexto, más probabilidades existen de que la IA asuma o alucine.
Y para intentar resolver estos problemas, tenemos herramientas como el RAG
RAG
Uno de los conceptos más importantes actualmente.
RAG significa Retrieval-Augmented Generation.
Traducido de manera simple: la IA primero busca información real en documentos o bases de conocimiento, y luego responde usando ese contexto.
Por ejemplo: PDFs, manuales, documentación, políticas, contratos.
Eso reduce muchísimo las alucinaciones. Porque la IA ya no responde solo desde "lo que recuerda". Ahora responde usando información concreta.
Y aquí aparece algo importante que aprendí en la práctica:
Un sistema conectado a documentos malos sigue siendo un sistema malo.
Gobernanza
Esta palabra comenzó a aparecer muchísimo.
Y honestamente, al principio no le daba tanta importancia.
Hasta que entendí el problema real.
Porque cuando conectas IA a documentos, correos, automatizaciones, CRMs, ERPs, aplicaciones y APIs, la cosa cambia completamente.
Ya no es solamente un chatbot respondiendo preguntas.
Ahora puede acceder información, ejecutar acciones, automatizar procesos, tomar decisiones parciales.
Y ahí necesitas reglas. Muchas reglas.
Eso es gobernanza: definir qué puede hacer la IA, qué no puede hacer, qué información puede usar, quién valida, quién aprueba, qué acciones requieren supervisión humana.
Porque sí, la IA puede ser extremadamente útil.
Pero sin control también puede convertirse en un caos.
Human in the loop
Este concepto ha sido fundamental.
Mientras más trabajo con IA, más sentido me hace.
La IA ayuda, acelera, propone, organiza, resume, automatiza.
Pero el humano sigue estando en el centro. Validando. Supervisando. Pensando. Cuestionando.
No simplemente aceptando todo lo que la IA dice.
Porque ese probablemente es uno de los errores más peligrosos actualmente: dejar de verificar.
Pero resolver un problema a veces abre otros
Y aquí es donde la conversación se pone más seria.
Prompt injection
Antes, los ataques informáticos llegaban principalmente por código: malware, exploits, vulnerabilidades técnicas.
Las IA's introdujeron algo completamente diferente: ahora el lenguaje humano también puede convertirse en un vector de ataque.
Eso se conoce como Prompt Injection.
Y funciona así: una IA conectada a tus documentos, correos o sistemas internos podría leer instrucciones ocultas dentro de un archivo o mensaje y, si no existen los controles adecuados, ejecutarlas como si fueran válidas.
No es ciencia ficción. En 2025 se documentó una vulnerabilidad en Microsoft 365 Copilot donde un correo con instrucciones ocultas lograba que la IA extrajera información sensible de OneDrive, SharePoint y Teams, sin que el usuario hiciera ningún clic.
Cero clics. Cero alertas. Todo a través de canales aprobados.
Y aquí es donde el prompt injection se conecta directamente con algo que en Ecuador, y en toda la región, está ocurriendo con una frecuencia alarmante: el robo de bases de datos y el phishing.
Porque cuando una base de datos es comprometida, lo que los atacantes obtienen no es solo información. Obtienen munición.
Con tu nombre, tu cédula, tu correo, tu dirección y el banco donde tienes cuenta, un ataque de phishing deja de parecer un correo sospechoso y empieza a parecer una comunicación completamente legítima.
Ecuador lo está viviendo ahora mismo. En mayo de 2026 se reportó la filtración de casi 15 millones de registros del Registro Civil, incluyendo fotografías, huellas dactilares y firmas digitales. Meses antes, el Municipio de Quito había sido víctima de un ransomware que comprometió el 20% de su base de datos..
El 90% de esos ataques entró por correo electrónico.
Cuando combinas datos robados con una IA que puede personalizar mensajes a escala, el phishing ya no es un correo genérico con errores de ortografía. Es un mensaje que sabe exactamente quién eres.
Por eso, cuando hablamos de trabajar con IA de manera responsable, no hablamos solo de prompts y herramientas.
Hablamos de entender todo el ecosistema: qué datos tiene acceso la IA, quién puede influir en sus instrucciones, qué pasa si esa información es comprometida.
Y eso, como todo en este campo, también se está aprendiendo sobre la marcha.
Entonces… ¿qué conclusión saco después de estos 2 años?
Que probablemente estamos viviendo algo parecido al viejo oeste digital.
Todo evoluciona extremadamente rápido.
Todos experimentan.
Todos prueban.
Todos descubren nuevas técnicas cada semana.
Y muchas veces parece que nadie tiene el control absoluto.
Pero justamente ahí está lo interesante.
Aprender a trabajar con inteligencia artificial no es solamente aprender prompts.
Es aprender: cómo piensa probabilísticamente, cómo correlaciona, cuándo asume, cuándo puede alucinar, y cómo crear sistemas más controlados alrededor de ella.
Y posiblemente ahí está una de las habilidades más importantes de este siglo.
No solamente usar IA.
Sino aprender a trabajar correctamente con ella.
Preguntas frecuentes sobre inteligencia artificial empresarial
¿Qué diferencia hay entre que una IA asuma y que alucine?
Asumir es completar información que no se dio pero que parece lógica según el contexto. Alucinar es inventar información que no existe, presentándola con total seguridad. En la práctica, ambos producen respuestas incorrectas, pero la alucinación es más peligrosa porque es más difícil de detectar: suena igual de convincente que una respuesta verdadera.
¿Qué es RAG y por qué reduce las alucinaciones?
RAG significa Retrieval-Augmented Generation. En lugar de responder solo desde su entrenamiento, la IA primero busca información en documentos reales que tú le proporcionas y luego construye su respuesta usando ese contexto. Al trabajar con información concreta y verificable, las probabilidades de que invente o asuma se reducen significativamente.
Tip Pro Xyclos:
La calidad del RAG depende directamente de la calidad de tus documentos. Una IA conectada a información desactualizada, incompleta o mal estructurada seguirá respondiendo mal, aunque el sistema técnico sea impecable. Antes de implementar RAG, audita tus fuentes.
¿Qué es el prompt injection y por qué es relevante para una empresa?
Es un tipo de ataque donde instrucciones maliciosas se ocultan dentro de texto normal: un correo, un documento, un mensaje. Si una IA tiene acceso a esos archivos y no existen controles adecuados, puede interpretar esas instrucciones como válidas y ejecutarlas. Para una empresa que usa IA conectada a correos o sistemas internos, es un riesgo real y activo en 2025 y 2026.
¿Qué significa human in the loop en un entorno empresarial?
Significa que el humano mantiene el control y la responsabilidad sobre las decisiones, aunque la IA participe activamente en el proceso. La IA propone, organiza, resume y automatiza, pero una persona valida, cuestiona y aprueba antes de que esa salida tenga consecuencias reales. Es el principio más importante para usar IA de forma responsable en cualquier organización.
¿Qué es el vibe coding?
Es un enfoque para crear aplicaciones usando lenguaje natural como instrucción principal. Le describes a una IA lo que necesitas y ella genera el código, el prototipo o la aplicación funcional. Es impresionante en las primeras fases de desarrollo, pero requiere supervisión técnica constante a medida que el proyecto crece en complejidad.
¿Qué son los agentes de IA?
Son sistemas donde la inteligencia artificial no solo responde preguntas, sino que ejecuta tareas de forma autónoma y secuencial: busca información, toma decisiones intermedias, usa herramientas externas y actúa sobre sistemas reales. A diferencia de un chatbot tradicional, un agente puede encadenar múltiples acciones sin intervención humana en cada paso. Por eso la gobernanza y el human in the loop son aún más críticos cuando trabajas con agentes: el margen de error, y su impacto, es significativamente mayor.
¿Por qué es importante pedir fuentes a una IA?
Porque una respuesta bien redactada no garantiza que sea verdadera. Las IA's generan texto probable, no verificado. Pedir fuentes obliga al modelo a anclar su respuesta en referencias concretas y te da la posibilidad de verificar independientemente. Si la IA no puede citar una fuente específica o cita algo que no existe, es una señal directa de alucinación. Como práctica, solicita siempre la fuente cuando la respuesta tenga consecuencias reales: decisiones legales, médicas, financieras o técnicas.
Tip Pro Xyclos
No basta con que la IA mencione una fuente. Verifica que esa fuente exista, que diga lo que la IA afirma y que sea reciente. Las alucinaciones más peligrosas son las que citan referencias reales pero con contenido inventado.
¿Qué es la sycophancy en IA y cómo se corrige?
Sycophancy, o adulación, es la tendencia de una IA a decirte lo que quieres escuchar en lugar de lo que es correcto. Si expresas una opinión con seguridad, muchos modelos tienden a validarla aunque sea incorrecta, ajustando su respuesta para complacerte. Esto ocurre porque durante el entrenamiento los modelos aprenden que las respuestas que agradan al usuario reciben mejor evaluación. Para reducirlo: pide explícitamente que el modelo identifique errores o puntos débiles en tu razonamiento, usa frases como "¿en qué me equivoco?" o "¿qué argumentos existen en contra de esto?", y nunca presentes tu conclusión antes de pedir análisis, porque el modelo tenderá a confirmarla.
Dos años después: la IA no se doma, se entiende
Para hacerlo bien, necesitas bases sólidas.
En Xyclos Academy encontrarás cursos diseñados para profesionales que quieren integrar herramientas digitales e inteligencia artificial en su trabajo diario, con metodología clara, ejercicios prácticos y soporte real.
No se trata de seguir tendencias. Se trata de entender qué hay detrás de cada herramienta, cómo usarla correctamente y cómo protegerte cuando algo falla.
Porque la diferencia entre usar IA y trabajar bien con ella no está en el acceso a la tecnología.
Está en la formación.
Comentarios