La velocidad de adopción de la inteligencia artificial supera en ocasiones la capacidad de comprensión sobre su funcionamiento real. Para orientar la integración de estas tecnologías, es necesario identificar y contrastar los mitos predominantes con la evidencia técnica y operativa.
Mito 1: Reemplazo de empleos por tecnología
Se habla de un reemplazo total de las capacidades humanas, pero la tensión se localiza entre los profesionales que utilizan estas herramientas y los que no lo hacen. En el sector del desarrollo de software, la figura del programador que realiza escritura de código de forma manual está siendo complementada por sistemas que asumen las tareas repetitivas. Esto deriva en un desplazamiento del rol técnico hacia el diseño de arquitecturas, orquestación de sistemas complejos y pensamiento en términos de ingeniería de prompts. El riesgo operativo no reside en la tecnología, sino en la falta de acompañamiento de las organizaciones a sus equipos durante esta transición.
Mito 2: Conciencia e intencionalidad de los sistemas
Atribuir capacidades de entendimiento o voluntad a los modelos de lenguaje (LLMs) genera expectativas que pueden derivar en errores de gestión. Un LLM no posee conciencia de las consecuencias ni capacidad de razonamiento o empatía. El riesgo para las empresas aparece al delegar decisiones críticas a un sistema que carece de noción sobre la realidad. Por esta razón, se establece como norma de trabajo que el sistema propone opciones mientras el humano ejerce la decisión final. Tratar a estos modelos como entidades con propósito debilita los mecanismos de control en momentos de falla.
Mito 3: Tecnología para solucionar deficiencias
La tecnología actúa como un amplificador de la situación previa de la empresa. Si una organización posee flujos de trabajo sin documentación, datos desordenados o silos de información, la implementación hará que dichos problemas sean más visibles y se generen costos superiores. Los resultados reales en eficiencia se obtienen cuando la empresa invierte primero en el ordenamiento de sus datos y la fluidez de su comunicación interna. La implementación tecnológica es el paso final de un proceso de saneamiento operativo, no el primero.
Mito 4: Sólo para los de más escala
El acceso a la inteligencia artificial antes requería infraestructura de alto costo y equipos de especialistas en ciencia de datos. Actualmente, las pymes pueden integrar estas funciones en periodos de tiempo reducidos mediante el uso de APIs. No obstante, la disponibilidad de la herramienta es el factor de menor complejidad. El desafío se encuentra en la definición de qué procesos automatizar, en qué orden de prioridad, con qué criterios y bajo qué métricas de funcionamiento. El conocimiento del negocio sigue siendo el elemento determinante para el uso de la herramienta.
Mito 5: La reducción de la supervisión
Cuando los sistemas de automatización muestran un funcionamiento estable, surge la tendencia de disminuir la vigilancia humana. Este es el momento de mayor riesgo operativo, puesto que la confianza en los sistemas es una práctica de riesgo. Los modelos pueden presentar “alucinaciones”, generando respuestas con una estructura plausible pero que contienen datos incorrectos, y lo hacen con un nivel de seguridad formal que puede inducir al error a personal experimentado. El cumplimiento de normas como la ISO 27001 exige documentar la intervención humana en cada flujo donde participa la tecnología para asegurar que los procesos se ajusten a lo planificado.
Mito 6: La objetividad de los algoritmos
Se cree que la ausencia de emociones en los sistemas garantiza neutralidad en los resultados. Sin embargo, los modelos se entrenan con datos producidos por humanos que contienen sesgos históricos y sociales. Un sistema entrenado con bases de datos de contratación previas tiene el potencial de perpetuar discriminaciones de forma sistémica bajo una apariencia de objetividad técnica. Asimismo, la premisa de que “más automatización equivale a mayor eficiencia” es inexacta; en ocasiones, incrementa la complejidad de los sistemas, crea más puntos potenciales de falla y eleva los costos de mantenimiento.
Mito 7: El conocimiento total y actualizado
Finalmente, los modelos de lenguaje poseen limitaciones temporales y de base informativa. Tienen fechas de corte en su entrenamiento y pueden incurrir en errores con altos niveles de confianza. La adopción acelerada de estas herramientas requiere descartar la idea de que la tecnología posee un conocimiento absoluto de la realidad. La eficacia de la inteligencia artificial depende de la capacidad de los profesionales para actuar como validadores y estrategas, manteniendo el control sobre la producción de los sistemas de predicción.
Poner sobre la mesa estas creencias, nos preparará mejor para lo que viene.
(*) Co-Founder y COO de The App Master
Pasar en limpio un cúmulo de creencias circulantes equivale a estar mejor preparado para lo que viene.
DATOS V. RELATO
Siete mitos que vale la pena poner en debate
ANÁLISIS