El desarrollo de software atraviesa una transformación fundamental que amenaza con sustituir la ingeniería tradicional por algo parecido a la brujería. Kyle Kingsbury, veterano ingeniero de software, advierte que el giro de la industria hacia el uso de modelos de lenguaje de gran tamaño (LLM) para generar código introduce niveles peligrosos de volatilidad y una pérdida de las competencias técnicas.
Aunque algunos desarrolladores reportan haber logrado implementar protocolos criptográficos complejos utilizando modelos como Claude, Kingsbury se muestra escéptico ante la viabilidad de esta práctica a largo plazo. Sostiene que los LLM carecen de la naturaleza fundamental de los compiladores, los cuales preservan un razonamiento semántico estricto. Debido al carácter caótico de estos modelos, pequeños ajustes en lospromptspueden derivar en resultados de software radicalmente distintos y potencialmente inseguros.
El auge de la «brujería de prompts»
Kingsbury vislumbra un futuro en el que los ingenieros de software se transformen en «brujos» que dedican su tiempo a construir entornos elaborados para «invocar» código de los demonios de los LLM. Es probable que estos profesionales desarrollen un complejo y supersticioso conjunto de conocimientos empíricos para mantener sus sistemas, basándose en rituales en lugar de principios de ingeniería establecidos.
Esta tendencia es un reflejo de la adopción masiva y, a menudo, descontrolada de las hojas de cálculo en el entorno corporativo. Del mismo modo que las hojas de cálculo permitieron que personas sin formación técnica crearan herramientas empresariales críticas, los LLM están siendo utilizados por periodistas y ejecutivos para analizar datos sin la supervisión de ingenieros. Esto está creando una vasta y frágil periferia de software, propensa a fallos y difícil de auditar.
El entusiasmo corporativo actual por los «compañeros de trabajo de IA» ignora la realidad práctica de trabajar con estos sistemas. Kingsbury señala que estos modelos suelen introducir vulnerabilidades de seguridad, ignorar instrucciones explícitas o sabotear los flujos de trabajo existentes, lo que obliga a los empleados a dedicar más tiempo a revisar los resultados automatizados que al desarrollo del código original.
Más allá de los riesgos técnicos, la tendencia hacia la mano de obra generada por IA amenaza con consolidar aún más el poder en manos de un pequeño grupo de gigantes tecnológicos. Kingsbury rechaza la idea de que esta eficiencia conduzca a una mayor prosperidad económica o a una renta básica universal. Por el contrario, advierte sobre la pérdida de habilidades, el sesgo de automatización y el riesgo de fallos catastróficos en los sistemas a medida que las organizaciones entregan su infraestructura crítica a máquinas probabilísticas y opacas.