软件开发正经历一场根本性的变革，这种变革威胁着要用某种类似于“巫术”的东西取代传统的工程学。资深软件工程师 Kyle Kingsbury 警告称，行业向使用大语言模型（LLM）生成代码的转型，带来了极高水平的不确定性，并导致了开发者技能的退化。
尽管一些开发者表示，利用 Claude 等模型可以成功实现复杂的加密协议，但 Kingsbury 对这种做法的长期可行性仍持怀疑态度。他认为，编译器能够维持严格的语义推理，而这种本质特性在大语言模型中是缺失的。由于这些模型具有混沌性，对提示词（prompt）的微小调整都可能导致截然不同且存在安全隐患的软件输出。
“提示词巫师”的崛起
Kingsbury 预见，未来的软件工程师可能会转型为“巫师”，他们将把时间花在构建复杂的环境上，试图从大语言模型的“恶魔”中召唤出代码。这些从业者可能会形成一套复杂且带有迷信色彩的“民间经验”来维护系统，依靠的是某种仪式感，而非既定的工程原则。
这一趋势反映了企业环境中电子表格的广泛应用及其带来的缺乏监管的问题。正如电子表格曾让非工程人员也能构建关键业务工具一样，如今，记者和高管们也正在部署大语言模型来分析数据，而这一过程缺乏正式的工程监管。这导致了大量“摇摇欲坠”的边缘软件的出现，这些软件极易出错，且难以进行审计。
当前企业对“AI 同事”的热衷忽视了与这些系统协作时的实际情况。Kingsbury 指出，这些模型经常会引入安全漏洞、无视明确指令或破坏现有的工作流，迫使人类员工在审查自动化输出上花费的时间，甚至比他们亲自动手编写代码还要多。
除了技术风险，向 AI 生成劳动力转型的趋势还威胁着会将权力进一步集中在少数几家大型科技公司手中。Kingsbury 并不认同“这种效率提升会带来更广泛的经济繁荣或全民基本收入”的观点。相反，他警告称，随着组织将关键基础设施交给不透明的、基于概率的机器，将会出现技能退化、自动化偏见以及潜在的灾难性系统故障。