核心速览

文章围绕AI在不同场景下的应用展开，通过对比自由作家Marco Buscaglia和作者自身使用AI的不同经历，引出“半人马”与“反向半人马”的概念，探讨AI应用中的权力关系、技术炒作、会计乱象以及对劳动力市场的影响，强调技术的社会安排是选择而非必然。

半人马与反向半人马

• 半人马：指人借助机器辅助工作，人掌控主导权，可自主选择工具的使用方式和程度，从而提升效率和体验。例如作者使用开源AI语音转录模型Whisper处理播客音频，快速定位所需引用内容，过程高效且体验良好，AI成为有用工具。
• 反向半人马：指人被迫成为机器的助手，机器主导工作节奏和方式，人被要求以超出自身能力的速度工作，最终导致不良后果。如Marco Buscaglia被要求在短时间内完成大量夏季指南编写工作，不得不依赖AI生成内容却因未审核出现错误，成为AI错误的承担者；亚马逊仓库工人被AI监控系统设定难以完成的配额，导致高工伤率和被迫憋尿等问题。

AI炒作与“批评性炒作”

• AI炒作机制：科技公司通过夸大AI能力制造炒作，如广告行业曾宣称“潜意识广告”能直接植入消费者想法，实际缺乏证据。如今AI公司类似地夸大其技术能力，以吸引投资和客户。
• 批评性炒作（critic-hype）：指批评者在批评技术时反而助长了炒作，如对广告技术“心灵控制”能力的渲染，帮助广告科技公司向广告商高价兜售服务。正确的反炒作方法应揭露其骗局本质，如指出广告技术所谓的“精准定位”实则依赖大规模监控。

技术的社会安排与不可避免论

• 技术的社会选择：技术的应用方式由社会安排决定，而非技术本身固有属性。以收银机为例，其可使店员从繁琐计算中解放，若工人有工会或劳动保护，生产力提升的好处可更公平分配；若缺乏保护，老板可能降低工资、增加工作量。
• 反对不可避免论：科技巨头常宣扬技术应用的唯一性和必然性（如撒切尔的“别无选择”论），而科幻文学作为反不可避免论文学，通过想象不同未来提醒人们技术的社会关系可被改变，当前安排是选择的结果，人们可选择其他方式。

AI泡沫与奇特会计

• AI泡沫规模：自2020年OpenAI推出ChatGPT 3以来，实际投入AI硬件和数据中心的资金达数百亿，还有更多虚构资金，如微软向OpenAI提供的“代币”被OpenAI按面值记为投资收入，微软又将其记为云服务收入，存在严重会计夸大。
• 用户对AI的态度：研究显示超90%的人不太可能使用标榜AI的产品，但科技公司通过“参与度”等数据制造AI受欢迎的假象，如将用户意外触发AI功能计入“互动”数据，以维持投资者对AI增长的信心。

AI的危险数学与劳动力影响

• AI市场价值的虚假计算：分析师通过枚举AI可替代的工作岗位及工资，乘以一定折扣得出AI市场价值（如摩根士丹利称AI价值16万亿美元），但忽略AI实际能力局限。例如宣称AI将取代卡车司机，却混淆“司机/销售工人和卡车司机”类别，且短途配送司机难以被替代。
• 对劳动力的危害：AI被用于降低工资成本，迫使工人成为“问责接收器”。如医院用AI替代放射科医生，仅留少数人审核AI输出，因“自动化盲视”导致错误难以发现；律师使用AI生成的法律文书含虚构引用而被制裁；程序员需快速审核AI生成的、错误难以察觉的代码，导致工作质量下降和技术债务增加。