读AI赋能09安全恐慌

1. 安全恐慌

1.1. 新能力总是伴随着新风险

• 1.1.1. 不应盲目追求零风险

• 1.1.2. 应致力于理解现实环境中的风险，并有条不紊地努力管控和降低这些风险

• 1.1.2.1. 迭代部署便是实现这一目标的有效途径

1.2. 有效的安全措施和全面的人类监督变得愈发重要

1.3. 悲观主义者往往将安全与审慎、深思熟虑及专注等特质相联系

1.4. 旨在限制发展速度的法规和干预政策，不仅可能阻碍我们创造出能够提升全球福祉的突破性产品和服务，还可能延缓创新给安全带来的积极影响

1.5. 快速发展也意味着更强的适应性，而更强的适应性则意味着更短的产品周期、更频繁的迭代更新，以及更安全可靠的产品

1.6. 在互联网软件领域，即时分发特性与紧密的反馈循环机制，使得通过技术创新来实现安全往往比监管更有效

1.7. ChatGPT发布后，人们因紧迫感而呼吁监管并限制公众访问这些新资源

1.8. 科技行业成为文化变革和经济增长的全球引擎，似乎只是计算能力的稳步惊人增长、自由市场的神奇力量、少数编码天才以及监管缺位等幸运组合的偶然结果

• 1.8.1. 事实并非如此

• 1.8.2. 高科技在过去30年间成为美国最具活力行业的条件实际上是刻意设计的

1.9. 互联网将更倾向于广播形式，而非互动形式，法律和技术准入门槛可能使全球99.9%的人在网络世界中仅限于作为购物者和新闻娱乐的受众

2. 预防性原则

2.1. precautionary principle

2.2. 预防性原则认为新技术需要“自证清白”​

2.3. 与优先考虑新兴事物、非传统方法和创新自由不同，预防性原则的核心在立法上是相当保守的

2.4. 安全总比后悔好，三思而后行

2.5. 由于起源于环保领域，预防性原则在美国主要影响了环境和公共卫生领域

• 2.5.1. 预防性原则的影响也延伸至科技领域

2.6. 预防性思维对AI开发的多个方面也产生了影响，尤其在地方层面

2.7. 如今，人们对数据隐私、虚假信息以及其他技术驱动式问题的担忧日益加剧，呼吁采取预防措施的声量也越来越大

3. 无许可创新

3.1. permissionless innovation

3.2. 不同于自上而下的、试图预先控制甚至禁止新技术的努力，主张为创新、实验和适应性提供充足的空间，特别是在尚未出现明确危害或现有法规已经涵盖这些危害的情况下

3.3. 每一个新的组件或功能的推出都像是一种“法律”或“规定”​，而公众通过接受这些更新来表示认可

3.4. 如今，得益于互联网的普及和参与度的提升，无许可创新的监管作用愈发强大

3.5. 在21世纪，倡导在新的科技领域无须官方预先批准即可自由进行公开实验和反复尝试，并非逃避审查和民主式监督，而是主动拥抱

• 3.5.1. 这种做法可以带来更全面、更包容的反馈，缩短产品周期，加速产品改进，通常也会使产品更加安全可靠

3.6. 无许可创新机制仍在比以往任何时候都更加高效地运作

• 3.6.1. 不仅推动了我们在AI领域的进步，还加速了电动汽车、CRISPR基因编辑、电网级储能与太阳能技术、加密货币、远程医疗、3D打印、AR等技术的发展

• 3.6.2. 不仅提升了我们的日常生活品质，还使美国保持在应对气候变化、医疗可及性等全球性挑战的前沿

• 3.6.3. 并不意味着预防性原则在数字技术领域已不再适用

3.7. 关键在于，我们认为社会必须有时间更新和适应日益强大的AI技术，且受该技术影响的每个人都应在AI的进一步发展中有重要发言权

• 3.7.1. 迭代部署帮助我们更有效地将各利益相关者引入关于AI技术应用的对话中

• 3.7.2. 迭代部署通过引入具有明确亲社会属性的量化分配机制，进一步完善了这一范式

4. 更大的能动性，更高的容错率

4.1. 汽车

• 4.1.1. 在整个20世纪，汽车成为数十亿人日常生活中最强大的机器

• 4.1.2. 不仅是最强大的机器，还是人们持续数十年每天频繁使用的工具

• 4.1.3. 街道曾被视为社交、娱乐和交通运输的共享空间，但随着各种车辆的出现和发展，街道的功能逐渐变得单一

• 4.1.3.1. 人们以迭代的方式制定和实施法规，以应对出现的具体风险和危害

• 4.1.4. 1914年，克利夫兰市安装了美国首个电动交通信号灯

• 4.1.5. 在技术仍在完善的情况下，驾驶汽车穿越偏远地区的崎岖道路意味着危险，甚至可能发生灾难性的事故

• 4.1.6. 汽车行业早期推动燃油效率提升的并不是联邦监管机构，而是那些寻找销售亮点的经销商

• 4.1.7. 早期的批评者将汽车称为“魔鬼马车”和“死亡之车”​，认为它们是富人的玩具，并给司机贴上“速度狂人”和“路霸”的标签，称他们患有“汽油狂暴症”​

• 4.1.8. 为了有效缓解汽车带来的危害，我们经历了一个持续至今的过程，涉及正式法规的出台、技术的革新、文化规范的演变以及优先事项的调整

• 4.1.9. 之所以选择汽车，是因为汽车极大地提升了个体能动性，这是马车、火车、自行车、蒸汽船和轻轨机车等交通工具无法比拟的

• 4.1.10. 汽车成为日益密集且不断扩展的道路网络中的新节点，使得数百万人能够以高度个性化的方式挣脱时空限制

4.2. 在21世纪，联网的个人计算机和智能手机则扮演了与汽车相当的角色

• 4.2.1. 成为个人的移动机器，为我们提供了一种全新的方式，让我们能够在时间和空间中自由地表达自己

4.3. 在21世纪，当你可以居家办公，各类配送服务会把一切都送上门，而且你可以通过社交软件与友人畅聊

4.4. 在AI的新纪元，计算机与智能手机因融合了智能技术，已变身为更强大的助手，极大地提升了人的能动性，并扩大了人们对世界的影响力

• 4.4.1. 在汽车发展过程中采用的方法同样适用于AI领域

• 4.4.2. 不应仅依赖监管者和行业专家在封闭、集中、非民主的环境下开发和完善AI，而应继续坚持迭代部署，以更好地理解人们如何使用AI，观察随着使用规模的扩大而出现的问题，并进一步做出相应的调整

• 4.4.3. 如果大多数人认为AI能增强自己的能动性，拓展自己的生活选择，就像过去一个半世纪汽车所激发的个体能动性那样，那我们在追求这些更大回报的过程中，将会接受更高程度的风险

4.5. 更为完善的交通网络为各类商品和服务创造了更广阔的市场

• 4.5.1. 更广阔的市场和更低的分销成本又带来了价格的下调，进而催生了更多样化、规模更大的市场，涵盖了教育、就业和生活用品等多个方面

4.6. 无许可创新促进了技术的突破、文化的广泛采纳与适应，以及安全水平的持续提升

• 4.6.1. 正式法规在这一过程中发挥了一定作用，但这些法规本身在很大程度上是以迭代方式部署的，而不是事先强加的