规避AI领域“切尔诺贝利事故”的安全底线设计

• 作者： 翁春露 ¹
• 作者单位：
  1.  中央党校（国家行政学院）
• 发布时间：2025-03-25

摘要: AI技术及相关产业的发展在推动智能时代的同时伴生安全风险。但既有研究对AI安全风险的认知局限于一般社会风险治理视角，缺乏底线性思维。为弥补研究局限，提出AI领域“切尔诺贝利事故”的极端安全风险隐喻，基于风险社会“自反性”现代化的理论视域构想AI安全底线设计。在阐述AI极端安全风险“黑天鹅”与“灰犀牛”的双重形态以及“认知不对称”与数字“蝴蝶效应”的生成逻辑基础上，提出AI安全底线设计的三大基准性考量，一是透明性基准，回应认知困境与事后追责难题；二是预防性基准，意在进行底线防控与常态可控；三是阻断性基准，思考风险传递与代际公平。在三大基准指导下，相应进行安全底线设计的制度建构，一是围绕透明性基准进行算法黑箱透明、人机交互透明、数据流动透明的制度建构；二是围绕预防性基准进行安全阀值、最坏情形、冗余容错的制度建构；三是围绕阻断性基准进行阻断能源消耗、伦理债务、社会解构等代际传递风险的制度建构。

• 来自： 翁春露
• 分类： 综合学科 >> 综合学科
• 稿件状态： 已投稿期刊
• 引用： PSSXiv:202503.02601 (或此版本 PSSXiv:202503.02601V1)
  DOI:10.12451/202503.02601
  CSTR:32012.36.PSSXiv.202503.02601
• 推荐引用方式： 翁春露.规避AI领域“切尔诺贝利事故”的安全底线设计.哲学社会科学预印本平台:https://zsyyb.cn/abs/202503.02601.[PSSXiv:202503.02601V1] (点此复制)