人工智能训练数据真实性：概念体系构建及合规要求分析

• 作者： 邝苗苗 ¹ 安小米 ^1，2，3 雷鸣 ¹ 王嘉豪 ⁴
• 作者单位：
  1.  中国人民大学信息资源管理学院

  2.  数据工程与知识工程教育部重点实验室

  3.  中国人民大学智慧城市研究中心

  4.  华为技术有限公司
• 通讯作者： 雷鸣 
• 发布时间：2024-10-12

摘要: 摘要：[目的/意义]AI训练数据真实性是当前国内外法规政策和标准中的关注焦点，研究其概念体系和合规要求有助于提升AI技术的质量、合法性、透明度和社会接受度等。[方法/过程]使用内容分析法对目标文献中的AI训练数据真实性相关内容进行分析和抽取，使用ISO 704：2022概念分析方法从抽取的条目中识别AI训练数据真实性相关概念关系和特征，以构建AI训练数据真实性概念体系，基于概念体系构建分析框架，进一步识别对应的合规要求。[结果/结论]与AI训练数据真实性相关的概念有AI训练数据客观性、AI训练数据可靠性、AI训练数据确实性、AI训练数据完整性。AI训练数据真实性合规要求包括具有合法来源、与基本事实相符、数据准确、没有受到不当操作和能反映人工智能系统的背景或预期用途5类。

Abstract: Abstract: [Purpose/Significance] The authenticity of AI training data has become a key focus in regulations, policies, and standards both domestically and internationally. Researching the conceptual framework and compliance requirements for AI training data authenticity can help enhance the quality, legality, transparency, and social acceptance of AI technologies. [Method/Process] Content analysis was used to analyze and extract relevant information about AI training data authenticity from target literature. The concept analysis method, ISO 704:2022, was applied to identify concept relationships and characteristics related to AI training data authenticity from the extracted entries. A conceptual framework of AI training data authenticity was constructed, which was then used to develop an analysis framework for identifying corresponding compliance requirements.[Results/Conclusion] Key concepts related to AI training data authenticity include objectivity, reliability, credibility, and integrity of AI training data. AI training data authenticity compliance requirements include five categories: having a legitimate source, consistent with basic facts, accurate data, no improper manipulation, and reflecting the context or intended use of the AI system.

• 来自： 用户_jajivn0oj6
• 分类： 信息资源管理 >> 情报学
• 稿件状态： 已投稿会议
会议名称： 平台智声|数智赋能学术期刊创新发展 ——第四届信息资源管理期刊发展论坛征文（2024年7月 —2024年10月）
• 引用： PSSXiv:202410.00829 (或此版本 PSSXiv:202410.00829V1)
  DOI:10.12451/202410.00829
  CSTR:32012.36.PSSXiv.202410.00829
• 推荐引用方式： 邝苗苗,安小米,雷鸣,王嘉豪.人工智能训练数据真实性：概念体系构建及合规要求分析.哲学社会科学预印本平台:https://zsyyb.cn/abs/202410.00829.[PSSXiv:202410.00829V1] (点此复制)