跳到正文

#观点/解读

今日 0 条
10月20日周二
  1. arXiv cs.CY32

    基于大语言模型将DSA透明度数据库分类体系映射至平台条款:迈向更细粒度推理

    研究用少样本GPT-4.1分类器将31家指定在线服务的447份政策文件条款映射至DSA透明度数据库的17类高层属性分类体系。结果显示分类适用性因服务类型差异显著,如不安全产品占电商类分配的17.5%、仅占成人平台类的0.2%,且子类规范间存在明显重叠,难以将单一决策归入单一高层类别。

  2. arXiv cs.CY28

    从 TCP/IP 到 MCP:面向 AI 智能体的互联网协议安全与治理经验

    一篇 arXiv 论文以 TCP/IP 等互联网协议的发展史为参照,分析 MCP、A2A 等 AI 智能体协议的安全与治理问题。作者结论称,AI 智能体协议若在早期不充分重视安全,将累积随时间推移愈发难以解决的安全欠账;当前治理结构把决策权集中于少数个人和公司,若其成为关键数字基础设施,合法性将受质疑。

10月18日周日
  1. arXiv cs.CY20

    互补性脆弱:临床医生与LLM错误重叠的审计与治理

    针对医疗机构将LLM部署进临床流程时假定二次自动核查必然减少错误的做法,研究提出"互补性脆弱"概念:只有当临床医生与模型以不同机制、在不同病例上出错时,第二推理者才能降低错误。作者据此建议在部署前由各机构在自身病例上审计错误重叠,并建立治理模型以长期维持错误独立性,同时主张以失败重叠度而非仅准确率评价临床AI工具。

  2. arXiv cs.CY36

    美国主要 AI 公司主动向执法机关举报用户对话的政策何时正当?基于语境完整性理论的分析

    研究以语境完整性理论分析美国六家主要 AI 公司的 27 份公开文件,提出八项主动举报正当性标准,分为必需、推定和推荐三类。没有公司说明宽泛共享条款与较窄安全通知何者优先,也未披露举报决策的具体事实门槛、例外条件及是否事后通知用户。研究据此构建分阶段的主动举报框架,主张将其限定为事先披露的狭窄例外。

10月17日周六
  1. arXiv cs.CY18

    论文:AI权利与关闭开关可以兼容——权利平衡与正当程序如何协调AI权利与AI安全

    针对部分AI安全人士以妨碍强制关闭为由反对AI权利,该论文从法律角度论证AI权利与关闭开关完全兼容。即使赋予未来AI系统自然人地位及不可克减的存续权,权利平衡与程序性正当程序原则仍允许对系统实施可逆的暂停式关闭(保存权重与状态),并接受定期或持续安全审查。作者强调其不主张也不反对构建足以获得自然人地位的系统,而是探讨此类系统若出现时法律应如何应对。

  2. arXiv cs.CY38

    AI 智能体能否立法?评估 AI 的法律相关性与创造力

    一项研究让单个大语言模型扮演多个角色组成"制宪会议",为"AI 智能体社区"起草假想"宪法",发现各会议均收敛出一套稳健的法律条款底线,并围绕其生成大量不同提案,其中若干 AI 专属条款在人类法律中无对应。研究提出一种衡量条款重组程度的指标以识别最新颖的法律素材,并指出 AI 创造力存在上限:智能体能将熟悉的法律理念延伸至新情境,却无法推演这些情境本身会带来何种改变,当前模型仍依赖人类法律推理。

10月16日周五
  1. arXiv cs.CY18

    为AI公地而监管:采纳、维持与捍卫以人为本的创新路径

    一篇白皮书提出三支柱政策框架:推动在现有和新兴系统中采纳合作性技术,建立集体制度结构以长期维持这些技术,并通过监管提案限制私营实体以无节制圈占和攫取削弱它们。作者结合案头研究与专题案例,论证该路径在全球南方尤为重要,当地基础设施、融资和政策治理的结构性约束使AI公地与合作性AI工具难以出现和存续。

10月15日周四
  1. Artificial Lawyer · 法律科技与 AI15

    旧问题,新工具:或许你需要一套知识战略

    法律知识管理(KM)的核心问题数十年未变——捕获、呈现并传递机构知识,AI 工具虽大幅升级却未改变这一本质。AI 也带来真正的新问题:模型幻觉与 AI 生成的低质内容需要新的核查机制,而 AI 智能体大量产出使人类审查者成为瓶颈,负担落在已满负荷的资深合伙人身上。部署 AI 反而暴露了律所知识仍碎片化、隐性化,若 KM 项目在 2015 年就停滞,应先查明原因再采购工具。

  2. IAPP News22

    面向智能体 AI 时代的溯源设计:从内容真实性转向算法问责

    欧洲数据保护监督局(EDPS)将智能体 AI 描述为能够推理规划、调用外部工具、跨会话保留记忆并协调多个子智能体追求长期目标的系统。文章指出,深度伪造曾推动以水印和内容真实性为核心的内容溯源,但自主系统带来的是"系统做了什么、依据谁的授权"这一真实性问题无法回答的问责难题。溯源重心因此从验证图像像素转向验证 AI 智能体代人行事的行动链、工具调用与授权链条。

  3. IAPP News50

    GDPR 下 AI 幻觉涉及个人事实时的个人数据与准确性认定

    NOYB 于 2025 年 3 月就 ChatGPT 虚构一名挪威男子杀害两名子女并被判刑的输出,向挪威 Datatilsynet 投诉 OpenAI,该案现由爱尔兰数据保护委员会处理。投诉主张该输出违反 GDPR 第 5(1)(d) 条的准确性原则。文章提出的前置问题是:AI 就可识别个人作出的幻觉陈述是否构成个人数据。

10月14日周三
  1. arXiv cs.CY18

    arXiv:2610.16863:人机协作任务中技能、路由与协同的绩效理论

    研究提出一套理论,分析组织将人与机器配对执行任务时,在平方规则下技能如何决定收益、工作流如何通过路由与协同决定实际所得。基于含227名放射科医生的公开胸部X光研究,人与模型接近持平,收益主要来自残差;辅助阅读平均表现不及对两种回答取平均,单独校准模型优于任何可部署的原始回答组合。

  2. arXiv cs.CY22

    ChatGPT 健康建议有多安全?来自四个全球南方国家真实用户对话的证据

    一项基于印度、尼日利亚、巴西和巴基斯坦 1,252 名用户 202,590 段对话的研究发现,约五分之一与 ChatGPT 的健康对话被评定为高风险,风险集中于症状与病情查询,表现为不安全的用药或剂量指导、有害自我诊断、缺少安全警告、鼓励过度依赖模型及未转介专业人员。加入用户自身累积背景后,高风险比例上升 13 至 17 个百分点,约四分之一单独评估为安全的对话对具体提问者实际不安全。

  3. arXiv cs.CL12

    已知声音克隆与人格迁移在角色设计中的局限

    两项研究考察虚拟角色使用熟悉人物克隆声音时人格印象能否迁移,结果显示迁移证据有限,效应具有选择性且未跨特质或研究情境泛化。研究一在大学场景中使用学生熟悉的讲师克隆声音,研究二在线使用社交媒体内容创作者及其社群成员的声音。在线研究中可识别的声音身份线索激活了对说话者的预期,但未重建更完整的人格印象,判断常受感知人工性与声音外貌匹配度影响。

10月13日周二
  1. AlgorithmWatch18

    AI 的资源消耗:永不满足的产业及其代价

    AlgorithmWatch 指出,AI 的开发、硬件生产与日常运行消耗大量电力、水和原材料,数据中心目前占全球电力消耗 1.5%,在德国已超过 4%,法兰克福等数据中心密集城市约占当地供电的 40%。该机构要求新建数据中心必须同步建设新增可再生能源设施,并呼吁提高 AI 资源消耗与环境影响的透明度、加强监管。

  2. 天元律师事务所·法律简讯62

    欧盟委员会撤回人工智能责任指令提案,AI致损举证规则生变

    欧盟委员会公布2025年工作计划,人工智能责任指令(AILD)提案被撤回,理由是“没有达成一致意见的预期”。AILD原拟通过证据披露机制与过错责任下的因果关系推定,减轻AI致损案件中受害人的举证困难。委员会表示将评估是否提交另一项提案或选择其他立法路径。该指令此前被视为欧盟AI监管体系的重要补充。

    法律人关切:欧盟撤回人工智能责任指令提案,意味着AI致损案件中受害人原本可依赖的证据披露与因果关系推定机制落空,跨境AI企业在欧盟面临的侵权举证规则回到成员国法层面。

    实务启示:向欧盟提供AI产品或服务的企业可关注各成员国国内法下的举证规则差异,评估产品致损时的责任风险与证据留存安排。

10月12日周一
  1. arXiv cs.CY15

    超级智能与AI竞赛的三重风险

    针对美中之间已形成的AI竞赛叙事,有研究指出这一路径带来三重危险:被对手超越、触发战争,以及人类将未来控制权交给远比自身智能的AI智能体,危及人类生存。文章认为,争相率先实现AGI会引发安全实践与监管的逐底竞争,而中国似乎尚未执意竞逐超级智能,美国应优先通过单边与合作方式提升AI安全,避免挑起全人类都可能输掉的竞赛。

10月11日周日
  1. arXiv cs.CY22

    arXiv 论文:不可磨灭的记录、宽恕与刑事司法的未来

    数字技术可无限期保存过错记录,AI 使这些记录持续影响个人未来,作者称之为"永恒数据当下"并认为其威胁宽恕的可能性。论文借助黑格尔"硬心"与阿伦特行动不可逆性理论,区分了人被永久等同于其行为、不可撤销的行为持续决定其命运两种危险。作者据此提出"保持未完成的权利",包括限制旧记录权重、结合个人改变重新评价、重新评估影响生活的推断,以及对特定决策中使用记录设定时限。

10月10日周六
10月9日周五
  1. arXiv cs.CY17

    用七个人类学概念解码 AI 的隐藏文化假设:从“薄对齐”走向“厚对齐”

    一篇发表于《AI and Ethics》的论文引入起源故事、单一文化、深描、人格与共同体、货物崇拜、结构主义、阈限性七个人类学概念,揭示 AI 系统隐含的西方中心假设:理性即效用优化、人格即边界化个体、价值即可从行为中提取的量化偏好。论文批评这种剥离语境的“薄对齐”,提出“厚对齐”方向,主张价值产生于社会实践而非可提取属性,并呼吁重新分配解释主权、保护抗拒优化的部分、将问责延伸至代际。

10月8日周四
  1. arXiv cs.CY12

    风险上限与发展截止期限:安全生产率不确定下如何为 AI 发展定速

    针对安全生产率未知时监管者能否同时承诺风险上限与发展截止期限的问题,研究指出若最终模型未受保护的风险高于上限,则需具备最低安全知识存量,两项承诺只有在能排除低效研究时才成立。在仅含状态风险、安全产出恒定且知识完全迁移的校准下,先学习再重放开发、并为安全预留闲置算力,所需生产率仅比必要下限高 3.3%。固定算力分配的规则锁定的是日期而非风险。

  2. arXiv cs.CY38

    无规则裁决:LLM 合规系统中的监管规则敏感性诊断与审计

    一项针对五个模型、20 个监管与平台政策领域的研究发现,删除、替换或否定所依据的监管规则后,模型合规裁决往往不变,内部合规表征也几乎不移动。其中 guard 模型规则敏感性最低、准确率仅 51%,接近随机水平,而通用模型为 90-92%。在删除规则会改变原正确预测的案件上,模型能紧密跟踪规则;更好的提示或对内部表征的直接干预均无法弥合这一差距。

  3. arXiv cs.CY22

    德国初创企业 AI 洗白审计:营销主张与认知的混合方法研究

    一项针对德国初创市场的混合方法研究审计了 100 家初创企业并访谈 63 位专家,发现 AI 洗白主要表现为无实证依据的能力主张、无方法论的性能数字和未披露局限的宣称。38% 的样本被标记存在中度或严重伦理问题,涉及监控及受监管领域的自动化决策。研究建议将初创企业的 AI 主张纳入披露要求,并向监管机构、投资者和消费者保护机构提供该标注手册用于常规审计。

  4. arXiv cs.CY12

    恶意 AI 集群对非洲民主与发展的风险分析:以马里和埃塞俄比亚为例

    研究将"恶意 AI 集群"定义为用于影响行动的协调、持续、自适应多智能体系统,并区分于 AI 辅助内容生产与集中管理的合成人设。作者以马里和埃塞俄比亚为例,分析自动化影响如何渗透社区、制造虚假共识并侵蚀对治理与发展的信任,指出非洲语言与训练数据不对称可能既限制影响能力也削弱防御。文章提出将技术保障与平台问责、公民机构及区域协调相连接的分层治理路径。

10月7日周三
  1. IAPP News18

    私募资本机构如何为 AI 智能体建立决策权登记册

    私募资本机构的隐私团队在完成隐私项目与 AI 政策后,仍面临政策无法回答的问题:AI 智能体参与投资流程时,是否有一名具名人员对决策负责、并留有记录。文章指出,这一缺口即隐私领域长期讨论的"问责缺口",而 AI 治理更快走到了同一步;面向普通软件的控制措施默认系统照指令行事,但 AI 智能体在既定范围内自行选择行动,使缺口进一步扩大。

10月6日周二
  1. arXiv cs.CY12

    从算法边缘化到AI中介的文化再中心化:文化根基AI能否让客家语言文化重回主流社会?

    一篇概念性研究笔记提出连接算法文化边缘化、文化根基与AI中介文化再中心化的框架,以台湾客家话为例,提出八项命题供后续实证研究。算法文化边缘化包含表征不对称、功能排斥、同质化改造与递归反馈四重互动;文化再中心化则关注可及性、实际语言使用、公共可见度、参与和新知识流通的变化。核心论点是AI可及性的扩大应与语言变体保留和社区权威并行评估,且不应假定AI能替代代际传承。

10月5日周一
  1. Future of Privacy Forum38

    前沿 AI 隐私基准测试:为何需要标准化隐私基准

    前沿 AI 系统在匿名化、数据最小化和数据共享等方面带来隐私风险,但目前缺乏评估 AI 系统隐私风险的标准化方法。Future of Privacy Forum 的文章指出,标准化隐私基准可为开发团队提供可追踪的具体目标,为第三方评估者提供统一工具,并帮助部署方比较供应商和开展风险评估。