社区治理在 AI 开发各环节的适配性不同:预训练数据量太大,难以收集有效意见,价值更多体现在微调阶段;底层架构选择属技术决策,不适合社区治理;评估与对齐环节混合了技术与规范判断,社区输入有价值。
Constitutional AI 用一部由人编写的"宪法"确立模型应遵循的原则。Anthropic 参与的 Collective Constitutional AI 引入公众投票生成原则,用公开来源原则训练的模型社会偏见更低。但这类民主化治理实验基本未被真正采用,AI 公司缺乏交出模型控制权的动力。
DAO 的代币加权投票被公认为"金权政治",由此衍生出二次方投票(追加票数的成本递增以抑制巨鲸)、信念投票(按持票支持时长累积权重)、委托投票等机制,但有效性仍不明。
保护 AI 系统的执行完整性
当智能合约需借助超出自身能力的 ML 计算时,可作为"仲裁者":各方先承诺所用模型与数据并质押抵押品,链下完成计算后把结果交给合约校验,错误方被罚没。校验有四条路线,各有取舍。