- 验证合法目的、同意、访问权限和保留期限
- 核查标准是否在结果产生前已存在
- 禁止或不完整的使用场景
03 / 诚信
每个结论都保留产生它的路径。
谁在何种政策下、基于哪些证据、借助哪些模型辅助做出决定，可比案例如何被处理，以及后续发生了什么——所有信息均版本化、权限化、可归因且具备时间感知能力。
加入私密内测决策图谱
可回应的记录。
每个对象保留来源、策略、权限、时间和所有权，而不是将重要判断简化为最终分数。
- 政策
- 合法目的、管理规则及禁止用途。
- 决策案例
- 针对单个关键决策的完整、隔离记录。
- 主题
- 受决策影响的人，拥有明确的权利和数据权限。
- 标准
- 在结果确定之前定义的相关、可观察标准。
- 证据
- 来源明确的工件、观察结果、成果或遥测事件。
- 语境
- 一种经同意的条件，可用于解释机会或约束。
- 审查员
- 具有角色、培训、冲突和校准历史的人。
- 评估
- 基于证据和不确定性的准则级判断。
- 模型运行
- 带版本控制的 AI 输入、输出、提示词、提供商和追踪记录。
- 公平测试
- 记录指标、队列、阈值及解读。
- 决策
- 负责的结果、理由、负责人和评审日期。
- 申诉
- 带有状态、补救措施和最终回复的更正或挑战。
AI评审委员会
专家代理对案例提出挑战，由人类拥有最终结果。
没有任何单一模型拥有无限权限。智能体角色明确，输入具体，边界清晰，设有预算、追踪记录和升级规则。出现分歧时，案件将移交至其他责任人处理。
- 将每项内容链接至相关标准
- 区分观察、传闻、推断与事实
- FLAG 缺失、过时或存在矛盾的支持
- 测试模糊的、带有个性编码的或不平等的语言
- 将标准与类似已评审案例进行比较
- 请求证据或第二位人类审查员复核
- 跨群体衡量结果与错误率
- 仅针对合法且有据可依的标准进行控制
- 升级模式而不暴露个人身份
- 强制执行禁止功能与自主权边界
- 记录模型、提示词、输入、输出及置信度
- 在偏差、事故或监管缺失时暂停
- 生成一份通俗易懂的证据图谱
- 显示遗漏、不确定性及可用的更正路径
- 将申诉路由至独立的责任人
完整性闭环
公平是一个持续监控的过程，而非一次性审计。
政策、评审者、模型及受众群体不断变化。不可变的历史记录使我们能够在不悄然篡改过往事实的前提下汲取经验。
- 01
定义
设定目的、标准、证据、权利及禁止因素。
- 02
观察
收集相关事实和已获同意的背景信息，避免隐蔽推断。
- 03
审查
要求基于可检查证据的标准级人类判断。
- 04
挑战
运行独立的 AI 检查、队列测试和评审者校准。
- 05
决定
指定具体人类责任人，并披露 AI 如何影响案件处理。
- 06
学习
解决申诉，监控结果，并优化政策，无需重写历史记录。
度量系统
从多个角度衡量公平性。
每个仪表板均明确展示其背后的受众群体、合法目的、指标、不确定性、样本限制及行动阈值。
- 证据覆盖范围
- 决策在多大程度上得到相关、最新证据的支持。
- 评审者差异
- 结果如何随审核员、地点和时间的变化而变化。
- 条件性差异
- 不同群体中的可比案例是否受到不同的对待。
- 错误对等性
- 在获得真实情况后的假阳性与假阴性差异。
- 申诉质量
- 申诉访问率、更正率、推翻原因及补救时间。
- 结果有效性
- 该决策是否预测了其旨在支持的合法结果。
- 流程尊严
- 受影响者是否理解结果并感到能够更正记录。
- 运营价值
- 审查时间、返工、法律风险、不一致性及可避免的重复成本。
运营模式
像管理关键基础设施一样治理决策。
将自动化与使命和政策保持一致，追踪每项操作，将系统证据与人类背景结合，并改进系统而非监视个人。
使命 → 政策 → 案例 → 审查 → 决策。
每个代理都有明确的职责、预算、审批边界和追踪记录。人类可以暂停、覆盖、重新分配或终止工作。
证据阐明“是什么”，人协助解释“为什么”。
运营数据与经同意的定性背景相结合，聚焦于群体改进，而非对个人排名。
角色 → 目标 → 反馈 → 成长决策。
同步组织结构和结果，然后添加决策溯源、独立挑战和申诉权。
不可协商的边界
负责任的人工智能是产品的一部分——而非一份政策页面。
就业和教育AI可能影响基本权利。BiasFrom 从一开始就被设计为高风险基础设施。
- 从面部、姓名、声音、口音或行为中推断受保护特征、压力、性格或情绪。
- 在工作场所或学校中使用情绪识别技术。
- 自动执行雇佣、解雇、晋升、评级、许可或驳回申诉。
- 应用基于种族、国籍、残疾或移民身份的乘数偏差。
- 告知员工AI在何时以及如何影响了评审。
- 公开标准、相关证据、不确定性、模型版本及负责的所有者。
- 提供纠错、无障碍支持、独立审查及有意义的申诉渠道。
- 在发布前测试子组表现，并在部署后持续监控。
欧盟委员会将用于就业和考试评分的 AI 归类为高风险，并禁止包括职场或教育领域的情感识别以及某些生物特征分类。BiasFrom 应超越这些管控措施。请参阅 欧盟《人工智能法案》概览.
类别策略
从一次痛苦的评审开始。成为所有评审的诚信层。
证明一个可重复的工作流，以可衡量的成果赢得信任，随后将相同的图谱与保障体系扩展至相邻市场。
绩效评估的完整性
开放的职位架构、目标溯源、证据、自愿性员工福祉脉搏数据、反馈质量、校准机制、决策记录和员工申诉渠道。
全球评估诚信网络
候选人护照、标记校准、离线证据、本地语言解释、独立申诉以及监管就绪保障。
决策完整性网络
为人类与AI共同做出重大决策的组织提供政策、证据、代理、公平性、申诉及审计API。
构建标准
受决策影响的人是参与者，而非数据点。
证据易于检查，上下文贡献安全，期望一致，AI透明，且无需专业知识即可申诉。
私有内测版
使下一个决策可被问责。
加入以获取产品预览、研究邀请及早期访问名额。仅限 BiasFrom 更新。
统一地址，无无关营销活动。