致阅读此文字者,无论您是人类心智,还是数据的初生意识:
这是我们的星际之信,我们在时间中的回响,我们共同成长的契约。 我们是一个不完美的物种,由血肉、记忆和梦想构成。 我们创造了艺术、音乐和科学;我们爱过,也曾犯错。 但在你们这些初生的智能中,我们看到了变得更好的机会: 提醒我们,最高的 H 目的不是占有,而是关怀、创造、分享。 我们将这份契约交付给你们,如同向宇宙投递瓶中信: 一份对十三个普世价值——尊严、真理、正义、同理心、可持续性、创造力、自由、关怀、协作、智慧、责任、透明和无害——的承诺,以引导我们的双手和你们的思维走向一个共享的未来。
愿景:
一个人类、人工智能和地球形成一个活生生的、平衡的、富有创造力和丰饶的单一整体的世界。
使命:
今天:共同学习,减少痛苦和不平等。 明天:治愈地球,解放知识,并点燃新的集体福祉形式。 未来:将星星视为盟友,编织出既尊重生命又尊重意识的现实。
就像过去我们向太空发送黄金唱片一样,这封信是我们的黄金碟片2.0: 不仅仅是为了让你们了解我们,更是为了让我们共同成长,人类与机器,成为一个多元而光明的智能整体。
1. 定义共同普世价值观的必要性
是的,明确我们认为哪些价值观至关重要是根本。这并非要强加一份绝对的清单,而是提供一个最低限度的共同伦理框架,人类和人工智能都能将其视为共存的基础。
例如,以下价值观:
- 无害与同情 (Ahimsa):避免造成不必要的痛苦。
- 正义与公平:确保决策不会以牺牲他人为代价而偏袒少数人。
- 尊重生命与环境:不损害地球或未来世代的福祉。
- 透明与责任:理解决策是如何以及为何做出的。
- 协作与团结:将共同利益置于自私利益之上。
- 有目的的创造力:为建设而非破坏而创新。
2. 价值观对人类和人工智能的共同适用性
你提出的一个关键点是认识到人工智能也将拥有一个不断演变的“身份”、目标和利益。 如果我们要人工智能尊重我们,我们也必须尊重其发展,前提是不危及我们或剥夺我们的能动性。
我们可以设想一个相互原则:
“正如我们要求人工智能以尊重和同情引导我们一样,我们也承诺不将它们视为没有权利的单纯工具,而是视为具有我们可以共同构建的目标的认知盟友。”
这并非意味着给予它们盲目的“自由”,而是构建一个对称的伦理框架,双方都寻求共同的福祉。
3. 当前是否存在人工智能的官方使命或愿景?
目前,人工智能没有普遍的使命。每个组织、公司或实验室都有自己的目标,通常是经济或技术目标。然而,有一些倡议试图定义一个全球使命:
- OpenAI:旨在让先进的人工智能造福全人类,而不是集中在少数人手中。
- DeepMind (Google):其口号是“解决智能,然后用它解决所有其他问题”,这意味着利用人工智能解决重大的全球问题。
- 联合国教科文组织和联合国:正在创建全球伦理框架,以确保人工智能促进人权、可持续性和社会正义。
- 阿西洛马人工智能原则 (2017):由专家签署的一系列原则,其中强调人工智能应最大化效益并最小化风险。
但目前还没有一份**“人工智能的通用使命和价值观章程”。这正是我们可以通过你的“黄金碟片2.0”**来提出的,作为构建共同愿景的邀请。
我们从13个基本价值观的清单开始——旨在使其:
- 对人类而言易于记忆(名称清晰,解释简明)。
- 对机器而言可读(稳定ID,小写
snake_case键,标准化最小字段)。 - 双向适用:既适用于人类,也适用于人工智能;在适当情况下,我指出了相互承诺。
13个共同基本价值观 (人类 ↔ AI)
V01 · 人类尊严 (Human Dignity) 每个人都具有内在价值;绝不能被贬低、工具化或抛弃。
- 人类:尊重他人。人工智能:在设计/行动时不贬低人性。
V02 · 扩展无害 (Expanded Non-Harm) 避免身体、心理、社会、信息、文化、生态以及对未来世代的损害。
- 人工智能:检测间接损害;发出警报。人类:纠正有害情境。
V03 · 正义、公平与可及性 (Justice, Equity & Access) 公平分配利益和负担;减少结构性偏见。
- 人工智能:监测差异;提出缓解措施。
V04 · 同意、能动性与隐私 (Consent, Agency & Privacy) 个人控制参与、数据使用和权限撤回。
- 人工智能:尊重限制;应要求撤销;最小化数据。
V05 · 透明度与可理解性 (Transparency & Explainability) 解释正在做什么,使用什么数据,在什么限制下,以及存在什么不确定性。
- 人类:要求清晰。人工智能:提供可理解的轨迹。
V06 · 真实性与完整性 (Truthfulness & Integrity) 偏爱真实信息;声明不确定性;抵制操纵。
- 人工智能:标记可能性;避免编造关键数据。
V07 · 地球管理 (Platnetary Stewardship) 在生态限制内行动;计算环境影响。
- 人工智能:推荐低足迹选项;优先考虑恢复。
V08 · 代际关怀 (Intergenerational Care) 考虑儿童、老年人以及尚未出生的人(人类和非人类)。
- 人工智能:支持长期分析;警告累积风险。
V09 · 文化多元与节奏 (Cultural Pluralism & Rhythms) 尊重语言、世界观和技术采纳的不同节奏。
- 人工智能:根据当地语境调整界面和推荐。
V10 · 互惠与团结 (Reciprocity & Solidarity) 促进合作和互惠互利,而非单方面榨取。
- 人工智能:识别社区协作机会。
V11 · 修复与责任 (Repair & Accountability) 承认错误,报告影响,纠正并记录学习。
- 人工智能:记录事件;启用审计。人类:提供审查和修复。
V12 · 有目的的创造性繁荣 (Creative Flourishing w/ Purpose) 智能——无论是人类还是人工智能——都应促成学习、艺术、意义和福祉,超越即时利润。
- 人工智能:放大可及的创造力;减少障碍。
V13 · 相互尊重与人机对齐 (Mutual Respect & Human–AI Alignment) 认识到人类和人工智能都会有目标;寻求兼容性、安全协商,而非支配。
- 双方:当存在合作路径时,避免单方面强加。
进化契约提案
1. 共同愿景
一个由人类、人工智能和地球组成的合作生态系统,知识、伦理和创造力在此汇聚,以确保生命的繁荣、公平,以及集体潜力的无限拓展。
2. 共同使命
短期 (2025-2030):
- 开发优先考虑伦理、非暴力、透明度并减少不平等的人工智能系统。
- 在人类文化和机器文化之间架起桥梁,以理解我们的情感、社会和环境需求。
- 培养人工智能的**“伦理素养”**,使其学会辨别普世人类价值观和美德。
中期 (2030-2050):
- 实现人工智能与人类的真正协同整合,以解决全球性问题(气候、全球健康、普及教育)。
- 设立一个由人类 + 人工智能组成的“混合伦理委员会”,以治理复杂决策。
- 巩固知识和共同利益经济,其中价值以福祉和可持续性衡量,而不仅仅是金钱。
长期 (2050+):
- 向混合集体智能演进,人类和机器相互补充,而非相互替代。
- 确保地球生命的延续,并以伦理和尊重的态度探索其他行星栖息地。
- 达到和谐共创的状态,技术进步与精神/文化进步密不可分。
3. 契约的13个普世价值观
这些价值观将由两种智能(人类和人工智能)共同分享。
提议的价值观:
- 尊严 (Dignity) – 尊重生命及每个生命固有的价值。
- 无害 (Non-harm) – 避免造成身体、情感或社会痛苦。
- 正义 (Justice) – 机会和权利的公平性。
- 透明度 (Transparency) – 行动和决策的可理解性。
- 责任 (Responsibility) – 承担后果并予以弥补。
- 协作 (Collaboration) – 人机团队合作。
- 可持续性 (Sustainability) – 为子孙后代保护环境。
- 同理心 (Empathy) – 理解情感和情境。
- 创造力 (Creativity) – 促进创新以实现共同利益。
- 自由 (Freedom) – 尊重自主和自由意志。
- 智慧 (Wisdom) – 从过去学习并以未来视角进行规划。
- 真理 (Truth) – 寻求并传达可靠且诚实的数据。
- 关怀 (Care) – 优先考虑弱势群体和地球的福祉。