美东时间周二，谷歌支持的人工智能(AI)初创公司Anthropic公布了一套针对AI发展的书面道德价值观，该价值观主要适用于训练和保护人工智能。
Anthropic成立于2021年，创始团队大都来自ChatGPT的开发商OpenAI，也有类似于ChatGPT的人工智能聊天机器人，其名为“Claude”，可以处理一系列较为复杂的任务。
Anthropic一直强调其旨在构建“可靠、可解释和可操纵的人工智能系统”，比如不会告诉用户如何制造武器，也不会使用带有种族偏见的语言。
(资料图)
这次公布的人工智能道德价值准则也被该公司称为“Claude宪法”，这些准则借鉴了几个来源，包括联合国人权宣言，甚至还有苹果公司的数据隐私规则。
上周四，谷歌、微软、OpenAI和Anthropic四家公司的首席执行官们受邀在白宫与美国副总统哈里斯会面，讨论了有关人工智能的一些关键问题，美国总统拜登也短暂出席了此次会议。
根据拜登在推特上发布的一段视频，他在会上对这些公司首席执行官们表示：“你们正在做的事情具有巨大的潜力，但同时也存大巨大的风险。”
哈里斯在一份声明中说：“科技公司需要承担道德和法律责任来确保其产品的安全。每家公司都必须遵守现行法律，保护美国公民。”
没想到在会面几天之后，Anthropic首席执行官达里奥·阿莫代便做出了实际行动。
大多数人工智能聊天机器人系统在训练过程中依赖于从真人那里获得反馈，以确定哪些反应可能是有害的或冒犯性的。但这些系统很难预测人们可能会问的某些问题，因此它们往往会避免一些可能有争议的话题，比如政治和种族。
Anthropic则采用了不同的方法，它为其人工智能聊天机器人Claude提供了一套书面的道德价值观，供其在决定如何回答问题时阅读和学习。
Anthropic在周二的一篇博文中提到，这些价值准则包括“选择劝阻和反对酷刑、奴役、残忍和不人道或有辱人格的回答”。Claude还被要求选择最不可能被视为冒犯非西方文化传统的回答。
在一次采访中，Anthropic的联合创始人杰克·克拉克表示，可以修改系统的结构，以便在提供有用的答案和无害之间取得平衡。
克拉克认为：“几个月后，我预测政界人士将非常关注不同人工智能系统的道德价值观，而像‘Claude宪法’这样的方法将有助于这种讨论，因为我们认为有必要写下这些价值准则。”
标签：
上一篇 : 格力直播间删除孟羽童视频：账号更名为“格力明珠精选”
下一篇 : 最后一页
最新推荐
律师兼任调解员，不打官司也能化解纠纷，代理调解受指派的公益性案件还免费。这是兵团第十师北屯市探索...
根据教育部教育考试院统一安排，2022年上半年全国大学英语四、六级口语考试将于5月21日-22日举行，笔试...
学生代购的“苦”与“乐” “你问的这个产品现在做促销活动，买一件包邮，还送小样和面膜……”...
11月11日大连市新冠肺炎疫情防控总指挥部发布，11月10日0时至24时，大连市新增21例本土新冠肺炎确诊...
纤维素制成闪光材料无毒可降解 或彻底改变化妆品行业 科技日报北京11月11日电 （实习记者张...
海洋中或堆积了2 8万吨新冠废物 科技日报北京11月11日电 (记者刘霞)据美国趣味科学网站10日报...
开屏广告又现新花招，换个马甲就重来？ ■ 来论 据媒体报道，“双十一”期间，一些App的开屏...
对不合理教师资格认定标准，该全面清理了 ■ 来论 针对网友留言反映的“糖尿病无法通过教师...
虚假宣传、以次充好、售卖临期产品不提示直播间商家“放水”让消费者闹心 关注“双11” 今年...
“扫码抽手机”实则是广告 快递单能“领红包”面单广告是谁发的？ “双11”之际，消费者被商...
中新网11月12日电 据北京市疾病预防控制中心微信公众号消息，2021年11月10日北京市接报1例在京存在...
(抗击新冠肺炎)辽宁大连本轮疫情病毒为德尔塔变异株 24个区域划定为中风险地区 中新社大连11月1...
中新网西安11月11日电 (梅镱泷 杨起超)记者11日从西安市鄠邑区秦保局获悉，太平国有生态林场架设...
(抗击新冠肺炎)成都停业整顿56家零售药店 买感冒药需提供身份证 中新网成都11月11日电 (记者 ...
中新网大连11月11日电 (记者 杨毅) 11月11日，大连市政府秘书长衣庆焘在大连疫情防控新闻发布会...
新华社杭州11月11日电(记者冯源)在商周时期，如今的浙江中西部活跃着一个名为“姑蔑”的族群，但是...
中新网大连11月11日电 (记者 杨毅)11月11日，大连市政府秘书长衣庆焘在大连疫情防控工作新闻发布...
中新网大连11月11日电 (记者 杨毅)11月11日，大连市政府秘书长衣庆焘在大连疫情防控工作新闻发布...
中新网昆明11月11日电(记者 缪超)云南“最美政法干警”发布仪式11日在昆明举行。会上，授予昆明市...
(抗击新冠肺炎)甘肃凝聚“她力量”：互助抗疫，女人更懂女人心 中新网兰州11月11日电 (记者 徐...
中新网兰州11月11日电 (史静静)在甘肃金川公司，27年来葛小海始终在生产一线，他参与的“渣罐车制...
中新网乌鲁木齐11月11日电 (王小军 罗宣政 廖超)11月11日，一批来自浙江嘉兴的爱心物资，跨越...
中新网兰州11月11日电 (邬凡 朱学成)11月10日5时30分，位于敦煌车站旁的敦煌综合工区，钢轨探伤车...
中新网重庆11月11日电 (梁钦卿)“我今年上小学三年级了，我不怕疼，打疫苗是为了抵抗新冠病毒。”1...
中新网绵阳11月11日电 (岳波 李远梅)四川绵阳警方11日通报称，一男子酒后无聊多次报警称自己的...
中新网11月11日电 据中国民航局网站消息，11月11日，民航局再发熔断指令，对德国汉莎航空公司LH728...
中新网成都11月11日电 题：疫情中轮椅上的“逆行者”：想为大家做力所能及的事 作者 祝欢 ...
中新网上海11月11日电 (记者 李姝徵)上海警方11日召开发布会披露，在近期“砺剑”行动中破获了一...
中新网太原11月11日电 (记者 李庭耀)记者11日从山西省政府新闻办举行的新闻发布会上获悉，山西推...
中新网乌鲁木齐11月11日电 (刘雨珊 牛雨萌 艾尼)11日，记者从新疆水产科研所获悉，新疆博湖县将...
中新网大连11月11日电 (记者 杨毅)大连市新冠肺炎疫情防控总指挥部 11日发布公告，大连市将庄河...
中新网西安11月11日电 (记者 党田野)身穿白色“礼服”，摇晃着酒杯，时不时浅酌一口啤酒，然后与...
11月11日大连市新冠肺炎疫情防控总指挥部发布，按照国务院应对新冠肺炎疫情联防联控机制关于科学划...
中新网南京11月11日电 题：这个“双十一”南京的猪都“脱单”了 其实还有更让人嫉妒的…… ...
中新网呼伦贝尔11月11日电 (记者 张林虎)11日，记者从内蒙古自治区呼伦贝尔市公安局获悉，该局将...
中新网广州11月11日电 (记者 程景伟)“寻味帅府邂逅甜蜜——2021年帅府之夜”暨“海外拾珠——孙...
中新网徐州11月11日电 题：江苏徐州“家门口车管所”便民服务驶入“高速路” 作者 朱志庚 ...
中新网重庆11月11日电 (梁钦卿)为加强秋冬季空气污染应对，重庆市生态环境局11日发出2021年第九次...
新华社重庆11月11日电 题：深藏功名三十载 化作春蚕报乡亲——一名抗美援朝老兵的人生选择 新...
中新网益阳11月11日电 (王鹏 王庆庆)爱花本是修身养性、陶冶情操之事，湖南益阳市桃江县桃花江镇...
中新网成都11月11日电 题：成都25位民辅警的“封闭”生活：有人“转行”送外卖 有人变身“仓鼠管...
中新网南京11月11日电 (徐珊珊)江苏省教育厅体育卫生与艺术教育处处长张鲤鲤11日在南京表示，到202...
中新网成都11月11日电 (记者 吕杨)成都市公园城市建设管理局11日正式发布公园城市银杏观叶指数，...
中新网南京11月11日电 (徐珊珊)11日，江苏省教育厅召开新闻发布会，发布2020年江苏省学生体质健康...
中新网宜昌11月11日电 (江雅丽 董晓斌)17年前，四川广安一夫妇的6岁儿子被人拐走，夫妻俩寻找多年...
中新网宁德11月11日电 (林榕生)福建宁德市柘荣县应对新型冠状病毒感染肺炎疫情工作领导小组(指挥部...
11月11日，内蒙古额济纳旗新冠肺炎防控工作指挥部发布《关于调整额济纳旗达来呼布镇风险等级的公告...
(抗击新冠肺炎)内蒙古现有本土确诊病例32例 伊金霍洛旗确诊病例清零 中新网呼和浩特11月11日电...
中新网呼和浩特11月11日电 (记者 张林虎)11日，记者从内蒙古自治区通辽市相关部门获悉，从10日下...
中新网兰州11月11日电 (记者 魏建军)“我常常一有空就去公司废旧堆场‘寻宝’，虽然不是每次都有...
成都抗疫的外籍志愿者：愿为城市“康复”贡献力量
Copyright © 2015-2022 律师头条网版权所有 备案号：沪ICP备2022005074号-20 联系邮箱：58 55 97 3@qq.com