编程客栈(www.cp编程客栈pcns.com)6编程客栈月29日 消息:关于人工智能社区在是否保持人工智能模型开放(并冒不良行为者滥用它们的风险)或选择闭源仅由少数科技巨头控制的问题,Hu编程gging Face 的首席执行官主张采取平衡的方法。
(资料图片仅供参考)
在国会听证会上,Hugging Face 首席执行官兼联合创始人克莱门特德兰格 (Clement Delangue) 表示,让人工智能更加开放“可以培养安全创新”。
德兰格在众议院科学、空间和技术委员会关于人工智能的听证会上发表讲话,他解释说,扩大机器学习模型和训练数据集的访问范围将使研究人员和用户“更好地理解系统、进行审编程计、降低风险并找到高风险”。
然而,这位互联网最大的人工智能模型库之一的CEjsO承认,完全开放的系统会导致不良行为者滥用,因此他主张将人工智能开放性和问责制结合起来。德兰格说:“我们有责任在人工智能研发的各个阶段优先考虑并记录我们的道德工作。”
Hugging Face 首席执行官认为,开放系统促进民主治理,增加访问权限,尤其是研究人员的访问权限,可以“帮助解决关键的安全问题”。
德兰格在证词中表示:“开放可以增强透明度并促进外部审查。人工智能领域目前由少数高资源公司主导,他们对新颖的人工智能系统(包括基于开放研究的系统)提供有限或不开放的访问权限。为了鼓励竞争并增加人工智能经济机会,我们应该让许多人能够参与进来,为扩大人工智能在有用应用中的进步广度做出贡献,而不仅仅是允许少数组织提高更强大模型的深度。”
OpenAI 等公司选择将 GPT-4等模型闭源,以免泄露其功能的底层信息。德兰格在国会作证时表示,所有人工智能模型、数据集和“人工智能系统的相关组件”都应该共享细节,以提高透明度。
Hugging Face 在其平台上拥有超过250,000个模型,其首席执行官认为,发布更多有关模型的文档将有助于减轻风险,因为用户和开发人员将能够了解如何衡量它们。
德兰格加入了人工智能初创公司 Anthropic 最近的呼吁,呼吁增加对国家标准与技术研究所的投资,以提高人工智能的透明度。
美国国家标准与技术研究院NIST 一直致力于制定人工智能标准,德兰格在证词中表示,该机构需要更多资源来帮助对抗人工智能偏见和风险。他说:“增加对 NIST 的资助既可以加强美国政府的技术领导地位,也可以改善跨部门研究人员合作解决人工智能风险的空间。”
德兰格还呼吁为美国国家人工智能研究资源 (NAIRR) 提供更多资金,并补充说,资源的扩大限制了“谁能够为创新研究和应用做出贡献”。
标签:
仓储物流“成渝圈”如何乘势而上? 12月3日,连接昆明和万象的中老铁路全线开通运营,被惠及的显...
两件西周青铜簋时隔三千年成功配对 考古工作者介绍,这个铜簋的盖、身分别时隔40余年出土,纹饰...
“医保砍价”不是一个人在战斗 晁星 “我眼泪都快掉下来了”“每一个小群体都不该被放弃”…...
“购物成瘾”真的是一种病 刘艳 牛雅娟 本周日即将迎来“双十二”促销季,很多人又开始摩拳...
因迷恋山间风景,一男子在甘孜州稻城县海拔4000多米的无人区迷失方向,随后与同伴失联。12月的稻城...
嫌疑人DNA信息比中后,成都市公安局刑侦支队技术处DNA实验室民警白小刚一下坐在凳子上,恍惚迟疑间...
一批反映南京大屠杀历史的新书发布 新华社南京12月7日电(记者邱冰清、蒋芳)“以史为鉴,开创未来...
我在现场·照片背后的故事|电影《亲爱的》里面没有的结局,在我眼前“上映” 12月6日,在深圳市...
冥想?泡脚?不如听听助眠音乐 晚上睡不着,白天睡不醒,成为最贴合都市人群的“睡眠画像”。随...
养老话题 老年教育面临缺口 “终身教育”潜力无限 【现实挑战】“新老年”群体愿意在培养兴...
孙海洋被拐14年儿子如何找到的? 警方侦办另一宗拐骗儿童案时发现线索,通过人像比对、DNA确认找...
北京天文馆、圆明园将对未成年人免费开放 12月6日,北京天文馆发布通知称,12月8日起试行对未成...
今年全国粮食总产量再创新高 连续7年保持在1 3万亿斤以上 根据对全国31个省(区、市)的抽样调...
斑块软的很危险 硬的就无碍? 血管里的“垃圾”分类 赶快学起来! 一项最新研究显示:中国...
诺西那生钠注射液大幅降价 聚焦医保谈判背后脊髓性肌萎缩症家庭 医保目录公布那天 好多家长都...
抖音“窗花剪剪”遭抄袭 被判获赔20万元 法院认为“窗花剪剪”的这种表达方式理应受到《著作权...
公安机关近日侦破3起拐卖儿童案件 失散十几年 3组家庭终于团圆了 北京青年报记者12月6日从公...
2021年度十大网络用语发布 本报讯(记者 路艳霞)作为年度“汉语盘点”活动最具网络特色的组成部...
北京天文馆向未成年人免费开放 本报讯(记者 牛伟坤)北京天文馆对票价免费及优惠政策作出调整:1...
2021北京百个网红打卡地发布 本报讯(记者 李洋)2021北京网红打卡地推荐榜单昨晚正式发布。自然...