OpenAI CEO要求监管AI,还提出三点方案,美议员:没见过这么主动的
作者:啊哈哈哈 来源:08论坛 时间:2025-02-12 09:35:20
Sam Altman,作为OpenAI的CEO你赚了很多钱吧?
就在昨晚,这段对话发生在美国华盛顿一场听证会。
Sam Altman与IBM副总裁Christina Montgomery、纽约大学名誉教授Gary Marcus一同出席作证。
讨论的核心问题在于,ChatGPT与其他AI技术的风险。
与过去的其他科技公司高管不同,Altman表示非常欢迎对AI进行监管。
议员们的态度也与过去大不相同,减少了批评和刁难,像是真的在征求三位证人的意见。
听证会开始,参议员Richard Blumenthal作开场白,阐述了AI造成虚假信息扩散、社会不平等加剧等潜在风险。
但坐在**台的Blumenthal,嘴却一直紧闭。
这是一段录音,文本由ChatGPT生成,声音由AI软件合成,听起来与本人几乎一致。
有围观网友表示:议员们这次居然认真准备了,这很难得。
录音结束后,真正的Blumenthal补充道,虽然ChatGPT这次表达地和他本人观点一致,但同样的技术也可以轻松合成虚假消息,“那将非常可怕”。
Altman在证词中也表示,AI可能被用于操纵舆论也是他最担心的问题之一,特别是明年将举行大选。
在场的其他参议员还指出,由少数科技公司主导是人工智能市场的另一大风险,OpenIAI与微软合作便是一例。
对于像OpenAI这样的AI公司应如何被监管,Altman准备了三条方案:
成立一个新的部门,负责为AI大模型颁发许可,并拥有撤销许可的权力。为AI模型创建一套安全标准,对危险性做评估,包括它们是否能够“自我复制”、“逃出实验室自己行动”。要求独立专家对模型的各种指标做独立审计。华盛顿邮报认为,方案中明显缺少对训练数据的披露,而这也是一同出席的Marcus一直呼吁的。
对于OpenAI是否会进入广告业务,Altman表示不排除这种可能性。
有议员担心基于广告的商业模式会让AI重蹈社交媒体的覆辙,发展出操纵用户的产品和令人上瘾的算法。
一同作证的IBM副总裁Montgomery认为,AI发展不能像Facebook的口号那样“迅速行动、打破常规(move fast and break things)”,但也不必对创新猛踩刹车。
Altman与Montgomery都反对暂停人工智能开发。
对于AI造成的失业问题,两人观点也一致,认为AI会减少一些工作岗位,但也会创造新的。
Marcus则一如既往对“OpenAI声称为了造福全人类,但与微软形成商业联盟”、“AI生成虚假信息”、“ChatGPT的训练数据不透明”等问题做出批评。
他形容AI为“像一只在瓷器店的公牛一样,强大、鲁莽且难以控制”。
Marcus提议成立一个像欧洲核子研究中心CERN一样的国际合作组织,专门研究AI安全问题。
这不是Altman第一次因AI问题来到华盛顿。
本月初他与其他科技公司CEO参加了白宫关于AI发展的一场讨论,本周一他还与60名议员共进晚餐并展示了ChatGPT的各种用法。
据在场的众议员Ro Khanna透露,Altman在晚宴上强调“AI是一种工具,而不是一种生物”,“能帮人完成具体任务,而不是整个工作”。
这次公开听证会结束后,Altman继续与议会AI核心小组举行闭门会议。
美国司法委员会知识产权部门也表示计划在未来两个月内举行多场听证会,讨论AI对版权和专利法带来的影响。
完整视频回放:https://www.youtube.com/watch?v=TO0J2Yw7usM
参考链接:[1]https://www.washingtonpost.com/technology/2023/05/16/ai-congressional-hearing-chatgpt-sam-altman/[2]https://www.bizjournals.com/sanjose/news/2023/05/16/mr-altman-goes-to-washington.html
“
更多资讯
热门文章
推荐对话
换一换- 人气排行
- 1 OpenAI CEO要求监管AI,还提出三点方案,美议员:没见过这么主动的
- 2 谷歌发现大模型「领悟」现象!训练久了突然不再死记硬背,多么痛的领悟
- 3 掘力计划第 20 期:Flutter 混合开发的混乱之治
- 4 中国算力网络铺开,竟是运营商走在前列?
- 5 AI性能基准测试从此有了「中国标准」!英伟达、谷歌可以试试这套算力卷
- 6 商汤首付56亿!上海建成亚洲最大AI“发电厂”,万亿参数大模型训练无压力
- 7 OpenAI提出的新摩尔定律怎样理解?中国隐藏算力巨头有话说
- 8 ChatGPT造孽!中国高校因它算力荒
- 9 争建AI算力中心热潮背后:谁在花冤枉钱?
- 10 ResNet孙剑何恺明等加冕未来科学大奖!旷视张祥雨成最年轻获奖人