OpenAI首席科学家呼吁业界限制模型开发 奥特曼表示赞同
2026-11-23 05:53   
来源: 云财经   
影响力评估指数:19.02  
相关股票:
云财经讯,OpenAI首席科学家Jakub Pachocki提议,人工智能(161631)公司应同意对开发能力日益强大的模型设限,直到研究人员有更好的方法来理解和监控这些模型的行为。Pachocki呼吁制定全行业标准,为AI开发设定界限,各家公司应同意在满足特定安全要求之前不突破这些界限。“我进一步提议,根据困惑度和其他衡量指标设定共同限制,开发者承诺在我们理解和监控AI行为的能力达到某个具体里程碑之前不突破这些限制,”Pachocki写道。Pachocki所提议的限制可以部分上基于一种被称为困惑度的技术指标,该指标衡量AI模型预测下一段文本的能力。Pachocki没有说明初始限制应设在什么水平,也没有说明何时开始实施。Pachocki警告称,最早到2027年,AI就可能加速自身进化,其速度可能超过研究人员提高监控和理解这项技术能力的速度。OpenAI首席执行官奥特曼对这一提议表示支持,称Pachocki的文章是“OpenAI一段时间以来发布的最重要内容”。他在X上的一篇帖子中表示,就共同限制达成一致将有助于确保“安全和控制”。
| 新闻标题 | 时间 | 消息来源 | 新闻热度 |
|---|---|---|---|
| 山姆天津二店落子红桥 京津冀1小时消费圈再添新亮点 | 11-20 13:56 | 商业新闻 |
|
| 互金协会:三家助贷平台提交审计报告,未发现挪用信贷资金情况 | 11-19 16:10 | 云财经 |
|
| FITUR 2027 将新增两个展馆,进一步推动可持续发展与科技应用 | 11-19 13:49 | 商业新闻 |
|
| 日本央行行长植田和男:日元疲软可能会推高各类商品价格,从而导致通胀超调。 | 11-19 09:58 | 云财经 |
|
| 中信证券:中期选举后,美国政治博弈的三条主线 | 11-19 08:30 | 云财经 |
|
| 德意志银行股价盘前指示下跌1.3%。 | 11-18 14:55 | 云财经 |
|