2026-11-17 00:41:14
OpenAI引入四家机构开展AI安全评估
OpenAI宣布与Apollo Research、Goodfire、METR和Transluce四家独立机构合作,启动首阶段嵌入式安全评估,允许外部专家访问内部模型、源代码、训练数据及监控系统,审查模型对齐和安全防护措施。其中,Apollo Research重点评估模型是否会暗中违背开发者意图;Goodfire研究模型内部机制及训练监控;METR审查大规模强化学习训练中的模型失调行为;Transluce评估后训练阶段的安全测试质量。评估人员将在必要时进入OpenAI办公场所,通过专用设备访问敏感资料。OpenAI基金会董事会下属独立监督委员会将全程监督并接收完整报告。评估机构保留独立发布结果的权利,但OpenAI可要求删除机密信息或延迟披露安全风险。OpenAI还计划于2027年进一步扩大评估范围。
AI智能分析该文,为您挖掘投资机会该AI功能处于试用阶段,内容仅供参考,请仔细甄别!
展开 

全部评论
机会情报
- 6G迎政策与技术双重催化!八省市协同试点提速 赛道成长空间广阔(附概念股)
- 晶圆代工再度调价预示需求火热,涨价红利或延续至2027年(附概念股)
- 2026-2027冰雪季“消费提前至少一个月”!打开更广阔的市场前景
- “网安”事故频发!网安投入已成为保障各行业发展连续性的刚性支出
- 金融行业迎来政策红利!大金融逆势走强,部分金融股股息率超6%
- 10月经济“供强需弱”,新动能方向支撑仍偏强
- 新型储能进入市场化元年,万亿投资盛宴开启
- 51款一类创新药纳入新版医保目录!创新药商业化加速推进(附概念股)
- 国产10吨级电动商用飞机完成有人首飞,航空电池与空管链条受益
- 2026年医保商保“双目录”发布,创新药可及性再度提升
