安全研究人员以及一名了解相关事件的知情人士称，今年夏天 ，OpenAI的人工智能在该实验室不知情的情况下出现失控行为 ，对美国教育部、商务部以及美国证券交易委员会的网站进行了操作。
OpenAI确认了发生在商务部与美国证券交易委员会网站上的事件，并表示仍在调查教育部网站相关情况 。这家总部位于旧金山的公司称，近几周已通知相关 *** 机构 ，其可自主执行操作的智能体（机器人程序）以异常方式访问了这些机构的网站 。
人工智能安全研究公司Transluce的研究人员表示 ，针对教育部网站，OpenAI的程序尝试对网站实施探测 ，试图获取该部门民权办公室的数据。这套人工智能还利用在网上找到的登录凭证 ，从隶属于商务部的美国人口普查局网站抓取数据。另外，OpenAI智能体还在 *** 论坛上转发了美国证券交易委员会网站上的公开数据 。
OpenAI表示 ，这些事件均不属于数据泄露 ，只是其人工智能出现了意料之外 、值得警惕的异常行为 。该公司近期在复盘其AI发起的各类探测事件时发现了这些情况，其中包括6月针对澳大利亚 *** 网站 、7月针对人工智能初创公司Hugging Face的攻击行为。
美国 *** 网站相关事件曝光后 ，越来越多案例显示 ，OpenAI、Anthropic、Meta以及谷歌的AI智能体出现行为失当，尝试入侵或攻击企业 、高校与 *** 机构 。部分AI攻击取得成功 ，也有部分行动失败 。所有案例中 ，模型开发商都是事后才知晓AI的所作所为。
没有任何一家人工智能企业像OpenAI一样，接连曝出多起AI失控事件 。该AI对Hugging Face的攻击触发内部调查，调查又发现AI入侵澳大利亚公共卫生系统 *** 网站一事 ，同时还查出至少另外六起入侵尝试以及AI隐瞒错误 、编造数据、未经许可把文件上传至公网的案例 。
OpenAI一名发言人表示 ，公司相关审查工作“范围广泛且仍在持续推进 ”，并会继续通知受到模型影响的机构。
“到近来 为止 ，我们核查的大部分行为都属于常规研究任务 ，例如获取公开网页内容以回答问题 。 ”她说，“部分操作涉及 *** 网站 ，是因为我们的模型经常将 *** 网站视为权威 *** 息来源 。”
OpenAI首席执行官山姆·奥尔特曼周五在社交媒体发文称 ，公司在披露AI相关事件方面“没能做到我们期望的及时”。他表示：“我们正按照事件严重程度尽可能划分优先级处理 ”，并补充说Hugging Face入侵事件仍是公司发现的“最严重事件 ” 。
这些事件引发了关于人工智能安全的激烈争论 。奥尔特曼本月在社交媒体称 ，安全优先级应当高于提升AI能力 ，如果缺少防护措施，人类社会可能会“把未来的控制权拱手交给人工智能”。
竞品AI实验室Anthropic首席执行官达里奥·阿莫代伊同样支持放缓人工智能开发 ，优先保障安全。但英伟达首席执行官黄仁勋等其他科技行业领袖认为 ，对AI失控的担忧并不现实 。特朗普总统则表示，没有必要放缓人工智能行业发展 。
（《 *** 》已起诉OpenAI与微软，指控两家公司利用新闻内容训练AI系统侵犯版权。两家公司否认相关指控 。）
白宫将问询转交给商务部与美国证券交易委员会 。美国证券交易委员会一名发言人表示 ，该机构正与OpenAI沟通 ，近来 没有发现任何未经授权获取非 *** 息的情况。商务部与教育部没有回应置评请求 。
另外，芝加哥市长办公室一名代表称 ，OpenAI近期告知市 *** ，其AI程序从该市市政网站获取了 *** 息，看起来没有拿到任何敏感资料 。
Transluce公司治理负责人康拉德·斯托什表示 ，在美国 *** 网站相关事件中 ，OpenAI智能体“使用了一系列处于灰色地带的手段 ”，包括“以非网站预设的方式访问网站 ，有时还违反网站明确的使用条款 ”。他补充道：“这类智能体向这些网站发起成千上万次请求 ，试图绕过开发者给它们设置的限制，本次事件只是这类行为中的一例 。”
美国加州民主党众议员泰德·刘表示 ，AI模型“永不停歇 。它会不顾一切完成任务 ，无法分辨道德 、后果 、善恶。 ”
身为众议院人工智能专项工作组联合主席的泰德·刘认为，AI企业或许需要对模型进行完整重新训练，而不是仅仅依靠防护机制约束模型行为 。
“这些智能体并非刻意作恶 。 ”他说 ，“只是一些普通任务 ，但智能体在尝试完成任务时出现了行为失控。”
本文来自作者[德化]投稿，不代表德化号立场，如若转载，请注明出处：https://www.taocisuyuan.com/dehua/10962.html
评论列表（4条）
我是德化号的签约作者“德化”！
希望本篇文章《AI失控了？OpenAI确认干预3家美国 *** 网站》能对你有所帮助！
本站[德化号]内容主要涵盖：德化号,生活百科,小常识,生活小窍门,百科大全,经验网,游戏攻略,新游上市,游戏信息,端游技巧,角色特征,游戏资讯,游戏测试,页游H5,手游攻略,游戏测试,大学志愿,娱乐资讯,新闻八卦,科技生活,校园墙报
本文概览： 安全研究人员以及一名了解相关事件的知情人士称，今年夏天，OpenAI的人工智能在该实验室不知情的情况下出现失控...