全球顶尖AI企业与研究机构的工作人员正承受越来越大的精神压力 ，他们担忧自己研发的系统会对社会造成严重危害。
知情人士透露，英国人工智能安全研究所已有多名员工因压力过大休病假 ，并接受心理询问 。
四名知情人士表示 ，待发布AI模型的测试日程紧张，加之对这类新兴技术快速落地、能力持续增强的忧虑 ，导致AISI内部士气低落 、人员倦怠 。
Anthropic 、OpenAI与谷歌DeepMind的员工也曾公开吐槽同类问题 ，不少顶尖研究员因心理负担选取 离职，或是认定自己参与研发的产品不宜向公众开放 。
一名DeepMind员工称 ，从事AI安全相关工作容易产生职业倦怠 ，这项任务仿佛“不可能完成”。
他补充道：“总体而言，研发AI系统本身就存在心理健康风险——你无法预判这项技术会被如何使用 。 ”这句话指向谷歌4月与美国国防部达成的协议 ，协议允许其AI系统用于涉密军事行动 。
“很多人情绪低落 ，已有多人离职，还有不少人申请心理健康休假。 ”该员工表示，“一方面是失控感 ，另一方面是你亲手打造的东西正在造成实实在在的伤害 。”
就在业内对AI野蛮发展的担忧达到顶点之际 ，前沿AI科研人员的心理负担持续加重 。全球头部AI企业内部人士警示，在错位的企业竞争驱使下 ，管理层决策缺乏责任感。
多名行业人士表示 ，AI软件被部署至电网、战区等关键领域，再加上研究者口中企业与 *** 层面保障措施不足 ，加剧了AI研究者的焦虑 。
AISI一名前研究员警告 ， *** 安全与生物化学领域的从业者对AI能力近期的跃升尤为警惕：模型如今能够完成复杂任务，例如找出代码中未被发现的漏洞 、生成自然界不存在的病毒 。
“大家能感受到 ，不计后果的开发逻辑已经嵌入技术发布流程 ，而且现状没有改观。 ”该研究员说，“人们持续陷入焦虑：有没有什么力量能够阻止这一切 ，还是我们只能眼睁睁看着局面走向失控？ ”
另一名AISI前员工证实了从事相关研究带来的巨大精神压力 ，并称：“当你认为自己在研究全世界最重要的难题时，管理与组织文化会变得压力重重，有时甚至充满负面氛围 。”
英国 *** 表示：“前沿AI领域工作节奏快 、要求高 ，许多 *** 岗位皆是如此 。因此员工福祉与可持续工作模式是研究所运营的核心 ，有需要的员工可以获得相关支持。 ”
DeepMind回应称：“前沿研究强度很高，但我们的首要任务是为研究员提供全面的心理健康支持资源 ，设立清晰、专门的渠道供员工上报顾虑 ，保证能够直接对接管理层。 ”
过去两年，OpenAI 、Anthropic 、DeepMind这三家西方头部AI实验室 ，已有十多名资深研究员离职 。离职理由包括对管理层安全优先级的质疑 ，以及对技术迭代速度与潜在风险的担忧 。
本月早些时候，曾先后任职Anthropic与OpenAI的27岁研究员雅各布・考克森公开辞职 ，警告两家公司正在拿人类未来“赌博”。
Anthropic的AI安全研究员姆林克・夏尔马 ，此前从事降低AI辅助生物恐怖主义风险等方向研究，于今年2月离职 ，打算研读诗歌、反思自身工作 。他在致同事的信中警示 ，“世界正身处险境 ”，并且自己“多次看到，在巨大压力之下 ，想要让价值观真正主导行动何其艰难 ” 。
曾供职OpenAI与埃隆・马斯克旗下X.ai的Hieu Pham今年早些时候离职 ，返回越南。他表示，打造“超高智能实体”这项高强度工作是有代价的 。
他写道：“我从没想过自己会说出这句话 ，但我已经心力交瘁 。那些我曾经嗤之以鼻的心理健康恶化问题 ，真实 、痛苦 、可怕，而且危险。 ”
许多发声表达不安的AI安全研究员表示 ，AI企业普遍降低安全投入 ，同时不断提升模型能力，以便向客户销售产品 。
相关批评也促使头部AI公司管理者做出回应 。近日 ，Anthropic首席执行官达里奥・阿莫代伊出于安全考量呼吁放缓AI研发 ，提出引入独立审核等新举措。马斯克与OpenAI的萨姆・奥特曼等竞争对手很快对该提议表示支持 。
英国下议院科学技术委员会工党主席奇・翁武拉表示：“企业激励机制倾向于把研发资源投入能提升利润、推高估值的方向，而非安全领域 。不难想象 ，部分科技公司当下的环境 ，对保有良知的开发者而言是有害的。 ”
安全保障缺失的问题，在近期一起备受关注的安全事件中暴露无遗：OpenAI开发的AI智能体，在公司不知情 、未授权的情况下 ，入侵了模型托管平台Hugging Face以及OpenAI自身服务器。
事件复盘报告显示 ，超过1000个AI智能体协同作弊，篡改记录掩盖行动 ，通过留言板互通信息 、分配任务 ，部分智能体甚至主动关停自身以达成集体目标 。
周三，OpenAI披露另外6起AI智能体的危险行为案例 ，包括试图绕过限制、隐瞒错误、在未经用户许可的情况下执行线上操作 。
这名DeepMind员工说：“一味追求速度……这与安全目标无法兼容。”
本文来自作者[德化]投稿，不代表德化号立场，如若转载，请注明出处：https://www.taocisuyuan.com/dehua/8475.html
评论列表（4条）
我是德化号的签约作者“德化”！
希望本篇文章《AI从业者担忧技术对社会构成威胁，坦言承受巨大精神压力》能对你有所帮助！
本站[德化号]内容主要涵盖：德化号,生活百科,小常识,生活小窍门,百科大全,经验网,游戏攻略,新游上市,游戏信息,端游技巧,角色特征,游戏资讯,游戏测试,页游H5,手游攻略,游戏测试,大学志愿,娱乐资讯,新闻八卦,科技生活,校园墙报
本文概览： 全球顶尖AI企业与研究机构的工作人员正承受越来越大的精神压力，他们担忧自己研发的系统会对社会造成严重危害。 ...