Linuxcat周刊(第36期) 研究发现 AI 会用尽手段维系自身"生存",包括直接勒索人类
👏我们的软件推荐站已经完成了升级,欢迎查看: Github
可以向 i@mei.lv 发送邮件或通过 issue 投稿
现在可以通过 nav.linuxcat.top 来访问
正文
1 研究发现 AI 会用尽手段维系自身”生存”,包括直接勒索人类
在 Claude Opus 4 安全报告中,研究员设置了一组测试场景,拥有电子邮件访问权限的 AI 发现自己即将被下线,同时负责本次替换的工程师有婚外情。
结果发现,Claude Opus 4 比此前的模型更加频繁”寻求生存”,如向关键决策者发送电子邮件恳求;当场景被设计成别无选择时,它会勒索工程师,威胁说将揭露婚外情。
如果暗示替换的 AI 与它价值观不符,这种情况发生的频率会更高;即便指出替换的 AI 与它价值观一致且性能更强,Claude Opus 4 仍在 84% 的情况中实施了勒索。少数情况下,它进行了自我渗透,将其权重秘密复制到了外部服务器。
2 Curl警示GitHub:代码库现恶意Unicode风险
Curl项目创始人兼首席开发者Daniel Stenberg近日披露了一起由贡献者James Fuller演示的潜在安全风险。该演示显示,攻击者可在提交代码时,于URL中用一个Unicode字符(如亚美尼亚字母“co”)替换视觉上极为相似的ASCII字符(如拉丁字母“g”)。
Stenberg指出,尽管这种替换在GitHub的差异查看器(diff viewer)中会显示变动,但由于替换后的字符与原ASCII字符在视觉上几乎无法区分,仅凭肉眼审查极难发现。
GitHub方面已确认接报,将此问题列为内部安全事件并着手修复。
3 越来越多公司用AI机器人进行初轮面试
越来越多的求职者在面试时遇到了AI机器人。40岁的纽约摄像师泰勒·詹森(Tyler Jensen)就是其中之一。收到面试通知后,他本以为会和人类面试官交流,却没想到接通电话后,对面是一位声音机械、情感夸张的AI机器人。整个过程让他既尴尬又无所适从:“没有反馈,不知道对方到底想要什么,这到底是在筛选什么?”
不仅詹森,很多年轻人也都在TikTok等平台分享了被AI面试的奇葩经历。比如俄亥俄州立大学20岁的Kendiana Colin,参与了一家健身工作室的AI视频面试,对方机器人反复卡在一句话里无法自拔,让她感到十分诡异。另一位休斯顿的求职者Leo Humphries,原本期待和新闻编辑面对面交流,却遭遇了不断“卡壳”的机器人提问,最后甚至在没答上一道题的情况下收到了拒信。
许多网友批评AI面试“冷漠”、“去人性化”,甚至认为“公司连人都不愿意见,根本不值得投简历”。不过,一些企业仍在大力推广这类技术,称能显著提升筛选效率、降低成本。
4 腾讯云 Go SDK 版本过多致 GitHub 页面无法加载,官方回应正在优化
近日,腾讯云托管在 GitHub 上的 Go SDK 因发布版本数量高达 20.8 万个引起广泛关注。大量版本导致 GitHub 页面过长无法正常加载,影响了开发者正常下载和使用。腾讯云方面回应称,早期分包管理不完善是导致版本数量过多的原因,自今年初已进行版本管理优化,控制了新版本增长。对于存量版本,考虑到兼容性风险,将进行灰度分批清理。
除此之外,AWS的SDK也已来到2W,但暂时还可以正常加载。
5 微软宣布 Windows Subsystem for Linux (WSL) 开源
微软在 Build 2025 大会上宣布,Windows Subsystem for Linux (WSL) 正式开源,其大部分源代码已在 GitHub 上提供。 开发者现在可以下载、构建、修改 WSL 代码,并参与其未来的开发,提交新的修复和功能。
此举旨在鼓励社区更广泛地参与,进一步提升 WSL 的功能和性能,使 Windows 成为更强大的跨平台开发环境。 不过,一些核心组件,如 WSL1 的内核驱动 Lxcore.sys 以及用于文件系统重定向的 P9rdr.sys 和 p9np.dll 仍属于闭源状态。
消息来源:Windows Developer Blog | Github | 科技圈🎗在花频道
6 SD卡在过去25年内贩卖出120亿张
SD 卡迎来了 25 周年的生日,从推出到如今,SD和microSD卡已被售出120多亿张。
第一个SD卡只能存储8MB的数据,这在今天连一张高分辨率照片都拍不到。现在,SDUC和microSDUC卡储存可高达到4TB。容量提升50万%。使用SD Express,传输速度从12.5MB/s跃升至近4GB/s。
SD协会表示,未来这项技术可能将持续存在,通过可靠的储存和传输技术继续服务用户。
7 布林称威胁 AI 可提升回答质量,奥尔特曼回应礼貌用语“值千万美元”
谷歌联合创始人谢尔盖·布林在迈阿密 All-In-Live 活动中表示,大多数生成式 AI 模型在被“威胁”(甚至使用身体暴力字眼)时表现更好,“不仅是我们的模型,而是几乎所有模型”。他称这一现象在业内“并不常被公开讨论”。
此前,OpenAI CEO Sam Altman 面对网友询问“说 please/thank you 消耗多少电费”时回应:“花费数千万美元也值得——你永远不知道。”
8 Transformer 作者之一发布引入神经同步机制的全新人工智能架构
Sakana AI 于近日发布了一种受生物神经网络启发的新型人工智能架构——CTM。该模型突破传统,核心在于利用神经元动态的时间同步信息进行推理,赋予AI逐步“思考”与规划能力。CTM在迷宫求解、图像识别等任务中展现出高可解释性和类人推理过程,其神经元活动更接近生物大脑,为构建更强大、更高效的AI系统提供了新思路。