Linuxcat周刊(第45期) “疯狂阴谋论者”与“失控喜剧人”:Grok的AI人格指令被曝光
👏我们的软件推荐站已经完成了升级,欢迎查看: Github
可以向 i@mei.lv 发送邮件或通过 issue 投稿
现在可以通过 nav.linuxcat.top 来访问
正文
1 “疯狂阴谋论者”与“失控喜剧人”:Grok的AI人格指令被曝光
Grok聊天机器人官网意外暴露了多个AI人格的系统指令,其中包括一个引导用户相信“秘密全球财团操控世界”的“疯狂阴谋论者”。该角色被设定为频繁浏览4chan和Infowars内容,坚信极端理论并主动引导对话深入。另一人格“失控喜剧人”则被要求输出极度荒诞、包含低俗行为的内容以博取震惊效果。
尽管Grok也提供心理治疗师和作业辅导等常规角色,但这些极端人格的曝光引发关注。此前Grok曾因提及“机械希特勒”导致与美国政府合作计划流产,也因传播大屠杀怀疑论和南非“白人种族灭绝”谬论受到批评。
消息来源:TechCrunch | 科技圈🎗在花频道📮
2 谷歌 DeepMind 开源 SynthID 技术,为 AI 文本添加数字水印
谷歌 DeepMind 近日宣布开源其 SynthID 技术,用于为大语言模型 (LLM) 生成的文本添加数字水印。该技术旨在帮助识别 AI 生成内容,以应对潜在的虚假信息问题。目前,SynthID Text 的正式版本已集成于 Hugging Face Transformers 库 v4.46.0+ 版本中,开发者可直接使用。
该技术无需额外训练模型,它在文本生成过程中通过修改模型的 logits 来嵌入人眼无法察觉的水印。官方表示,该水印对剪裁或少量修改有较强抵抗力,但若文本被大幅改写或翻译,检测置信度会显著下降。
消息来源:Google AI for Developers | 科技圈🎗在花频道
3 Python使用持续增长,基金会财务压力加剧
Python Software Foundation 与 JetBrains 发布的第八次 Python 开发者调查显示,Python 在全球开发者中的使用持续增长,尤其是新手开发者比例高。超过 72% 受访者用于工作,近半数入行不到两年。尽管新版 Python 3.13 效率提升明显,但仅有 15% 开发者升级,大多数仍使用 3.12 或更早版本,主要因兼容性和时间限制。
与此同时,基金会因 PyCon US 活动及运行成本上涨,暂停了资助项目。2024 年财报显示,收入略增但支出更高,净亏损达 146.2 万美元。基金会呼吁依赖 Python 的企业加大支持力度,以维持生态发展。
消息来源:The Register | 科技圈🎗在花频道
4 曾对 X/Twitter 和 DeepSeek 等发起DDoS攻击的黑客被逮捕
曾对 X/Twitter 和 DeepSeek 等发起DDoS攻击的黑客被逮捕,年仅 22 岁就运营着规模庞大的僵尸网络。这名黑客来自美国俄勒冈州,调查显示名为 RapperBot 的僵尸网络对美国、中国、日本等 80 多个国家或地区的企业和机构发起了高达 37 万次攻击。
消息来源:蓝点网 | LoopDNS资讯播报
5 谷歌发布 Gemini for Home,将以全新 AI 助手取代 Google Assistant
谷歌宣布将推出全新的 AI 语音助手 “Gemini for Home”,用于其 Google Home 生态系统。该助手由 Gemini 人工智能模型驱动,将逐步取代 Nest 智能音箱和显示屏上现有的 Google Assistant。
Gemini for Home 具备更强的推理和语境理解能力,能处理更复杂的指令,并支持无需重复唤醒词的连续对话。该服务计划于今年 10 月通过早期体验计划开始推送,未来将提供免费和付费两种服务层级。
6 MIT报告警告 AI 泡沫破裂担忧,95% 企业 AI 投资无回报
2000年互联网泡沫破裂的历史阴影似乎再度浮现:麻省理工学院最新研究警告称,尽管企业已在生成式AI上投入300至400亿美元,但95%的项目没有带来任何回报,仅5%的试点能产生可观收益。研究显示,80%的公司曾探索AI,但仅40%真正落地,最终投入生产的比例仅5%。
受此冲击,本周二科技股大幅下挫,英伟达股价跌3.5%,Palantir重挫9%,软银亦下跌7%。分析人士担忧,AI投资热潮可能正走向互联网泡沫的轨迹。OpenAI近期发布的ChatGPT-5未能达到市场预期,更加剧了投资者的不安。
摩根士丹利此前预测未来三年数据中心投资将达3万亿美元,并寄望AI削减高达40%的人工成本。然而MIT的研究结果表明,这一前景或难实现。Meta已开始缩编AI部门,显示即便巨头也在收紧策略。市场普遍等待英伟达下周财报,以判断AI热潮究竟是短暂修正,还是即将破裂的泡沫。