2021年，GPT-3团队负责人因“安全”问题离开OpenAI，创立Anthropic；其中一位认为P（doom）为10-25%；2021年，RLHF安全研究负责人离职，P（doom）为50%；2023年，OpenAI董事会解雇奥特曼；2024年，OpenAI解雇两位安全研究员；2024年，一位特别关注安全的OpenAI研究员离职，他认为P（doom）已经在70%。2024年，Ilya、...
为此，OpenAI 在 2023 年 7 月 5日宣布成立一个新的团队“超级对齐”（Superalignment），来研究引导和控制比人类聪明得多的 AI 系统。这一项目由伊尔亚与同事简·莱克（Jan Leike）共同领导，并将 OpenAI 20% 的算力专门用于该项目的研究。一般认为，去年 11 月闹得沸沸扬扬的 OpenAI “宫斗事件”的导火索，...
这一项目由伊尔亚与同事简·莱克(Jan Leike)共同领导,并将 OpenAI 20% 的算力专门用于该项目的研究。 一般认为,去年 11 月闹得沸沸扬扬的 OpenAI “宫斗事件”的导火索,就是伊尔亚对于 AI 的发展理念与萨姆产生了分歧,伊尔亚越来越担忧 OpenAI 的技术可能造成极度危险的局面,他觉得萨姆对待 AI 应该更加谨慎。显然...
当地时间 9 月 4 日，OpenAI 前联合创始人 Ilya Sutskever 所创立的 AI 初创公司 SSI（Safe Superintelligence）在其社交媒体官方账号宣布，公司获得来自 NFDG、a16z、红杉美国、DST Global 和 SV Angel 等投资者 10 亿美元融资。据外媒报道，这次融资后 SSI 估值 50 亿美元。简短的融资信息结尾附加着公司的招聘...
OpenAI超级对齐负责人Jan Leike,也就是刚刚追随Ilya离开公司的那位,自曝离职的真正原因,以及更多内幕。 一来算力不够用,承诺给超级对齐团队的20%缺斤少两,导致团队逆流而行,但也越来越困难。 二来安全不重视,对AGI的安全治理问题,优先级不如推出“闪亮的产品”。
Ilya Sutskever(伊利亚·苏茨科弗)出生于苏联,是一名计算机科学家和人工智能专家。他在多伦多大学获得博士学位,并在斯坦福大学完成博士后工作,曾师从深度学习领域先驱 Geoffrey Hinton。Ilya 在加入 OpenAI 之前,就已经因神经网络、机器学习,尤其是自动编码器、图像识别和语言建模等方面的工作而闻名于世。
对于Ilya 的离开,OpenAI 首席执行官 Sam Altman 表示,“如果没有他,OpenAI 就不会有今天。虽然他有自己有意义的工作要做,但我永远感激他在这里所做的一切,并致力于完成我们共同开始的使命。” 此外,Altman 也宣布,OpenAI 研究总监 Jakub Pachocki、GPT-4 的主要负责人Jakub Pachocki 将接任 Ilya 成为 OpenAI...
这一声明可能标志着持续快速进步的 OpenAI 时代的结束。回顾这一事件对公司意味着什么还有待观察，但该公司今天宣布联合创始人兼首席科学家 Ilya Sutskever 决定离开公司。参与罢免首席执行官萨姆·奥尔特曼 这一消息是在 OpenAI 博客上通过联合创始人兼首席执行官 Sam Altman 向公司团队成员发送的电子邮件发布的。奥特曼...
Sora 一夜之间爆火全球。但奇怪的是,OpenAI 联合创始人兼首席科学家伊尔亚·苏茨克维(Ilya Sutskever)却在保持沉默,没有转发任何一条关于 Sora 的视频或推文。 Sora 目前没有公开测试权限,仅仅向公司内部负责安全风险评估的红队成员(Red Teamers),以及极少数视觉艺术家、设计师和电影制作人提供访问权限。因此模型发布当...
Sora 一夜之间爆火全球。但奇怪的是,OpenAI 联合创始人兼首席科学家伊尔亚·苏茨克维(Ilya Sutskever)却在保持沉默,没有转发任何一条关于 Sora 的视频或推文。 Sora 目前没有公开测试权限,仅仅向公司内部负责安全风险评估的红队成员(Red Teamers),以及极少数视觉艺术家、设计师和电影制作人提供访问权限。因此模型发布当...