被Ilya感谢过,被奥特曼誉为「爱因斯坦级的天才」,在OpenAI更是「想要什么就给什么」——
即便如此,去年12月,Alec Radford还是选择了离开。
直到昨天,他的去向才确定。
据Thinking Machine Lab官网更新,OpenAI前核心成员Alec Radford和Bob McGrew将担任公司顾问(Advisors)。
持续关注ChatGPT等AI产品的「光头哥」Tibor Blaho,得知消息后,追根刨底,确认在3月16日之前,两人均已入职。
幕后英雄:本科学历但创造出GPT
说起Alec Radford,大伙可能有些陌生,但他是ChatGPT幕后最大的功臣。
GPT开山一作:Alec Radford
如果说别人是「盛名难副」,Alec绝对是AI领域最被低估的研究者。
作为GPT-1、GPT-2和Whisper的第一作者,DALL-E、GPT-3、PPO、Scaling Law、RLHF的合著者,Alec Redford的作用没有得到充分的认可。
他的研究影响深远,只看谷歌学术引用就有22万!
去年,他离开OpenAI时,出乎众人意料。
回到2018年,当整个OpenAI都在研究强化学习或生成对抗网络时,只有Alec Radford在研究监督式Transformer。
当GPT展现出潜力时,他彻底扭转了OpenAI的发展方向,开启了个人的AI传奇之路。
有人说,Radford扮演的角色,如同谷歌创始人拉里佩奇发明了PageRank。
他内敛、低调,安心做研究,几乎很少露脸,也从未接受过任何采访。
a16z著名风投家Marc Andreessen曾高度评价他:
在2018年-2019年之间,他隐藏在人工智能的角落,默默地在自己的领域潜心研究。
正是这份坚持,最终改变了人工智能的发展轨迹。
但现实中,Alec几乎功亏一篑,距离功成名就只差阅读一篇好论文!
2016年,23岁的Alec Radford选择加盟OpenAI,这不仅仅改变了他的职业生涯,更为AI的发展掀开了崭新的一页。
在2017年,Alec埋头苦干、精心研究RNN,但是收效甚微。
入职OpenAI后,他开启的第一个实验是,用20亿条Reddit评论训练预言模型,以失败告终。
但在2018年ICLR上,开启GPT历史的Alec Radford的原始论文被拒了。
论文链接:https://arxiv.org/abs/1704.01444
和大多数人一样,他心情沮丧,萌生退意。
最终,他决定休息一个月,重新思考并调整方案。
回来后不久,幸运从天而降:Ilya向他推荐了Attention is all you Need。
当时,还只有少数人知道这篇如今名满天下的论文。
Radford的研究迎来质的飞跃,GPT时代就此开始。
Alec Radford制作的网络架构工程幻灯片
他和Ilya一起,创造了共有1.17亿参数的模型,并将其命名为「Generative Pre-trained Transformer」(GPT)。
但OpenAI从此,开始投入GPT系列的研究,开发的ChatGPT也成了最大的收入来源。
Bob McGrew:见证首个多模态GenAI
在AI领域,Bob McGrew是一位低调但关键的人物。
在Palantir工作了十年后,他加入了OpenAI,并担任首席研究官,帮助塑造了GPT-3、GPT-4以及「o1」模型。
他在OpenAI工作了快8年,其中6年4个月一直是首席研究官(Chief Research Officer)。
可以说,Bob一直是Alec的直接相关的高管。
这次二人携手加入Thinking Machine Lab。
在2017年,他加入了还是小型非营利组织的OpenAI,直到去年11月宣布离开OpenAI。
离开之前,他表示发布o1模型是对他在OpenAI工最好的「盖棺之作」,接下他需要休息,并逐步移交工作。
根据Semantic Scholar统计,Bob的总引用高达27K,在强化学习、语言模型上多有高引用文章。
在OpenAI,他与Ilya,Alec Redford等世界级研究员紧密合作,认为这些顶级人才的一个显著特点是毅力——
他们历经无数失败的实验,直到最终成功。
「Ilya初创翻版」:靠人才估值90亿
新公司Thinking Machines Lab由Mira Murati发起。
她是OpenAI的前CTO,邀请OpenAI联合创始人John Schulman担任首席科学家,而首席技术官则是ChatGPT的共同创始Barret Zoph。
媒体称Mira Murati在OpenAI崛起中扮演了关键角色
而且越来越多的OpenAI前员工,加入Thinking Machines Lab,担任重要职务。
网站上列出了38名创始团队成员,其中有19人曾在OpenAI工作,其中包括多名华人科学家。
在2月份,Murati的初创公司从隐身状态中揭开面纱,宣布公司目标是「通过扎实的基础、开放科学和实际应用,使AI的使用更广、更容易。」
据报道,这家初创公司计划筹集10亿美元,估值大约为90亿美元。
有消息称,Murati曾与风投洽谈,筹集超过1亿美元的资金。
目前,Thinking MachineLab没有明确的研究议程和产品路线图。
文章来自:51CTO