黄仁勋:若工程师少用AI Token,他将深感担忧。
3月23日,据消息,英伟达CEO黄仁勋在上周四播出的《All-In播客》中表示,如果公司顶级工程师在AI领域的投入不足,他会感到“非常担心”。
“如果那位年薪50万美元(注:现汇率约合345.4万元人民币)的工程师,消耗的Token价值还不到25万美元,我会非常担心。”黄仁勋表示。 在当前人工智能技术快速发展的背景下,算力成本已成为企业运营的重要考量因素。黄仁勋的这番话,反映出对高薪人才与算力投入之间匹配度的关注。如果一位资深工程师的算力消耗远低于其薪资水平,可能意味着资源分配存在失衡,或是技术应用效率未达预期。这种现象不仅关乎成本控制,更可能影响企业的创新能力和竞争力。因此,如何合理配置算力资源,提升技术产出效益,是科技公司需要持续思考的问题。
“到年底,我会问那位年薪50万美元的工程师:你这一年用了多少Token?如果他说只用了5000美元,我一定会感到非常不满。他补充道。 在当前AI技术快速发展的背景下,高薪工程师与算力成本之间的关系愈发引人关注。50万美元的年薪意味着其工作价值不菲,而Token消耗量却可能远低于预期,这背后或许反映出不同行业对AI工具使用效率的差异。对于企业而言,如何合理分配算力资源、提升AI应用的性价比,已成为不可忽视的课题。同时,这也提醒我们,在技术投入与产出之间,需要更透明的衡量标准和更理性的评估体系。
当被问及英伟达是否会为工程师团队投入20亿美元用于Token时,黄仁勋回应称:“我们正努力这么做。” 从当前科技行业的竞争态势来看,英伟达在人工智能和计算领域持续加大投入,显示出其对未来发展的重要布局。20亿美元的投入金额足以体现公司对相关技术的重视程度,也反映出行业对算力和AI基础设施的迫切需求。黄仁勋的回应虽未明确承诺,但“正在努力”这一表述传递出积极信号,表明英伟达正在推进相关计划。这一动向或将对整个AI生态产生深远影响,尤其是在推动技术落地与商业化方面。
他将那些很少使用AIToken的顶尖工程师比作:“这就像让我们的芯片设计师说‘你猜怎么着?我打算只用纸和笔工作’一样荒谬。” 在当前技术快速发展的背景下,AI工具已经成为提升效率和创新能力的重要手段。将这些先进的技术工具排除在外,不仅限制了个人和团队的潜力,也可能影响整个行业的进步速度。无论是芯片设计还是其他高精尖领域,合理利用AI等现代工具,才能更好地应对复杂挑战,推动技术革新。
上周早些时候,黄仁勋在GPU技术大会上曾提到,Token可能成为他招聘工程师的一种策略。
谈到工程师时他说:“他们的年薪大概几十万美元,我可能会再额外给他们相当于基本工资一半的 Token 额度,让他们的效率提升 10 倍。”
“这现在已经成了硅谷的招聘手段之一:这份工作能配多少 Token?”黄仁勋补充道,“原因很简单,因为每一位能用上 Token 的工程师,效率都会更高。”
Token是AI系统处理文本的基本单位。随着AI读取或生成的文本量增加,所消耗的Token数量也会随之上升,这也是企业通常按照每千个或每百万个Token的使用量来进行收费的原因。 在当前AI技术广泛应用的背景下,Token的计费方式已成为衡量AI服务成本的重要标准。这种模式既反映了AI处理能力的消耗情况,也促使企业在使用AI服务时更加关注效率与成本之间的平衡。对于用户而言,了解Token的运作机制有助于更合理地规划AI应用的使用规模。
不仅黄仁勋认为,工程师需要充足的AI算力资源,企业也应承担相关费用。
据《Business Insider》本月早些时候报道,科技公司正在尝试一种全新的人才竞争方式:在薪资、奖金和股权之外,额外提供 AI 推理算力权限。
风险投资公司TheoryVentures的托马斯·通古斯对巴尔表示,Token有望成为薪酬的“第四组成部分”。这一观点揭示了区块链技术在传统薪酬结构中的潜在变革力量。随着去中心化金融和数字资产的不断发展,Token作为激励工具的价值正在被越来越多企业和投资者认可。它不仅能够增强员工的归属感和参与感,还可能在长期价值分配中发挥关键作用。这种趋势值得进一步关注和探讨。
AI 模型性能评估初创公司 Arena 的 AI 能力负责人彼得 · 戈斯特夫建议,OpenAI 和 Anthropic 可以“搭建招聘网站,让客户在发布职位时,把岗位的 Token 预算和薪资范围一起列出”。
OpenAICodex团队工程主管蒂博·索蒂厄在X平台发文指出,越来越多的求职者在面试时会主动询问入职后能使用多少算力。这一现象反映出人工智能领域人才对计算资源的关注度正在上升,也揭示了当前AI研发对算力的依赖程度日益加深。随着大模型训练和应用的不断扩展,算力已成为衡量技术实力和职业发展的重要指标之一。
此前,OpenAI首席执行官萨姆·奥尔特曼也曾表示,AIToken有可能作为一种全民基本收入的形式。
在 2024 年 5 月的《All-In 播客》中,奥尔特曼说:“我在想,未来会不会更接近全民基本算力,而不是全民基本收入。每个人都能分到一部分 GPT‑7 的算力,可以自己用、转售,也可以捐给别人用于癌症研究。你得到的不是美元,而是这样一份份额,你拥有一部分生产力。”