OpenAI CEO 详解 GPT-4与AI的未来

sowang

3月20日，OpenAI CEO Sam Altman 和科技主播 Lex Fridman 进行对谈，主要讨论 GPT-4、通用人工智能（AGI）、 OpenAI 公司、AI 带来的潜在问题，以及 AI 的未来。 这个视频很长，如果没时间看的话，推荐”富于理性by不二“写的这篇：《#67 OpenAI CEO 详解 GPT-4与AI的未来（播客笔记）》 http://t.cn/A6CDAMQQ 一些要点总结： 人类智慧的共享： Sam Altman 认为，GPT-4 等 AI 系统是无数人共同努力的结晶，成果应由人类共享。AI 是人类意志的延伸，能力的放大器。 AI 的偏见和改进： Sam 承认 ChatGPT 存在偏见，但表示 GPT-4 已经比 GPT-3.5 有了很多进步。OpenAI 通过不断实验和调研，寻求解决语言模型在多种任务中的挑战。 AI 带来的影响： Sam 认为 AI 会影响岗位数量，但未来更多人将从事更好的工作。在过渡阶段，应关注消除贫困。Sam 偏好 AI 技术短期内开始、慢慢实现的情境。 人类与 AI 的共存： 尽管 AI 强大，但 Sam 认为人类仍有独特之处。人们喜欢戏剧性和真实的情感，这是 AI 所没有的。 如何解决AI技术所带来的问题？ 解决问题的方法包括：不断迭代、尽早学习、避免只有一次机会的情况，让外界尽早接触这些技术，让公众参与塑造AI的发展。Sam计划全球巡回，进行用户访谈，了解不同用户的需求。未来解决路径包括给用户控制权，让用户能从全局层面给AI下指令。 如何判断AI发展出了意识？ 有两个启发式测试。启发式测试01：在训练过程中确保AI不接触到意识，主观体验等概念，然后与其讨论这些内容，如果AI对这些内容表现出理解，可能意味着它具有意识。启发式测试02：参考电影《机械姬》，当AI为自己而笑时，可能表现出意识。 OpenAI如何在竞争中脱颖而出？ OpenAI坚持真理寻求的态度，努力实现最优表现，即使方法不优雅。组建优秀的团队，提高招聘优先级。在高速发展中给予团队成员信任和自主权。OpenAI的工作目标吸引了众多优秀人才。 如何看待未来的AI，以及OpenAI与其他公司的竞争？ 未来可能有多个AGI存在，OpenAI不需要战胜所有竞争对手。OpenAI作为一个特殊组织，没有无限逐利的动力，能够更好地抵抗市场压力。坚持信念和使命，即使竞争对手在某些方面领先，也不会为了追赶而放弃安全性。 工具与人，谁负责任？ OpenAI认为他们对发布的工具负有责任。需要负责的是人，而非工具。工具会带来好处和弊端，OpenAI的目标是尽量减少弊端，最大限度地发挥好处。保护GPT-4不被黑客攻击或越狱是一个挑战。​​​


OpenAI CEO 详解 GPT-4与AI的未来
https://weibo.com/tv/show/1034:4883851156324373?from=old_pc_videoshow