ChatGPT 人工智能 GPT4 伦理 生成式 医疗 监管 安全 机器学习 深度学习 神经网络 计算机视觉 强化学习 模型 算法 应用 开发 研究 工具 平台 框架 数据集 训练 部署 安全 合规 培训 投资 LLM,llm AI,ai,Ai 大模型 大语言模型 制图 生图 绘图 文生图 文生视频 生成式AI AGI 世界模型 sora chatGPT,chatgpt,ChatGpt claude openai Llama deepseek midjourney 红熊猫模型 Red panda,panda Stable Diffusion,StableDiffusion,stable DALL- E 3 DALL E DALL Flux,flux 扩散模型 混元大模型 文心一言 通义千问 可灵 Pika PixelDance 豆包 月之暗面 零一万物 阶跃星辰 搜索增强 MiniMax Talkie Agent prompt fastai LangChain TTS 微调 提示词 知识库 智能体
# 热门搜索 #
搜索
OpenAI创始成员Andrej Karpathy:这才是技术之美
5833点击    2024-09-29 22:36
技术应该是大脑的插件,而不是计算机病毒。


技术应该是什么样子?


我们知道乔布斯有「为改变混乱繁杂而生的现代简约主义」的设计理念。所以苹果提供的科技产品都是简洁的。可斯人已逝,如今我们身边的科技产品似乎又进入了复杂与不实用的怪圈之中。


近日,知名 AI 领域学者 Andrej Karpathy 发表了自己对于产品哲学的看法,引发了人们的讨论。



Andrej Karpathy:我爱计算器。


Andrej Karpathy 博士毕业于斯坦福大学,师从李飞飞,是 OpenAI 的创始成员,曾任特斯拉 AI 高级总监,也是 YouTube「学习区」的一位知名博主。今年 7 月,Karpathy 宣布创业,创办了一家名为 Eureka Labs 的人工智能 + 教育公司。



在他的眼中,优秀的产品设计应该是「不打扰人」的,强大的技术被包含在简洁而实用的外表之下。只有这样的产品才能经得起时间的考验。奈何在 2024 年的今天,我们几乎看不到有新的电子设备遵循这样的理念了。


让我们看看 Andrej Karpathy 是怎么说的:


前几天,我在逛书店,无意中看到了《计算帝国:袖珍计算器的崛起与统治》这本书。



当我翻阅它时,突然意识到:我是如此喜欢计算器 —— 我指的不是你今天会购买和使用的物理设备,我指的是技术产品和某种哲学的象征。请看:



计算器真是太神奇了!当你用手指操作它时,它就变成了你大脑的一个插件,在算术领域扩展了人脑的计算能力。它让你变得更聪明。但更不可思议的是实现这一点的方法。


计算器是一个完全独立的物理产品,对我们技术圈的其余部分几乎没有任何「依赖性」。它只需要光(得益于微型太阳能电池板)和 / 或电池(这是一种通用商品)就能发挥作用。你可以选择用钱一次性购买计算器。从那时起,它就属于你了。只要你按下「ON」按钮,它就会打开,随时为你计算。


如果你带着这个可以握在手掌中的小东西穿越时空,把它交给几千年前的人们,它当然仍会工作。这感觉完全就是疯狂的奇迹。


让我们从如今日益被接受的常规技术角度来看待这一点。


计算器不需要互联网连接即可使用。它不会要求蓝牙权限,不想知道你的精确地理位置,不会提示你创建帐户,也不需要登录什么东西。


它不会每隔一周下载更新,不会被反复要求你创建和升级对计算器 Plus 版本的订阅,常规的版本就可以计算正弦和余弦。


它不会试图尴尬地成为一个「平台」,它不需要你的信用卡记录,它不会要求跟踪你的使用数据以改进产品,它不会随机打断你并要求你对其进行审核或发送反馈。它不会收集你的信息,以便以后在粗暴的数据市场上出售,或在下一次数据泄露时泄露到暗网上。


它不会自动订阅你的每月新闻通讯,它不会在每次服务条款变更时通知你,服务器宕机时它不会崩溃。


你在此设备上执行的计算是完全私密、安全的,完全局限于设备本身,并且不会在任何地方保存或记录任何运行记录。计算器是你大脑的完全独立的算术插件。它今天可以使用,一千年前也可以使用。你为购买它付费,现在它就是你的了。它没有其他主人。它只是做它的事情。这就是完美的。



这款获得数千条好评的二氧化碳监测器要求我创建一个帐户,下载其应用程序并允许精确的位置信息,然后它才会报告我房间里的二氧化碳含量。


为什么我们的技术如此地趋向于复杂、依赖性膨胀、致力于反用户、充满不人性的混乱局面?


一个经常浮现在脑海中的类比是,在资本主义经济中,公司可以被认为是在监管约束下最大化股东价值的一个优化问题。所以,这些是公司过度优化目标的症状吗?当你可以出租产品、最大化信息收集、控制现在和未来,并收集和货币化任何客户数据时,出售产品这件事的优先级又排在第几位呢?


这是否意味着监管不足,让人们面临着不利于用户的行业实践、无定价的外部性和垄断?


作为消费者和开发者,我们必须记住并深刻地理解技术可能的形态。它可能就像计算器。也许不是在整个经济中所有产品和服务的具体、实际意义上的存在,而是一种可以从各个维度接近的柏拉图式理想。


作为消费者,我们可以更加了解和敏感地看待这种趋势,并通过触碰了底线(股东价值术语)来进行反击。


而作为开发者,我们可以为优化贡献一个额外的选项 —— 意识形态的正则化梯度。只有这样,我们才有希望达到全局最优。



资本主义经济中一家公司的简单数学模型,用于解决二次规划优化问题。


未来如果出现一款像计算器一样简洁实用的大模型工具,会是什么样呢?


文章来源于“机器之心”


关键词: openai , AI , Karpathy , 人工智能