南宫(28NG.国际)-官方网站-相信品牌力量编辑部
647 阅读
约 5.5 分钟
在最近24小时内，AI界的目光聚焦于研究员尼克·卡马拉塔撰写的一篇长达2.6万字的博文，文章受到极高评价，甚至有人称其为年度最重要的论文。OpenAI的CEO萨姆·奥特曼也对其表达了赞赏。卡马拉塔在文中提出了一系列颠覆性的观点，认为人工智能的可预测性远超人们的想象，这一发现可能改变行业对AI发展的基本假设。
文章强调，生成式AI模型并非“黑箱”，与当前普遍看法截然相反。卡马拉塔认为，理解AI模型的运行机制并不困难。若这一观点成立，将为减少AI带来的风险提供重要帮助，包括防止其滥用和解读AI的行为。目前，有一个领域专注于研究这一点，称为“机械可解释性”。
卡马拉塔之前是OpenAI的员工，一直以来持对立观点，认为神经网络难以理解。而在这篇文章中，他承认自己曾经的看法是错误的，认为神经网络的单个神经元可以被理解，其功能是自洽的。他表示，神经网络其实是“清晰整洁”的，部分神经元响应特定V形特征，包括猫脸和汽车前部的特征。 南宫28ng娱乐最新官网
尽管他的观点引发了兴奋，但并非所有人都认同。因为文章目前仅是“即将发表的技术论文”的初步假设，尚未经过详细评估。此外，他的研究主要集中在视觉模型上，而语言模型如ChatGPT和Claude相对复杂，理解这些模型的运作仍然存在困难。
这场讨论揭示了哲学上的分歧。有观点认为，尽管研究者能近似理解单个神经元，但这不足以解释整个网络的工作机制。即便物理学家对原子及其相互作用有清晰的模型，依然无法预测每个物理事件。
