原文作者：龙玥
原文来源：华尔街见闻
就在全球AI三大巨头罕见联手呼吁“放缓AI研发”的同一个周末，Anthropic CEO Dario Amodei坐到了CBS的镜头前，说出了AI可能对人类带来的风险。
9月13日，Amodei接受了CBS《周日早间》的专访。访谈一开始，主持人Jo Ling Kent直接抛出问题：AI真的可能在不远的将来杀死我们所有人吗？
Amodei表示，已有人尝试利用AI研发生物武器、增强病毒传染性，这是他每天醒来都要面对的事情。
他还提到，Anthropic的生物学安全防护之严格，以至于“几乎每天都有人在社交媒体上嘲笑我，生物学专业的学生抱怨说模型没法用”。他的回应是：“我宁愿被嘲笑，也不愿某天醒来发现有人用Claude杀了一群人。”
不过，他反对关闭AI模型这种“一刀切”的方式放缓AI。如果一个AI模型足够强大，它可能关都关不掉。他说道，“不是说我们今天需要恐慌，也不是说要把一切都关掉。但我们需要确保我们的安全防护、理解能力和控制能力，能够跟上技术发展的速度。”
此次访谈发生在一个特殊节点。同一个周末，Amodei发表的一篇博文《我们必须为前沿AI踩刹车》（We Must Pace the Frontier）引发轩然大波，并随即获得马斯克、Altman相继公开支持。社区热议称，AI高速前进之际“踩刹车”将重挫“AI交易”。
指数曲线的拐点：不是五级火警，但是警告信号
Jo Ling Kent问道：现在是“五级火警”吗？Amodei的回答是：
他用指数曲线来描述当前的位置：“这项技术在指数级增长——1、2、4、8、16、32……我们现在处于曲线开始变陡的那个弯道上。”
他坦言，即便是他自己，也没有完全预料到进展会如此之快：“即使我一直在对自己说这件事，我也没有真正体会到，当进展真的这么快的时候，实际感受会是什么样的。”
三步方案：第三方评估员是核心
Amodei在访谈中详细阐述了他在博文中提出的三步计划，其中第一步被他视为最关键。
第一步：嵌入式第三方评估员。
“我提议引入嵌入式外部评估员，来自第三方非营利机构，或者未来某天来自政府机构，他们可以观察我们训练和运行模型的全过程。”
他将其比作食品检查员，但Jo Ling Kent追问：当技术变化如此之快，食品检查员能跟得上吗？
Amodei的回答颇具意味：“他们能做的事情之一，就是告诉我们他们能跟上的速度。这可能成为设定技术推进速度上限的因素之一。”
第二步：多家公司共同制定安全标准。
“下一步是多家行业参与者也同意引入第三方评估员。然后，各公司需要共同制定发布安全标准，也许还包括发布节奏的标准。但要做到这一点，必须有政府参与进来。”
第三步：政府必须在场。
“我们谈论的是产品发布速度是否安全的问题。我们需要在政府在场的情况下进行这场对话。”
“AI终止开关”：不是万能药，但也不是坏主意
Jo Ling Kent提到了国会议员Ted Leo提出的“AI终止开关”法案，询问Amodei是否支持。
Amodei表示，他没有仔细研究过该法案，但对“AI终止开关”这一概念本身持审慎态度：
他用“瑞士奶酪模型”来解释他的安全哲学：“想象一片瑞士奶酪，它能挡住一些东西，但有漏洞。但如果我把五片瑞士奶酪叠在一起，不同层的漏洞位置不同，就很难穿透整个叠层。没有任何一件事能保护我们免受AI风险，我们必须在整个链条上都保持谨慎。”
对于参议员Sanders和众议员Casar提出的“禁止人工超级智能法案”——该法案将对相关企业和个人处以“企业死刑”和最高20年监禁——Amodei明确表示不认同完全禁止的路线：
个人责任：父亲死于丙肝，他本人曾患早期癌症
访谈接近尾声，Jo Ling Kent问道：面对人类命运可能处于危险之中的局面，你感受到多少个人责任？
Amodei的回答罕见地带有私人色彩。
他同时强调，这不应该只是他一个人或Anthropic一家公司的责任：“这比我们所有人都要大。我们需要找到一种方式，让每个人都能在这件事上有发言权。我不希望人们感到无力。我不希望他们觉得几家公司只是在为所欲为。”
对前员工批评的回应：他说的和我说的是同一件事
Jo Ling Kent提到，前Anthropic员工Jacob Coxin曾公开表示，Anthropic和OpenAI“都没有负责任地行事”，“你们在拿我们的生命赌博”。
Amodei的回应是：
他补充道，Anthropic每天都在与商务部、财政部和情报界的政府官员沟通，“告诉他们我们所知道的一切”。
给普通用户的话：行业对风险撒谎太久了
访谈最后，Jo Ling Kent问：对于坐在家里使用Claude或ChatGPT的普通用户，你想说什么？
Amodei说：“首先，这是一项伟大的技术，有很多积极用途。我们每周有数亿人在使用我们的技术做美好的事情。每周我都会收到有人写信说，Claude诊断出了他们医生漏诊的疾病。”
他最后说：“这是人类历史上最重要的技术事件之一，我们所有人都必须参与其中。”
访谈全文（略删减）如下：
原文链接：https://www.odaily.news/zh-CN/post/5212974