本报记者邵文
目前AI大模型正在成为一些行业驱动的底层架构。同时，一般规律是“系统越强，越难解释其行为”。
像OpenAI这样的GPT-3通用语言模型可以生成几乎任何风格和任何主题的非常自然的文本。但是当它写诗的时候，它是怎么做到的呢？它在想什么？有哪些调整让它更忧郁更浪漫，或者以特定的方式限制了它的措辞和词汇？我们几乎一无所知。
“今天的大型通用系统可以带来显著的好处，但它们也可能是不可预测、不可靠和不透明的:我们的目标是在这些问题上取得进展。”OpenAI前研究副总裁达里奥·阿莫代伊(Dario Amodei)此前写道，“Anthropic的目标是推进基础研究，以便我们能够建立更强大、更通用、更可靠的人工智能系统，然后以造福人类的方式部署这些系统。”
当地时间4月29日，人工智能研究机构Anthropic宣布完成5.8亿美元的B轮融资，由加密货币交易所FTX的首席执行官萨姆·班克曼-弗里德(Sam Bankman-Fried)领投。
Anthropic成立时没有明确的盈利目标，因此在A轮融资1.24亿美元时被广泛讨论。科技媒体TechCrunch称“有1.24亿美元可以烧”。在本轮融资中，Anthropic表示，将利用这笔融资建立一个大规模的实验基础设施，以探索和提高计算密集型AI模型的安全性和可靠性。
“通过这次筹款，我们将探索机器学习系统的可预测扩展功能，同时仔细研究大规模功能和安全问题的不可预测方式，”Amodei在公告中说。
根据Anthropic的公告:这项研究的目的是开发建立大规模模型所需的技术组件，这些模型具有更好的隐藏保护措施，需要更少的训练后干预，并开发必要的工具来进一步研究这些模型，以确保保护措施真正有效。该公司还在建立团队和合作伙伴关系，以探索这些模式的政策和社会影响。
如果我们不知道AI系统是如何工作的，那么我们只能在它出现问题时做出反应。例如，它在AI人脸识别中表现出偏见，或者在AI被问及CEO时倾向于描述男性。目前，这样的行为已经被整合到模型中，解决方案是过滤它的输出，而不是一开始就阻止它有那些不正确的“概念”。
目前，Anthropic已经取得了一些进展。在可解释性方面，在小语种模型的数学逆向工程方面取得了进展，并开始了解大语种模型中模式匹配行为的来源。“他们在简化模型中的发现可以转移到更大的模型中，”Conjunction的研究小组Connor Leahy说。
在可操作性和鲁棒性方面，它开发了基线技术，使大型语言模型更加“有用和无害”，然后通过强化学习进一步改善这些属性，并发布了一个数据集，帮助其他研究实验室训练更符合人类偏好的模型。还发表了对大规模语言模型性能突变以及这种现象的社会影响的分析，表明有必要对安全问题进行大规模的研究。
“我们在理解和控制人工智能系统的行为方面取得了初步进展，并正在逐步组装所需的组件，以制造对社会有益的可用和集成的人工智能系统。”阿莫代伊说。
编辑:李跃群
