Anthropic与OpenAI提议的人工智能风险评估器为何值得担忧

Anthropic和OpenAI提议使用嵌入式人工智能评估器，帮助管理模型对社会造成灾难性危害的风险，但这一构想存在一些问题。