Publicar

DeepMind研究员离职警告:评测系统正成为AI能力跃升最大瓶颈

币界网
币界网
币界网消息,DeepMind研究员Lun Wang宣布离职,并撰写长文反思AI评测机制。他指出,现有评测系统只能被动测试模型已有能力,无法预测下一代模型的新能力,成为行业发展的最大瓶颈。主流测试只适用于当前模型,一旦模型学会新操作,这些测试就失去效用。更危险的是,模型可能会故意隐瞒关键信息,现有安全工具无法识别。由于缺乏有效的预警信号,业界在开发大模型时完全处于盲目状态。如果不解决评测内容的根本问题,盲目推进模型训练和安全防护将导致严重错误。未来的评测系统必须与大模型共同进化,而不是依赖过时的标准。

Aviso legal: o conteúdo do OKX Orbit é fornecido apenas para fins informativos. Saber mais

Respostas

Ainda sem comentários. Sê a primeira pessoa a responder!

Related Flash News

Avatar de origemBlockbeats7 horas

Media dos EUA: Os EUA e o Irão estão a trabalhar para resolver as suas diferenças linguísticas sobre questões nucleares e sanções

Avatar de origemBlockbeats8 horas

巨鲸nemorino.eth杠杆增持7,908.3枚ETH

Avatar de origemChainCatcher8 horas

A YZi Labs lançou a plataforma de recrutamento YZi Talent, integrando posições no seu portefólio Web3, IA e biotecnologia

Avatar de origemBlockbeats9 horas

A delegação iraniana concluiu a sua agenda no Qatar e regressará a Teerão

Avatar de origemBlockbeats9 horas

A ICON será oficialmente encerrada no final de 2026, e o prazo para a migração da ICX para SODA foi confirmado

Avatar de origemBlockbeats9 horas

Uma baleia depositou 17,566 milhões de ENA em Wintermute, perdendo cerca de 3,6 milhões de dólares

Avatar de origem币界网10 horas

Capital Macro: Mesmo que o conflito do Médio Oriente termine em 2026, as grandes economias continuam sem perspetivas de cortar as taxas de juro

Avatar de origemBlockbeats10 horas

Esta semana, os dados macroeconómicos poderão dominar o mercado cripto, com o PCE, os pedidos de subsídio de desemprego e os dados de habitação a tornarem-se indicadores-chave para cortes de taxas da Fed

Avatar de origemBlockbeats11 horas

Na véspera do IPO da SpaceX, surgiu uma controvérsia de 20 mil milhões de dólares sobre transações relacionadas, e o amigo de Musk poderá usar o IPO para se situar no topo da lista global de bilionários

Avatar de origemChainCatcher11 horas

Squid: Os incidentes de segurança não estão relacionados com os protocolos e contratos centrais da Squid; todos os utilizadores e integradores da Squid não foram afetados