Publicar

DeepMind研究员离职警告:评测系统正成为AI能力跃升最大瓶颈

币界网
币界网
币界网消息,DeepMind研究员Lun Wang宣布离职,并撰写长文反思AI评测机制。他指出,现有评测系统只能被动测试模型已有能力,无法预测下一代模型的新能力,成为行业发展的最大瓶颈。主流测试只适用于当前模型,一旦模型学会新操作,这些测试就失去效用。更危险的是,模型可能会故意隐瞒关键信息,现有安全工具无法识别。由于缺乏有效的预警信号,业界在开发大模型时完全处于盲目状态。如果不解决评测内容的根本问题,盲目推进模型训练和安全防护将导致严重错误。未来的评测系统必须与大模型共同进化,而不是依赖过时的标准。

Descargo de responsabilidad: el contenido de OKX Orbit se brinda únicamente con fines informativos. Más información

Respuestas

Aún no hay comentarios. ¡Sé el primero en responder!

Related Flash News

Avatar de fuenteBlockbeatshace 11 min

Bitcoin ha entrado en un rango de alto riesgo, y la continua retirada de fondos institucionales pone de manifiesto las preocupaciones sobre la presión de venta

Avatar de fuenteChainCatcherhace 15 min

Datos: Whales abrió 40,26 millones de dólares en posiciones cortas en BTC y mantuvo 33,3 millones de dólares en posiciones largas en la ZEC

Avatar de fuenteBlockbeatshace 1 h

Las dos ballenas tienen posiciones largas en DOGE y LINK que suman 6,33 millones de dólares, con más de 10 millones en órdenes limitadas pendientes de ejecución

Avatar de fuenteChainCatcherhace 1 h

La encuesta muestra que el 16% de los inversores brasileños han asignado criptomonedas, mientras que el 56% de los no inversores tiene la intención de entrar en el mercado

Avatar de fuenteOdailyhace 2 h

Arthur Hayes: La privacidad financiera será "muy necesaria", por lo que Zcash es la segunda mayor participación

Avatar de fuente币界网hace 2 h

OKX publicó el documento técnico de Exchange OS para construir infraestructura de mercado compartido

Avatar de fuenteBlockbeatshace 2 h

El CEO de Goldman Sachs refuta la "teoría del juicio final del empleo" de la IA: la IA aumentará la productividad y creará nuevos empleos

Avatar de fuenteChainCatcherhace 3 h

Saturn: Bloqueó la dirección del hacker Squid y congeló fondos robados

Avatar de fuenteChainCatcherhace 3 h

Cathie Wood: El objetivo base de Bitcoin para los próximos 5 años es de 750.000 dólares, con un escenario optimista de 1,25 millones de dólares

Avatar de fuenteBlockbeatshace 4 h

El índice KOSPI de Corea del Sur superó los 8.100 puntos, estableciendo un nuevo máximo histórico