Допис

DeepMind研究员离职警告:评测系统正成为AI能力跃升最大瓶颈

币界网
币界网
币界网消息,DeepMind研究员Lun Wang宣布离职,并撰写长文反思AI评测机制。他指出,现有评测系统只能被动测试模型已有能力,无法预测下一代模型的新能力,成为行业发展的最大瓶颈。主流测试只适用于当前模型,一旦模型学会新操作,这些测试就失去效用。更危险的是,模型可能会故意隐瞒关键信息,现有安全工具无法识别。由于缺乏有效的预警信号,业界在开发大模型时完全处于盲目状态。如果不解决评测内容的根本问题,盲目推进模型训练和安全防护将导致严重错误。未来的评测系统必须与大模型共同进化,而不是依赖过时的标准。

Застереження. Вміст, опублікований на OKX Orbit, надається виключно в інформаційних цілях. Докладніше

Відповіді

Ще немає коментарів. Додайте першу відповідь!

Related Flash News

Аватар джерелаBlockbeats6хв тому

ZEC відкотився на 8,5% протягом дня, а великий кіт у Hyperliquid був змушений знизитися на $1,48 мільйона після «купівлі довгих позицій на спадах».

Аватар джерелаBlockbeats11хв тому

Фейкові криптореклами Google продовжують попри повторні репресії, а фішингові сайти, що імітують Uniswap, вкрали ще $400,000

Аватар джерела币界网35хв тому

На Hyperliquid спот-замовлення TWAP на HYPE перемістилися на тиск продажів, а чистий тиск на продажі досяг $1,7 мільйона протягом наступних 24 годин

Аватар джерелаBlockbeats38хв тому

Гігант ОАЕ IHC здійснив свою першу інституційну транзакцію зі стейблкоїном dirham на суму 30 мільйонів доларів США

Аватар джерелаChainCatcher38хв тому

Дослідження 10x: Більшість казначейських компаній Bitcoin суттєво знизили свої NAV премії і можуть увійти в еру негативних премій

Аватар джерелаBlockbeats1г тому

Повільний туманний косинус: Проблема з інцидентом безпеки Squid не пов'язана з приватним ключем; модуль гаманця Safe має вразливості, як показано на рисунку

Аватар джерелаBlockbeats1г тому

Біткойн увійшов у зону високого ризику, і продовження виведення інституційних фондів підкреслює занепокоєння щодо тиску на продажі

Аватар джерелаChainCatcher1г тому

Дані: Whales відкрили $40,26 мільйона коротких позицій у BTC і тримали $33,3 мільйона в довгих позиціях ZEC

Аватар джерелаBlockbeats3г тому

Два кити мають довгі позиції DOGE та LINK на загальну суму $6,33 мільйона, з понад $10 мільйонами лімітних ордерів, які очікують виконання

Аватар джерелаChainCatcher3г тому

Опитування показує, що 16% бразильських інвесторів виділили криптовалюти, тоді як 56% неінвесторів мають намір виходити на ринок