来源：财新网 时间：2023-07-08 08:44:36
(资料图)
“大规模数据集的投毒攻击，确实是可以在现实中实施的威胁，它能够对我们现在使用的模型产生重大的影响。”在7月7日于上海举办的世界人工智能大会人工智能风险与安全分论坛上，谷歌DeepMind研究科学家尼古拉斯·卡里尼（Nicholas Carlini）提醒大家，一些科学家们只用于学术层面上测试的安全攻击，已经成为了实际环境中的现实威胁。
数据投毒是一种经典的攻击形式，攻击者将少量中毒样本添加到模型的训练数据集，使得模型在训练过程中“中毒”，破坏模型的可用性或完整性。卡里尼提出，当前机器学习界的一个很大问题是，机器学习研究通常只关注攻击的潜在影响，而不是它在实际应用中的可能性。因此，研究者更多在关心对手能够实现的最终目标，而不是对手如何真正实现这一目标。“我们以前认为这些攻击可能只是研究人员喜欢玩的学术恶作剧，但机器学习界真的需要关注所有这些安全攻击，并尝试理解什么是真正可以在实践中实施的实际威胁。”
谷歌科学家：对大规模数据集“投毒”已成现实威胁
鸡爪是胶原蛋白还是脂肪（为什么建议少吃鸡爪）
《信长之野望:新生 威力加强版》系统介绍第三期“丰富的战略性”
乡村需要体育，体育需要乡村
平板wlan和wifi版哪个好用_平板wlan和wifi的区别
大华山镇百亩鲜食玉米成熟上市
重庆暴雨逾10万人受灾 重庆暴雨失踪者家属:想找到遗体 基本情
黄冈浠水警方打掉一盗销摩托车团伙，涉案价值10万余元
欧洲央行副行长：核心通胀有望回落 多数指标出现“软化”
传音推出Infinix ZEROBOOK 13旗舰笔记本：最高搭载 13代酷睿 i9
泰达航母2023年上半年预计净利554万同比扭亏为盈 游客接待量较
国机汽车：全资公司被审查起诉
7月7日国内黄金期货跌0.3%
京东携手爱空间推出整装新品“魔方”
大兴区西红门镇养老照料中心（鸿坤清檬颐养中心）收费价格表
浙江绍兴公布首批茶叶过度包装问题专项整治典型案例
6月全球手游发行商收入Top10 有39家中国手游发行商
常州有什么厂（常州有什么大学）
安泰集团（600408）6月7日主力资金净买入22.05万元
2018款牧马人外挂式备胎介绍及2018款牧马人轮胎型号尺寸多少 焦点快播
