• Complex
  • Title
  • Keyword
  • Abstract
  • Scholars
  • Journal
  • ISSN
  • Conference
成果搜索

author:

姜毅 (姜毅.) [1] | 杨勇 (杨勇.) [2] | 印佳丽 (印佳丽.) [3] | 刘小垒 (刘小垒.) [4] | 李吉亮 (李吉亮.) [5] | 王伟 (王伟.) [6] | 田有亮 (田有亮.) [7] | 巫英才 (巫英才.) [8] | 纪守领 (纪守领.) [9]

Abstract:

近年来,大语言模型(large language model,LLM)作为深度学习网络技术的关键分支,在自然语言处理(natural language processing,NLP)领域取得了一系列突破性成就,并被广泛采用.然而,在其包括预训练、微调和实际部署在内的完整生命周期中,多种安全威胁和隐私泄露的风险相继被发现,引起了学术和工业界越来越多的关注.首先以LLM发展过程中出现的预训练-微调范式、预训练-提示学习范式和预训练-指令微调范式为线索,梳理了针对LLM的常规安全威胁,即3种对抗攻击(对抗样本攻击、后门攻击、投毒攻击)的代表性研究,接着总结了一些最新工作披露的新型安全威胁,然后介绍了LLM的隐私风险及其研究进展.相关内容有助于LLM的研究和部署者在模型设计、训练及应用过程中,识别、预防和缓解这些威胁与风险,同时实现模型性能与安全及隐私保护之间的平衡.

Keyword:

大语言模型 威胁 安全 隐私 预训练语言模型

Community:

  • [ 1 ] 浙江大学计算机科学与技术学院
  • [ 2 ] 贵州大学人民武装学院
  • [ 3 ] 福州大学计算机与大数据学院
  • [ 4 ] 中国工程物理研究院计算机应用研究所
  • [ 5 ] 西安交通大学网络空间安全学院
  • [ 6 ] 智能交通数据安全与隐私保护技术北京市重点实验室(北京交通大学)
  • [ 7 ] 贵州大学计算机科学与技术学院

Reprint 's Address:

Email:

Show more details

Related Keywords:

Source :

计算机研究与发展

Year: 2025

Issue: 08

Volume: 62

Page: 1979-2018

Cited Count:

WoS CC Cited Count:

SCOPUS Cited Count:

ESI Highly Cited Papers on the List: 0 Unfold All

WanFang Cited Count:

Chinese Cited Count:

30 Days PV: 1

Online/Total:871/13851943
Address:FZU Library(No.2 Xuyuan Road, Fuzhou, Fujian, PRC Post Code:350116) Contact Us:0591-22865326
Copyright:FZU Library Technical Support:Beijing Aegean Software Co., Ltd. 闽ICP备05005463号-1