课程详情
1. 大模型的深入理解
1.1 自注意力机制
注意力机制的原理与发展
自注意力在文本处理中的应用
1.2 Transformer模型
Transformer模型的结构与工作原理
位置编码与多头注意力机制的详细讲解
实战演练:实现简单的Transformer模型
1.3 BERT模型介绍
BERT模型的双向编码器表示
BERT模型的预训练与微调过程
实战演练:使用BERT进行文本分类任务
2. Embedding嵌入技术在大模型中的应用
2.1 词嵌入(Word Embedding)
Word2Vec、GloVe、FastText的基本原理
实战演练:构建并可视化词嵌入模型
2.2 句子嵌入(Sentence Embedding)
句子嵌入技术及其在文本相似度计算中的应用
2.3 上下文嵌入(Contextual Embedding)
上下文嵌入的概念及其在大模型中的应用
3. 工具与平台
3.1 LLM应用程序技术栈和提示词工程(Prompt Engineering)
提示词工程的基本概念与重要性
提示词设计与优化的技巧
实战演练:设计并优化提示词进行文本生成
3.2 LangChain等工具的使用与基本演练
安装与配置LangChain
LangChain的基本使用方法与实际应用案例
4. 实战演练
4.1 基于大模型的文本生成与理解
文本生成任务:生成诗歌、新闻、故事等
文本理解任务:情感分析、主题建模
实战演练:使用大模型进行文本生成与分析
李海良简介
李海良,,暨南大学副教授,硕士生导师,九三学社社员,中山大学工学博士香港城市大学访问学者,广东工业大学校外合作研究生导师。研究方向为深度学习、图像识别、智慧综合能源和能源大数据。在IEEE Transactions on Neural Networks and Learning Systems和Information fusion等TOP期刊第一作者发表SCI论文6篇,主持省级课题2项,参与国家自然科学基金1项。长期担任IEEE Internet of Things Journal、International Journal of Communication Systems、IET Computer Vision、IET Image Processing和 IET Radar, Sonar & Navigation等SCI期刊审稿人。曾获得第六届全国电子信息科学博士生论坛论文成果汇报二等奖(2017),第七届全国电子信息科学博士生论坛论文成果汇报三等奖(2016),2020年12月在INSCRYPT 2020 国际会议担任Session chair。
2018年获得中山大学工学博士学位,2019年至2021年在暨南大学网络安全学院做博后,合作导师为密码学与信息安全领域专家、国家杰青翁健教授。
擅长操作系统和数据库的安全配置,针对注入式、篡改、伪造、流量分析以及窃听等主流攻击方式有深入研究,在人工智能领域,针对对抗样本攻击与防御方面发表多篇SCI论文。
曾参与基于联邦学习的广东海关数据隐私保护系统的研发工作,参与暨南大学与金山毒霸的校园网攻防安全软件的研发工作
参与基于视频图像安全的珠海电力局电缆防外破项目
参与东软集团社保系统和医院管理系统的研发工作
曾经为广东移动、深圳市电力局、肇庆学院、岭南师范学院、华南农业大学、东莞城市学院、电子科技大学中山学院以及郑州航空工业管理学院等知名企业院校提供培训服务,积累了大量的行业培训项目经验。
擅长主讲课程:
《人工智能》《计算机网络》《网络与信息安全》《软件工程》《物联网》《大数据和数据科学》 《网络安全》 《互联网与人工智能》 《网络信息安全与数据安全》 《 高级计算机系统结构》 《物联网技术》 《 云计算与大数据算法设计》 《软件工程》 《 研究方法论》 《物联网技术与发展趋势 《网络空间安全前沿问题研究》 《智能人机交互》 《高级人工智能》 《大数据科学应用》 《信息安全》 《高级软件工程》 《高级算法设计与分析》
获奖经历:
2015年8月 第六届全国电子信息科学博士生论坛论文成果汇报二等奖
2016年8月 第七届全国电子信息科学博士生论坛论文成果汇报三等奖
2020年12月 INSCRYPT 2020 Session chair
学习经历
2014年9月-2018年6月,中山大学,信息与通信工程,博士研究生
2017年7月-2017年9月,香港城市大学,访问学者
工作经历
2019年2月至2021年2月,暨南大学信息科学技术学院,博士后
研究方向
基于注意力机制的神经网络,智慧综合能源和能源大数据。
主要论文
1. Hailiang Li, Jian Weng*,Adaptive Dropout Method Based on Biological Principles,IEEE Transactions on Neural Networks and Learning Systems,vol.32,no.9, pp.4267-4276, Sept. 2021,JCR1区,IF:10.451,TOP期刊
2. Hailiang Li, Jian Weng*, A Defense Method Based on Attention Mechanism Against Traffic sign Adversarial samples,Information Fusion,Volume 76, 2021, Pages 55-65,JCR1区,IF:12.975,TOP期刊
3. Hailiang Li, et al,A Semi-automated Annotation Algorithm Based on Weakly Supervised Learning for Medical Images,Biocybernetics and Biomedical Engineering 40 (2020) pp. 787-802, SCI索引,第一作者,影响因子:4.314
4. Hailiang Li, et al,An improved deep learning approach for detection of thyroid papillary cancer in ultrasound images,Scientific Reprots,(2018) 8:6600,SCI索引,第一作者,影响因子:4.379
5.张宇,李海良*.基于RSA的图像可识别对抗攻击方法[J].网络与信息安全学报,2021,7(05):40-48.通信作者,中国科技核心期刊
承担课题
1. 基于注意力机制的安全性图像识别模型研究与应用,2021广东省普通高校特色创新项目,主持,17.12万元,项目编号:2021KTSCX006;
2. 基于 AIOT 的多维视觉下电力施工人员工作监控与管理系统,广东省科技创新战略专项资金,主持,2万元,项目编号:PDJH2021b0058;
社会职务
广东工业大学,校外合作硕士生导师
其他课程推荐
培训课程 | 主讲 |
---|---|
房建项目的全生命周期管理要点 | 吕子明 |
标杆项目实施管理、铝模施工、防水施工管理、总分包单位管理 | 吕子明 |
被动式近零能耗建筑与绿色建筑、装配式建筑发展与研究 | 吕子明 |
总工团队沟通与协调能力提升 | 刘祥 |
总承包企业项目总工的质量管理实战 | 刘祥 |
总承包企业的项目管理实战 | 刘祥 |
智能化与系统集成工程的项目管理实战 | 刘祥 |
智慧工地与智能建造的落地管理 | 刘祥 |