生成式AI导论---Hung-yi Lee李宏毅(2) 第2讲---今日的人工智慧厉害在哪里?工具到工具人 同为生成式AI,GPT(属于语言模型,是生成式AI的一类)比谷歌翻译厉害在哪? 答:从“功能单一”到“没有特定功能”,类似工具人。 如何评估如今的模型? 答:答案解法不一;每个人用AI看的事情不同,无法具体评估。 对模型犯...
而深度学习、机器学习都是技术,是手段,和目标不同概念。使用技术能达到的目标不止生成式AI一种,也可以达到类似分类的目标。而达到目标的途径也不只有GLML,但是目前绝大多数的生成式AI都是靠DL达成的,因此勉强可以放置在子集中理解。 机器的创造力---产生在训练时期从来没见过的东西 ※ChatGPT如何产生创造力??核心...
这里的Zero-shot、One-shot、Few-shot都是完全不需要精调的,因为GPT-3是单向transformer,在预测新的token时会对之前的examples进行编码。 GTP-3能干啥 造句: 数学: 生成图像: 就是按顺序生成pixel,其实与文字一样,这样的方法叫raster order。 Few-shot learning是将描述的文字+图像(raster order)送入GPT-3中。
Transformer-李宏毅 (Hung-yi Lee) 笔记 self-attention可以认为是可以并行的RNN,可以替代RNN。 self-attention layer 生成q、k、v的方式,q是用来match其他的k,k是被match的,v是信息。 得到最终的输出 self-attention layer中的运算都是矩阵运算,这样方便GPU加速。 总体框架: Multi-head self-attention Positional ...
NTU_HYLee_MachineLearning_Homework:作业分享:台大李宏毅(Hung-Yi Lee) 教授的Machine Learning (2016, Fall) NTU HY Lee机器学习作业 准备 虚拟环境和依赖项 方法1:virtualenv 创建虚拟环境 $ virtualenv ./ENV 进入虚拟环境 $ source ./ENV/bin/activate 如果要退出虚拟环境, $ deactivate 在虚拟环境下安装依赖...
李宏毅机器学习2016 第二十讲 结构化线性模型 阅读全文 李宏毅机器学习2016 第十九讲 结构化学习简介 视频链接:李宏毅机器学习(2016)_演讲•公开课_科技_bilibili_哔哩哔哩课程资源:Hung-yi Lee课程相关PPT已经打包命名好了:链接:https://pan.baidu.com/s/1c3Jyh6… ...
Lecture 1: Introduction of Deep Learning 1-1. Introduction of Deep Learning 1.Machine Learning: Looking for a Function 2.Three Steps of Deep Learning 3.Neural Network 1-2. Why Deep ? 1-3. "Hello World" for Deep Learning Keras:https://keras.io/ ...
本仓库包含了李宏毅老师2021至2023年机器学习课程的课后作业。每年的作业结构基本保持一致,使用的数据集可能略有不同。仓库前期主要以2022年的作业为主,后期则以2023年的作业为主。 仓库结构 每个作业都组织在其对应的文件夹中,包含以下内容: 任务分析:详细解释作业要求。 基线代码:Simple, medium, strong, and boss...
NTU_HYLee_MachineLearning_Homework:作业分享:台大李宏毅(Hung-Yi Lee) 教授的Machine Learning (2016, Fall) NTU HY Lee机器学习作业 准备 虚拟环境和依赖项 方法1:virtualenv 创建虚拟环境 $ virtualenv ./ENV 进入虚拟环境 $ source ./ENV/bin/activate 如果要退出虚拟环境, $ deactivate 在虚拟环境下安装依赖...
在此过程中,你将掌握 AI 视频摘要、LLM 微调和AI 图像生成等技能。 强烈建议观看李宏毅老师的课程「生成式人工智能导论」同步学习:课程相关链接快速访问 现在,项目还开设了🎡CodePlayground,你可以按照文档配置好环境,使用一行代码运行脚本,体验 AI 的魅力。 📑论文随笔位于 PaperNotes,将逐步上传大模型相关的基础...