本文探索了通过微调LLMs使用新闻直接进行股票收益预测,如上图b所示: 1、我们设计了一个包含文本表示和预测模块的基于LLM的收益预测模型。 2、我们假设,仅包含编码器的和仅包含解码器的大型语言模型在预训练和微调阶段对文本序列的处理方式不同,因此它们的文本表示性能可能会有所差异;基于此,我们提出比较仅使用编码器...
下图为使用大模型基于新闻数据进行股票收益预测的流程: 我们知道大语言模型大部分是基于Transformer结构,其中又分为encoder-only(仅使用编码器部分),decoder-only(仅使用解码器部分)和encoder-decoder。本文中对encoder-only和decoder-only两类大语言模型的预测效果进行了对比。 Encoder-Only LLMs(编码器LLMs): 这类模型...
下图为使用大模型基于新闻数据进行股票收益预测的流程: 我们知道大语言模型大部分是基于Transformer结构,其中又分为encoder-only(仅使用编码器部分),decoder-only(仅使用解码器部分)和encoder-decoder。本文中对encoder-only和decoder-only两类大语言模型的预测效果进行了对比。 Encoder-Only LLMs(编码器LLMs): 这类模型...
下图为使用大模型基于新闻数据进行股票收益预测的流程: 我们知道大语言模型大部分是基于Transformer结构,其中又分为encoder-only(仅使用编码器部分),decoder-only(仅使用解码器部分)和encoder-decoder。本文中对encoder-only和decoder-only两类大语言模型的预测效果进行了对比。 Encoder-Only LLMs(编码器LLMs): 这类模型...
下图为使用大模型基于新闻数据进行股票收益预测的流程: 我们知道大语言模型大部分是基于Transformer结构,其中又分为encoder-only(仅使用编码器部分),decoder-only(仅使用解码器部分)和encoder-decoder。本文中对encoder-only和decoder-only两类大语言模型的预测效果进行了对比。Encoder-Only LLMs(编码器LLMs):这类模型主...
下图为使用大模型基于新闻数据进行股票收益预测的流程: 我们知道大语言模型大部分是基于Transformer结构,其中又分为encoder-only(仅使用编码器部分),decoder-only(仅使用解码器部分)和encoder-decoder。本文中对encoder-only和decoder-only两类大语言模型的预测效果进行了对比。