大模型背后的6大核心技术
2024/12/27
大家好，今天我们一同来探讨一下那些大模型背后的核心技术！ 一、Transformer Transformer模型，无疑是大型语言模型的坚实基石，它开启了深度学习领域的新纪元。在早期阶段，循环神经网络（RNN）曾是处理序列数据的核...
扩散模型及其应用进展综述
【AI驱动】
扩散模型是一种通过模拟扩散过程的概率模型，逐步向数据中添加和去除噪声，从而生成逼真的样本。这些模型由于能够生成高质量的样本，已经在图像处理、语音合成和自然语言处理等领域中获得了广泛的关注。随着扩散模型在各个领域的广泛应用，现有的文献综述往往...
2024/12/27
时间序列特征提取：从原理到Python实践
【AI驱动】
时间序列是一种特殊的存在。这意味着你对表格数据或图像进行的许多转换/操作/处理技术对于时间序列来说可能根本不起作用。 "特征提取"的想法是对我们拥有的数据进行"加工"，确保我们提取所有有意义的特征，以便下一步(通常是机器学习应用)可以...
2024/12/27
新型脉冲神经网络+大模型的综述与展望！
【AI驱动】
近年来大型语言模型（[LLMs]( 受人脑启发，脉冲[神经网络]( 为了为构建节能的大规模SNN模型提供未来方向，我们对现有深度脉冲神经网络开发方法进行了综述，重点介绍了新兴的脉冲[Transformer]( （1）概述了深度脉冲[神...
2024/12/27
深度解析Transformer、RNN和Mamba的联系！
【AI驱动】
通过探索看似不相关的大语言模型(LLM)架构之间的潜在联系,我们可能为促进不同模型间的思想交流和提高整体效率开辟新的途径。 尽管Mamba等线性循环神经网络(RNN)和状态空间模型(SSM)近来备受关注,Transformer架构仍然...
2024/12/27
无监督聚类算法，全汇总！
【AI驱动】
聚类算法在数据挖掘中很常用，它是将数据集中的对象根据相似性自动分组，形成多个类别或簇，以便更好地理解和分析数据。它的应用非常广泛，比如在市场分析中用于客户细分。 聚类算法按照算法原理，可以大致划分为以下几类， 基于距离...
2024/12/27
时间序列图神经网络最新综述(GNN4TS)
【AI驱动】
1.图神经网络在时间序列分析中的综合应用与进展 时间序列是用于记录动态系统测量结果的主要数据类型，并由物理传感器和在线过程（虚拟传感器）大量生成。因此，时间序列分析对于发掘可用数据中隐含的信息丰富性至关重要。随着图神经网络（GNNs）...
2024/12/26
时间序列自监督学习综述
【AI驱动】
自监督学习（SSL）是一种机器学习方法，最近在各种时间序列任务上取得了令人印象深刻的表现。SSL最显著的优点是它减少了对标记数据的依赖。基于预训练和微调策略，即使是少量的标记数据也能实现高性能。 今天分享一篇来自浙大和阿里等研究者们关...
2024/12/26
时间序列损失函数的最新综述！
【AI驱动】
摘要 时间序列预测方法包括使用一组历史时间序列进行预测，在信号处理、模式识别、计量经济学、数学金融、天气预报、地震预测等领域都有广泛应用。过去时间序列预测方法以线性方法为主，然而在许多最新的应用中已经尝试使用机器学习、深度学习、高斯过...
2024/12/26
一文梳理金融风控建模全流程(Python)
【AI驱动】
一、信贷风控简介 信贷风控是数据挖掘算法最成功的应用之一，这在于金融信贷行业的数据量很充足，需求场景清晰及丰富。 信贷风控简单来说就是判断一个人借了钱后面（如下个月的还款日）会不会按期还钱。更专业来说，信贷风控是还款能力及还款意...
2024/12/26
深入LSTM神经网络的时间序列预测
【AI驱动】
前言 RNN（循环神经网络）是一种节点定向连接成环的人工神经网络。不同于前馈神经网络，RNN 可以利用内部的记忆来处理任意时序的输入序列，即不仅学习当前时刻的信息，也会依赖之前的序列信息，所以在做语音识别、语言翻译等等有很大的优势。R...
2024/12/26
时序预测的深度学习算法介绍
【AI驱动】
1 概述 深度学习方法是一种利用神经网络模型进行高级模式识别和自动特征提取的机器学习方法，近年来在时序预测领域取得了很好的成果。常用的深度学习模型包括循环神经网络（RNN）、长短时记忆网络（LSTM）、门控循环单元（GRU）、卷积神经...
2024/12/26
LSTM原理及生成藏头诗（Python）
【AI驱动】
一、基础介绍 1.1 神经网络模型 常见的神经网络模型结构有前馈神经网络(DNN)、RNN（常用于文本 / 时间系列任务）、CNN（常用于图像任务）等等。 前馈神经网络是神经网络模型中最为常见的，信息从输入层开始输入，每层...
2024/12/26
神经网络学习到的是什么？（Python）
【AI驱动】
神经网络（深度学习）学习到的是什么？一个含糊的回答是，学习到的是数据的本质规律。但具体这本质规律究竟是什么呢？要回答这个问题，我们可以从神经网络的原理开始了解。 一、 神经网络的原理 神经网络学习就是一种特征的表示学习，把原始数...
2024/12/26
一文讲透神经网络的激活函数
【AI驱动】
为什么要激活函数？ 原理上来说，神经网络模型的训练过程其实就是拟合一个数据分布（x）可以映射到输出（y）的数学函数，即 y= f(x)。 拟合效果的好坏取决于数据质量及模型的结构，像逻辑回归、感知机等线性模型的拟合能力是有限的，...
2024/12/26
深度学习视觉研究综述
【AI驱动】
近年来，深度学习在计算机视觉各个领域中的应用成效显著，新的深度学习方法和深度神经网络模型不断涌现，算法性能被不断刷新。 本文着眼于当下一些典型网络和模型，对基于深度学习的计算机视觉研究新进展进行综述。首先总结了针对图像分类的主流深度神...
2024/12/26
热门话题
