Synergistic Information Distillation for Machine Learning
Synergistic Information Distillation (SID) 该算法通过 协同信息蒸馏 实现完全无反向传播的模块化训练，核心思想是将深度网络分解为多个独立优化的模块，每个模块通过局部目标函数逐步精炼”信念分布”。 网络架构 整体结构 变量说明 ： x : 输入数据（如图像）
Category
学习笔记
共 24 篇文章
Adaptive Spatial Goodness Encoding in Machine Learning
Adaptive Spatial Goodness Encoding 该算法结构模仿VGG的Block思想，提出了带有Adaptive Spatial Goodness Encoding的Block模块： Block Structure 输入X i为多通道矩阵数据(H, W, c) Convolut
Introduction to ResNet
算法部署 Residual Block 结构 ResNet的核心创新在于引入了 残差连接（Residual Connection） ，也称为 跳跃连接（Shortcut Connection） 。每个Residual Block的基本结构如下： 算法流程 数据流动过程： 1. 输入阶段 ：特征图 x
Convolutional Channel-wise Competitive Learning
卷积通道竞争学习 (CwC) 算法部署笔记 该算法通过 通道维度的竞争机制 实现完全无反向传播的卷积网络训练。其核心思想是将特征图划分为类别相关的通道组，通过最大化目标类别的激活强度来引导网络自主学习特征，摆脱了对全局梯度和负样本生成的依赖。 1. 算法部署框架 1.1 核心架构：CFSE Bloc
能量稳定梯度流方法在深度学习中的实证评估：理论承诺与实践挑战
1. 引言 (Introduction) 1.1 研究背景 深度学习已成为人工智能领域最重要的技术之一，在图像识别、自然语言处理、语音识别等众多领域取得了突破性进展。深度神经网络的训练本质上是一个高维非凸优化问题，其目标是最小化损失函数： \min {w \in \mathbb{R}^n} L(w)
浅谈岭回归与Armijo策略在梯度法中的表现
引言：岭回归及其闭式解 在实际的数据科学中，我们经常遇到病态（ill conditioned）的数据矩阵，即设计矩阵 \mathbf{X}^T\mathbf{X} 的条件数很大，导致最小二乘估计对噪声极其敏感。这种情况在高维数据、共线性特征或样本量不足时尤为常见。病态问题会导致模型参数估计不稳定、方
Introduction to GP Regression
Definition of Gaussian Process A Gaussian Process (GP) is a collection of random variables, any finite number of which have a joint Gaussian distribut
基于BS模型条件下的期权价格改变策略
BS模型基本假设 研究的背景为风险中性、无套利的欧市市场，因此我们有： C(X, S t, r {t,\tau}, \tau) = e^{ r {t,\tau}, \tau} \int 0^{\infty} \psi(S T, X)f(S T)dS T 其中， \tau = T t 为当前时间和交易
Tensorboard 部署测试
Tensorboard in Pytorch Introduction Tensorboard是一个用于机器学习实验的可视化工具包。TensorBoard允许跟踪和可视化指标，如损失和准确性，可视化模型图，查看直方图，显示图像等，本文介绍pytorch架构下使用Tensor Board。核心原理是使
RLHF 强化学习人类反馈
Introduction 强化学习人类反馈（Reinforcement Learning from Human Feedback, RLHF）是一种通过结合强化学习和人类反馈来优化模型性能的方法。RLHF特别适用于那些 主观性强、没有明确目标的任务 ，例如生成文本摘要、回答开放性问题等。 RLHF
Phase Plane Method
Motivation 本文讲述的相平面法[Phase Plane Methods]主要围绕对分析二元微分方程组和一元二次微分方程的向量场，在介绍之前，先引入一个二元微分方程组，The Competitive Lotka Volterra Equations： \frac{dx}{d\overline
数据结构与算法：最短路径问题（1）
题目描述 摘自UNNC Programming and Algorithms (COMP1038) Coursework 2： You are required to write a program that will produce the optimal route and cost C of
数学建模算法：K-Means聚类算法
概念 聚类属于无监督学习，指在没有参照系下对样本集合进行分组，这种分组往往是无标签化的，即分类后无法知道这一类的意义，仅仅是在特征上具有较大相似性。K means算法是常见的聚类算法，在给定分类组数的情况下算法自动进行分类。 K means算法支持大于2维的特性维度，但不支持过大维度的特性。同时对噪
数学建模算法：层次分析法
模型定位 层次分析法「The analytic hierarchy process」是在对复杂的决策问题的本质、影响因素及其内在关系等进行深入分析的基础上，利用较少的定量信息使决策的思维过程数学化，从而为多目标、多准则或无结构特性的复杂决策问题提供简便的 决策方法 。 模型共分为三个层级： 目标层：
针对凸透镜应用于绘画语言的探究
引言 在历史上，凸透镜一直作为光学仪器被人们所研究，早在亚里士多德时期，他就对凸透镜的成像原理做出过简单的定义；13世纪的阿拉伯世界，阿拉伯人使用凸透镜来制作放大镜。随后，在16世纪的欧洲，伽利略·伽利莱和约翰内斯·凯普勒等科学家对凸透镜的性质和成像原理进行了深入研究。在凸透镜的研制上，随着中世纪文
伦勃朗与维米尔系列：The Mysterious Vermeer
维米尔于1632年出生于荷兰代尔夫特，在如今的代尔夫特中心广场，代尔夫特斜塔中保存着他的墓石。不同于其他艺术家向往大城市寻求发展，直到1675年去世，他都没有离开过他的故乡。在代尔夫特，他曾四次担任当地的画家协会会长，相比于高产伦勃朗，维米尔目前传世的也就三十多件作品，仿佛绘画并非是维米尔的谋生之道
伦勃朗与维米尔系列：Rembrandt's Final Years
Rembrandt’s Bankruptcy 伦勃朗即是催债人也是欠债人，四处的创新与房贷让他欠下巨款。由于荷兰与英国的战争还在持续，社会经济萧条，伦勃朗根本无法要到欠款，随后，他放弃了自己原先的大房子，买了一个小房子；他四处拍卖自己的作品，却始终不愿意拿出自己最好的作品，自然也买不出什么好的价钱。
伦勃朗与维米尔系列：Rembrandt In His Prime
Family and Daily Life 到1640年，伦勃朗34岁，家庭的悲剧让他的绘画风格变得朴素与低沉。让他对家庭的表达从浮华的风格变为了深沉的情感表达。油画的尺寸也缩小了，充满了阴影与自然的力量伦勃朗和他的妻子萨斯其亚生有4个孩子，只有最小的一个存活，而他妻子在生孩子后不久去世(1942年
伦勃朗与维米尔系列：Rembrandt In Amsterdam
Coming to Amsterdam 伦勃朗在22岁时前往了阿姆斯特丹，17世纪的阿姆斯特丹是欧洲最大的经济中心与贸易中心，东印度公司垄断了亚洲一带的海上贸易，为城市带来了巨大财富。1630年，阿姆斯特丹证券交易所成立，象征着城市不凡的实力。 同时，阿姆斯特丹还是理性主义思想的发源地，著名的理性主
伦勃朗与维米尔系列：Rembrandt In Leiden
Introduction The interaction of Perception and Expression Basic Concept 视觉艺术大致分为五类： Narrative 叙事 Portraitare 肖像 Genre 风俗 Still Life 静物 Landscape 风景 其中
算法题解[模拟]P1065作业调度方案题解[NOIP2006提高组]
题目描述 我们现在要利用 m 台机器加工 n 个工件，每个工件都有 m 道工序，每道工序都在不同的指定的机器上完成。每个工件的每道工序都有指定的加工时间。 每个工件的每个工序称为一个操作，我们用记号 j k 表示一个操作，其中 j 为 1 到 n 中的某个数字，为工件号； k 为 1 到 m 中的某
OpenCV实现物体追踪
OpenCV实现物体追踪 项目简介 通过Opencv内置函数实现物体追踪，并且部署在ROS中，实现摄像头读取。本文不涉及追踪算法的具体原理，而是针对RM中装甲板识别做出具体的实践部署。 具体项目已经部署在GitHUb：https://github.com/Phoenizard/Track Image
LearnAI
Chapter 1 引言 是时候系统学习一下人工智能了,希望什么时候可以补充一下引言吧 设备环境：Linux Ubuntu20.04 编译环境：miniconda Chapter 2 预备知识 2.1 数据处理 2.1.1 创建张量 此处为torch, 虽然包叫pytorch tensor([ 0,
浅谈PnP的算法原理与实践
PnP问题概述 PnP (Perspective n Point) 是求解3D到2D点对运动的方法，目的是 求解相机坐标系相对世界坐标系的位姿 。已知n个3D点的坐标 (相对世界坐标系) 以及这些点的像素坐标时，如何估计相机的位姿(即求解世界坐标系到相机坐标系的旋转矩阵 R 和平移向量 t ) 定义