Cpp 练习——模仿Qt的信号槽
基本概念首先定义如下的概念： 接收元件：Receiver<Y,Ym> 发送元件：Sender<Ym> 接收者：拥有至少一个接受元（公开成员）的类 发送者：拥有至少一个发送元件（公开成员）的类 中转者：既是发送者也是接收者的类 其中：Ym是信息类型, Y是接收者类型，接收元件和发送元件必须使用同样的信息类型Ym, 才能建立联系进行信息传递。 信息会从建立连接的发送元件传递到接收元件，发送元件和接收元件之间可以是一对多或多对多地建议联系。 具体说明元件之间的连接发送元件和接收元件之间的连接是双向且对等的（与QT的信号和槽函数机制不同）， 它们都可以与对方绑定与解绑（一对多，多对多） 1234567sender.bind(receiver); // 发送元件可以绑定接收元件sender.unbind(receiver); // 发送元件可以解绑接收元件sender.unbind_all(); // 发送元件可以解绑所有的接收元件, 在析构时会自动调用receiver.bind(sender); // 接收元件可以绑定发送元件receiver.unbind(s...
Cpp 练习——编译期异类词典
代码参考：《C++模板元编程实战：一个深度学习框架的初步实现》。 实现代码如下 var_type_dict.hpp12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116216316416516616716816917017117217317417517617717817918018118218...
Cpp 练习——侵入式的调用栈追踪
基于 C++20 的 std::source_location 和宏实现侵入式的函数调用栈追踪。 mtracer.hpp12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970#pragma once#include <algorithm>#include <cstddef>#include <source_location>#include <stack>#include <string>class MTracer {public: // NOLINTNEXTLINE(fuchsia-default-arguments-declarations) explicit MTracer(const std::source_location &location = ...
基于 SVD 实现图片压缩
图像本质上就是一个或多个矩阵，并且通常具有低秩结构，可以利用SVD分解舍弃低奇异值的部分来实现图片的压缩存储。 SVD 压缩可以用在图像中展示低秩近似的效果，但是实际工程中并不会这么用，有两个原因：首先，大部分图像不是低秩的，低秩会丢失图像细节；其次，图像的有损压缩的评价指标是人的感受，而不是矩阵范数差异小。实际的压缩算法例如 JPG 是对图片切分小块，然后对每一块进行离散傅里叶变换（离散余弦变换），同时利用了人的视觉特点，使其去除的信息尽量是人眼不敏感的信息。 简单的 Python 示例实现如下 1234567891011121314151617181920212223242526import numpy as npimport matplotlib.pyplot as pltfrom PIL import Imagedef compress_img_first_k(img_array, k): if img_array.ndim == 2: img_array = img_array[:, :, np.newaxis] m, n, c = i...
Cpp 练习——INI 文件解析
INI 文件是一种常见的配置文件，相比 json 等文件格式简单得多，对 INI 文件的解析适合练手。 实现代码如下，其中使用了 std::ranges ini_parser.hpp123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163#pragma once#include <...
LLM 学习笔记——扩散模型学习 TODO
目前的深度学习笔记只覆盖了 RNN、LSTM 这种循环神经网络和 Transformer 模型， 还可以加上扩散模型部分，毕竟 Transformer 和扩散模型算是大模型领域最著名的两个基石了，前者是主流大语言模型的基础，后者则是主流图片和视频生成模型的基础。 刷了一些短课程，但是目前没空整理笔记，有时间再说。 参考资料： 李宏毅-扩散模型（Diffusion Model） 深入浅出扩散模型（目录） MIT6.S184: Generative AI with Stochastic Differential Equations：深度生成模型短课程，教材 An Introduction to Flow Matching and Diffusion Models
Python 单元测试 unittest / pytest
整理一下 Python 单元测试的内容，包括： 内置的单元测试模块 unittest 第三方测试工具 pytest 除此之外，其实还有直接解析源码注释，获取测试用例的内置模块 doctest。 准备为了便于描述，下面准备两个函数和一个类作为测试目标，构成 my_module.py my_module.py1234567891011121314151617181920def my_add(a, b): return a + bdef my_divide(a, b): return a / bclass MyDict(dict): def __init__(self, **kw): super().__init__(**kw) def __getattr__(self, key): try: return self[key] except KeyError: raise AttributeError(r"'MyDict' object has...
LLM 学习笔记——Transformer 架构解读
Some content in this article was created with AI assistance. Please verify as needed.这份笔记关注大语言模型中的 Transformer 架构的解读和理解。 对于我来说，这份笔记写得太晚了，而且很多内容都是过时的，还是在理解最初的那几篇工作中的内容，但是理解 Transformer 本身是一个在 LLM 时代必学必会的内容，因此还是需要整理一下。 LLM 已经飞速发展近十年了，最初只是相关专业的研究人员在鼓捣，但是现在已经彻底普及并且在改变所有行业了。按照目前的趋势，每一个本科生都应该要掌握大语言模型 Transformer 架构的基础知识，这些知识未来甚至会下沉到高中课程中。毫不客气地说，不理解 LLM，不理解 Transformer，就是 AI 时代的文盲。 准备Transformer 最初用于序列到序列任务，后来逐渐发展出 Encoder-only、Encoder–Decoder 和 Decoder-only 三条路线。 上图整理了 2018—2023 年间代表性模型的架构路线，其中...
Python conda 使用笔记
Anaconda 是一个用于科学计算的开源 Python 发行版，集成了包和 conda 环境管理器，包括了很多数据科学中常用的包，特别适合数据科学和机器学习。 与之类似的还有 Miniconda，它和 Anaconda 的主要区别就是：Miniconda 在安装时只包括了必要部分，并没有附带很多科学计算常用的包，因此本身的安装包很小，在使用时需要手动下载很多包，除此之外没什么区别。 事实上，Anaconda 和 Miniconda 之间还可能存在一些差别，并且不同版本之间，在不同的系统上的行为都可能存在差异。 Miniconda 默认不包含很多科学计算常用的基础库，可以在 base 环境中进行下载安装，例如： 1conda install numpy scipy matplotlib sympy jupyter tqdm Anaconda 公司对 defaults 仓库的商用行为存在限制，开源社区提供的替代品为 miniforge，与 miniconda 的主要区别是修改了默认的 channel 为开源社区的 anaconda.org，此外还额外提供了 mamba 可以...
基于 BibTeX 构建可视化合作网络
在科研中，作者之间的合作关系往往蕴含了很多信息，比如谁是核心作者、合作紧密的团队以及跨学科合作的桥梁。 通过对 BibTeX 文件中的作者信息解析可以获取作者之间的合作关系，并生成可视化图表。 脚本内容coauthor_network.py12345678910111213141516171819202122232425262728293031323334353637383940414243444546474849505152535455565758596061626364656667686970717273747576777879808182838485868788899091929394959697989910010110210310410510610710810911011111211311411511611711811912012112212312412512612712812913013113213313413513613713813914014114214314414514614714814915015115215315415515615715815916016116...