i've decided to start notetaking on my server, using vimwiki for editing and management after reading all the methods to build a blog system. Finally, i found that i've used to vim, and it's really convenient to have a wiki knowledge manage system as a vim plugin. i also learned that i prefer a static web page rather than a php and mysql system, which takes a lot more extra effort and is useless for notetaking.
i will not do more changes to the present system, for it has taken neally a week to create this version. i should start doing my homeworks right away!
-
交叉熵
- -100 列表 - 特殊标签值(ignore index)，告诉模型计算损失时忽略这些位置
- 通过计算 labels，比较预测label 和 真实lebel 计算损失 loss。优化模型参数
-
label - 从文本 -> 生成文本，通过设置labels，指导模型专注于正确的预测任务，无关输入
- 分类任务中，label 是输入样本的类别；回归任务中，是一个连续值
-
层标准化 - batch Normalization 将不同尺度的特征数据归一化，防止梯度下降速度不均
- layerNorm(LN) - transformer block 中有layernorm
- groupNorm - batch size 过大或过小，不适合用BN，多个维度一起求均值方差
- 全连接层 fc full connection - 线性变换到另一个特征空间，提取特征之间的关联
- tree - 打印目录结构树
- extern "C" - c++ 程序调用被C编译器编译后的函数
- 头文件中ifndef.define.endif的作用
- 预处理 - #define
- const 修饰指针 - const可标注不改变数据成员的函数
- const 与 #define 的区别 - const 有数据类型，编译器可以安全检查，可以被调试
- sizeof - 一些例子
-
strlen 和 sizeof 对比 - 循环计算字符串长度 till "\0", 参数只能是 char* 且以"\0"为止
- sizeof 是运算符，strlen 是函数
- static 变量 - 存储在全局数据区，而main()等函数在栈中
- 单链表 - 链表最简单实现
- malloc和new的区别 - 例如给新节点分配内存
- C++ 语言基本概念
- STL 基本介绍
- string 的方法
- switch语句 - fall through
- c++ 中传递数组的长度
- 对一个数组进行左右循环移动
- int a = INT_MIN - <climits> 头文件中定义的整数能表示的最小值，确保无论数组数据如何，第一次比较都能更新值
- vector 用法
- unordered_set 用法 -- hash table | iterator
- unordered_map 用法 -- <char, int>
- 排序方法 - sort()
- KMP 算法（Knuth-Morris-Pratt） -- 实现一个 next 函数
- 对一个 string 数组进行 string 自排
- 前缀和 - 计算奇数个数
- hash table 的实现 - 散列函数
- Contains Duplicate - 存在重复元素
-
4月中 期刊项目
- 研究目前知识图谱结构，总结到 ppt
- 3月底 leetcode 刷题
- 3月底 面经八股