933yee's Notes
  • Home
  • Archives
  • Categories
  • Tags
  • About

Machine Learning - Self-Attention & Transformer

惡補 ML https://www.youtube.com/watch?v=Ye018rCVvOo&list=PLJV_el3uVTsMhtt7_Y6sgTHGHp1Vb2P2J Self-Attention先前提到的 Input 都只是一個 Vector,然而很多時候,模型吃的是 一組 Vector,又稱 Vector Set、Sequence,又可以分成三類 每個 Vector
2025-03-06
#ml

Machine Learning - CNN

惡補 ML https://www.youtube.com/watch?v=Ye018rCVvOo&list=PLJV_el3uVTsMhtt7_Y6sgTHGHp1Vb2P2J Convolutional Neural Network (CNN)如果用 Fully Connected Network 的方式來做圖片的分類,會有很多參數,雖然可以增加 Model 的彈性,但也會增加 O
2025-03-06
#ml

Machine Learning - PyTorch

惡補 ML https://www.youtube.com/watch?v=Ye018rCVvOo&list=PLJV_el3uVTsMhtt7_Y6sgTHGHp1Vb2P2J PyTorch 是一個開源的機器學習框架 可以做 Tensor Computation,像是 Numpy,但可以用 GPU 加速 可以幫你算 Gradient Tensor Tensor: 高維度的矩
2025-03-06
#ml

Machine Learning - Training Difficulties

惡補 ML https://www.youtube.com/watch?v=Ye018rCVvOo&list=PLJV_el3uVTsMhtt7_Y6sgTHGHp1Vb2P2J 類神經網路訓練不起來卡在 Critical Point Local Minimum Saddle Point 泰勒展開式對於 $L(\theta)$,在 $\theta = \theta^\pr
2025-03-06
#ml

AIAS - AI Models

LectureAlexNet VGG-16 ResNet-50 MobileNetV2 EfficientML.ai Lecture 02: Basics of Neural Networks Model Analysis Latency: 一個任務完成所需的時間 Throughput: 一個時間內完成的任務數量Latency 跟 Throughput 沒有絕對的關聯,優化 Latency 會更難
2025-03-03
AI
#AI

AIAS - Basic

Lecture Base Conversion可以直接用 gdb 來看數字的表示方式,例如 12345678(gdb) p/t 43275$1 = 1010100100001011(gdb) p 0b1010100100001011$2 = 43275(gdb) p/x 43275$3 = 0xa90b(gdb) p 0xa90b$4 = 43275 這樣就可以看到 43275 的二進位、十進位
2025-03-03
AI
#AI

VLSI PDA - Physical Design Introduction

參考清大王廷基老師課程講義 IC Design Flow System Specification 定義系統的需求,例如:功耗、面積、效能、功能等等。 Functional Design 定義系統的功能,例如:模擬、驗證、合成等等。 Logic Synthesis 把功能描述轉換成電路描述,並做邏輯上的優化,例如:RTL、Netlist。 Circuit Design 早期才有,這些 L
2025-02-25
VLSI
#vlsi #physical design #automation

VLSI PDA - Partitioning

參考清大王廷基老師課程講義 Partitioning把整個設計拆分成較小的電路或系統,每個部分可以獨立設計,最後再合併在一起。Decomposition 必須最小化這蠍子系統間的 Interconnection。其他還要考慮的點有 Constraints確保每個部分都符合劃定的條件,像是你每個子系統都要用一個 FPGA 來實現,就要確保子系統的元件數量、I/O Pin 的數量不超過
2025-02-25
VLSI
#vlsi #physical design #automation

Docker 筆記

Docker 架構 Docker DaemonDocker Daemon 負責管理和執行容器的所有操作。 Docker Compose定義和管理多個 Docker 容器。讓你能夠用一個 YAML config file 來定義所有容器,然後一個命令就能啟動他們,像是你同時要有前端、後端、資料庫的時候 步驟 建立 Dockerfile 用這個 Dockerfile 來建立 Image 用這個
2025-02-11
#docker #web

React 筆記

記錄一下常用到的 Components JSXshadcn相見恨晚阿.. 太強了官方文件 TanStack官方有個非常詳盡的文件,這裡只有寫大概怎麼用。 文件寫到 TanStack Table is a modular library. Not all code for every single feature is included in the createTable functions/
2025-02-05
#web #frontend #react
1234…7

Search

Hexo Fluid